Правила игры для искусственного интеллекта
Стандарт ISO/IEC 42001:2023 "Информационные технологии. Искусственный интеллект. Система менеджмента", опубликованный в декабре прошлого года, призван обеспечить компаниям всестороннее руководство по созданию и использованию быстро развивающихся умных технологий.
За последние несколько лет в мире возникла серьезная путаница из-за противоречивых подходов IT-корпораций к вопросам ответственного применения искусственного интеллекта (ИИ), поэтому вполне логично, что ISO решила «навести порядок». В отличие от общих принципов, новый стандарт ISO содержит конкретные указания и инструкции. Особое внимание уделяется системам управления ИИ - реестрам различных технологий, которые использует компания. В них должна содержаться информация о целях, способах и сферах применения каждого отдельного инструмента. Как говорится в самом документе, «подобные системы – это основа, определяющая политики, задачи и процессы для ответственной разработки, внедрения и использования решений на базе ИИ».
Хотя стандарт ISO/IEC 42001:2023 носит добровольный характер, у компаний будет серьезная мотивация ему следовать - в скором времени в разных странах появятся государственные регулировки, обойти которые будет уже сложнее. К примеру, к 2025 году в ЕС должен вступить в силу Акт об искусственном интеллекте. Кроме того, соответствие стандарту ISO поможет компаниям завоевать доверие общественности, обеспокоенной потенциальными рисками технологий ИИ.
Согласно исследованиям, в США люди чаще выражают опасения в отношении ИИ, нежели воодушевление. Их беспокоят такие аспекты, как конфиденциальность личных данных, которые часто используются для обучения моделей без разрешения, предвзятость алгоритмов, потенциальные злоупотребления и.т.д.
Эксперты советуют компаниям воспринимать данный стандарт ISO как инструмент непрерывного мониторинга рисков. Он призван стать частью культуры разработки ПО и ответственного подхода к ИИ.
Кроме того, стандарт ISO/IEC 42001:2023 должен подтолкнуть создателей ИИ к переосмыслению своих решений, которые имеют серьезные последствия в реальном мире. Если крупные корпорации примут рекомендации ISO во внимание, это задаст вектор развития всей индустрии.
Источник: SecurityLab.ru