Что такое ISO/IEC 42001?
ISO/IEC 42001:2023 — первый международный стандарт систем менеджмента искусственного интеллекта (AIMS). Он помогает организациям, которые разрабатывают, предоставляют или используют ИИ-системы, управлять рисками ИИ, действовать ответственно и показывать клиентам и регуляторам, что ИИ находится под контролем.
Стандарт имеет ту же структуру разделов 4–10, что ISO 9001 и ISO/IEC 27001, поэтому его можно встроить в действующую систему менеджмента. Приложение A содержит 38 контрольных мер, например по политике в области ИИ, оценке воздействия ИИ-систем, качеству данных, жизненному циклу ИИ-систем и отношениям с третьими сторонами. Сертификат выдаёт аккредитованный орган по сертификации.
Кому нужен ISO 42001?
- SaaS- и технологическим компаниям, которые встраивают ИИ-функции в продукты
- Компаниям, чьи корпоративные клиенты спрашивают, как контролируется ИИ
- Организациям, которые готовятся к требованиям Регламента ЕС об ИИ (AI Act)
- Финтех-, медицинским, HR-tech и другим компаниям, использующим ИИ в чувствительных решениях
- Компаниям с ISO/IEC 27001, которые хотят расширить систему на ИИ
Что проверяет самооценка по ISO 42001
- Область применения системы менеджмента ИИ и ваша роль: разработчик, поставщик или пользователь ИИ
- Политика в области ИИ, участие руководства и ответственность
- Оценка рисков ИИ и оценка воздействия ИИ-систем на людей и общество
- Качество и происхождение данных, документирование ИИ-систем
- Меры на протяжении жизненного цикла: проектирование, проверка, внедрение, мониторинг и вывод из эксплуатации
- Поставщики и сторонний ИИ, прозрачность для пользователей, внутренний аудит и улучшение
Типичные пробелы
- Нет реестра ИИ-систем и ИИ-инструментов, используемых в компании
- Риски ИИ обсуждаются неформально, но не оцениваются и не фиксируются
- Нет оценки воздействия для ИИ-систем, затрагивающих клиентов или сотрудников
- Отсутствуют правила использования генеративного ИИ сотрудниками
- Сторонние ИИ-модели и API используются без оценки поставщика
ISO 42001 и Регламент ЕС об ИИ
ISO/IEC 42001 — добровольный стандарт, а AI Act — закон. Это разные вещи, но система менеджмента ИИ даёт управление, риск-менеджмент и документацию, которых ожидает и AI Act. В BALTUM также есть отдельная самооценка по EU AI Act.