Що таке ISO/IEC 42001?
ISO/IEC 42001:2023 — перший міжнародний стандарт систем управління штучним інтелектом (AIMS). Він допомагає організаціям, які розробляють, надають або використовують ШІ-системи, керувати ризиками ШІ, діяти відповідально й показувати клієнтам і регуляторам, що ШІ під контролем.
Стандарт має ту саму структуру розділів 4–10, що ISO 9001 та ISO/IEC 27001, тож його можна вбудувати в чинну систему управління. Додаток A містить 38 контрольних заходів, зокрема щодо політики у сфері ШІ, оцінки впливу ШІ-систем, якості даних, життєвого циклу ШІ-систем і відносин із третіми сторонами. Сертифікат видає акредитований орган із сертифікації.
Кому потрібен ISO 42001?
- SaaS- і технологічним компаніям, які вбудовують ШІ-функції у свої продукти
- Компаніям, чиї корпоративні клієнти питають, як контролюється ШІ
- Організаціям, що готуються до вимог Регламенту ЄС про ШІ (AI Act)
- Фінтех-, медичним, HR-tech та іншим компаніям, що використовують ШІ в чутливих рішеннях
- Компаніям з ISO/IEC 27001, які хочуть розширити систему на ШІ
Що перевіряє самооцінка за ISO 42001
- Сфера застосування системи управління ШІ та ваша роль: розробник, постачальник чи користувач ШІ
- Політика у сфері ШІ, залученість керівництва та відповідальність
- Оцінка ризиків ШІ та оцінка впливу ШІ-систем на людей і суспільство
- Якість і походження даних, документування ШІ-систем
- Заходи впродовж життєвого циклу: проєктування, перевірка, впровадження, моніторинг і виведення з експлуатації
- Постачальники та сторонній ШІ, прозорість для користувачів, внутрішній аудит і поліпшення
Типові прогалини
- Немає реєстру ШІ-систем і ШІ-інструментів, що використовуються в компанії
- Ризики ШІ обговорюють неформально, але не оцінюють і не фіксують
- Немає оцінки впливу для ШІ-систем, що стосуються клієнтів або працівників
- Бракує правил використання генеративного ШІ працівниками
- Сторонні ШІ-моделі та API використовуються без оцінки постачальника
ISO 42001 і Регламент ЄС про ШІ
ISO/IEC 42001 — добровільний стандарт, а AI Act — закон. Це різні речі, але система управління ШІ дає управління, ризик-менеджмент і документацію, яких очікує й AI Act. У BALTUM також є окрема самооцінка за EU AI Act.