ISO 42001: що це за стандарт і як впровадити систему управління штучним інтелектом

Що таке ISO/IEC 42001 і чим він відрізняється від інших стандартів

ISO/IEC 42001:2023 описує вимоги до системи управління штучним інтелектом, англійською AI management system або AIMS. Стандарт опубліковано наприкінці 2023 року спільно ISO та IEC. Це сертифікаційний стандарт: незалежний орган сертифікації може провести аудит і видати сертифікат, якщо система відповідає вимогам.

Важливо розуміти, що 42001 не є технічною специфікацією для моделей. У ньому немає вимог до точності, архітектури нейромережі чи конкретних метрик. Натомість він вимагає, щоб організація визначила, де і як використовує ШІ, хто за це відповідає, які ризики виникають для людей і бізнесу, як ці ризики оцінюються і контролюються, і як усе це перевіряється та покращується з часом.

Стандарт побудований на тій самій гармонізованій структурі, що й ISO 9001 або ISO/IEC 27001. Тому компанія, яка вже має систему управління інформаційною безпекою, може інтегрувати AIMS у наявні процеси: спільні політики, внутрішній аудит, аналіз з боку керівництва, управління документацією.

Кому потрібен стандарт: розробники, постачальники і користувачі ШІ

ISO 42001 підходить будь-якій організації, яка розробляє, надає або використовує системи ШІ. Стандарт розрізняє ролі: постачальник рішення, виробник, користувач, партнер, суб'єкт даних. Від вашої ролі залежить, які ризики і контролі будуть актуальними.

На практиці стандарт найчастіше цікавить три типи компаній. Перший тип: продуктові компанії та SaaS, які вбудовують ШІ у свій продукт і отримують від клієнтів питання про відповідальне використання ШІ. Другий тип: IT-підрядники та аутсорсингові компанії, які розробляють моделі або інтеграції для клієнтів. Третій тип: організації, які активно використовують зовнішні сервіси ШІ у HR, обслуговуванні клієнтів, кредитному скорингу чи аналітиці і хочуть контролювати ці процеси.

Для компаній, що працюють з ринком ЄС, стандарт є корисною рамкою для підготовки до Регламенту (ЄС) 2024/1689, відомого як EU AI Act. Але сертифікат 42001 сам по собі не означає відповідності AI Act: регламент має власні юридичні обов'язки, які потрібно перевіряти окремо.

Розмір компанії не є перешкодою. Стандарт масштабується: невелика команда, яка використовує дві-три системи ШІ, може мати компактну документацію і простий реєстр ризиків. Головне, щоб процеси відповідали реальним ризикам і щоб їх можна було показати на практиці, а не лише на папері.

Структура стандарту: розділи 4-10 і додатки

Обов'язкові вимоги містяться в розділах 4-10. Їх потрібно виконати повністю, винятки тут не допускаються. Коротко про кожен:

• Розділ 4. Контекст: внутрішні та зовнішні фактори, зацікавлені сторони, роль організації щодо ШІ, межі (scope) AIMS.
• Розділ 5. Лідерство: зобов'язання керівництва, політика щодо ШІ, ролі та повноваження.
• Розділ 6. Планування: оцінка ризиків ШІ, обробка ризиків, Statement of Applicability, оцінка впливу систем ШІ, цілі AIMS.
• Розділ 7. Підтримка: ресурси, компетентність, обізнаність, комунікація, документована інформація.
• Розділ 8. Функціонування: виконання запланованих процесів, регулярна оцінка ризиків і впливу.
• Розділ 9. Оцінювання: моніторинг, внутрішній аудит, аналіз з боку керівництва.
• Розділ 10. Поліпшення: невідповідності, коригувальні дії, постійне поліпшення.

Annex A і оцінка впливу: що реально перевіряє аудитор

Додаток A містить перелік контролів, згрупованих за цілями: політики щодо ШІ, внутрішня організація, ресурси для систем ШІ, оцінка впливу, життєвий цикл системи ШІ, дані для систем ШІ, інформування зацікавлених сторін, використання систем ШІ, відносини з третіми сторонами. Додаток B дає рекомендації щодо впровадження кожного контролю, додатки C і D описують типові цілі, джерела ризиків і застосування в різних галузях.

Як і в ISO 27001, організація не зобов'язана впроваджувати всі контролі. Вона обирає їх на основі оцінки ризиків і фіксує рішення у Statement of Applicability із поясненням, чому контроль застосовано або виключено.

Характерна вимога саме 42001 полягає в оцінці впливу системи ШІ на людей, групи людей і суспільство. Тут розглядаються не лише бізнес-ризики, а й можливі наслідки для прав, безпеки, недискримінації, приватності. Аудитор зазвичай просить показати методику оцінки впливу, заповнені оцінки для конкретних систем, реєстр ризиків ШІ, рішення щодо їх обробки, а також докази, що оцінку повторюють при суттєвих змінах моделі чи даних.

Покроковий план впровадження AIMS

Для компанії на 30-300 працівників реалістичний порядок дій виглядає так. Терміни сильно залежать від кількості систем ШІ і зрілості наявних процесів, тому плануйте їх після першої оцінки розривів.

• Скласти інвентар систем ШІ: власні моделі, вбудовані функції в продуктах, зовнішні сервіси на кшталт генеративних асистентів, які використовують працівники.
• Визначити роль організації для кожної системи і межі AIMS: які продукти, підрозділи і локації входять.
• Затвердити політику щодо ШІ та призначити відповідальних, включно з власниками систем.
• Розробити методику оцінки ризиків ШІ і оцінки впливу, провести їх для систем у межах AIMS.
• Обрати контролі з Annex A, підготувати Statement of Applicability і план обробки ризиків.
• Описати життєвий цикл ШІ: вимоги, дані, розробка, валідація, розгортання, моніторинг, виведення з експлуатації.
• Навчити персонал, запустити моніторинг, провести внутрішній аудит і аналіз з боку керівництва.
• Обрати акредитований орган сертифікації і пройти аудит у два етапи: перевірка документації та перевірка впровадження.

Типові прогалини, які виявляються на старті

Найпоширеніша проблема полягає в тому, що компанія не знає повного переліку систем ШІ. Інженери використовують сторонні API, маркетинг працює з генеративними інструментами, HR тестує сервіс для відбору резюме, і ніхто не зводить це в один реєстр.

Друга типова прогалина стосується даних. Часто неможливо показати, звідки взято навчальні дані, на якій правовій підставі вони обробляються, як перевірялася їхня якість і репрезентативність. Для аудитора це критичні питання, бо від даних залежить упередженість і надійність моделі.

Третя прогалина полягає у відсутності моніторингу після запуску. Модель протестували перед релізом, але ніхто не відстежує дрейф даних, скарги користувачів чи інциденти. Четверта прогалина стосується постачальників: договори з провайдерами моделей не містять вимог щодо прозорості, змін моделі, використання даних клієнта для навчання. Нарешті, політика щодо ШІ існує як документ, але працівники про неї не знають і не проходили навчання.

Ще одна типова помилка полягає в тому, що відповідальність за ШІ повністю передають технічній команді. Стандарт вимагає залучення керівництва: саме воно затверджує політику, виділяє ресурси і приймає рішення щодо прийнятного рівня ризику. Якщо на інтерв'ю директор не може пояснити, які системи ШІ використовує компанія і хто за них відповідає, аудитор це помітить.

Документи і докази, які варто мати до сертифікаційного аудиту

Сертифікаційний аудит проходить у два етапи. На першому етапі аудитор перевіряє, чи визначені межі AIMS, чи є обов'язкова документація і чи готова організація до другого етапу. На другому етапі він перевіряє, чи процеси справді працюють: розмовляє з власниками систем, розробниками, представниками HR і керівництва, вибірково переглядає записи.

Нижче перелік документів і записів, які аудитори запитують найчастіше. Назви можуть відрізнятися, важливо, щоб зміст був і щоб його можна було показати швидко.

• Опис меж AIMS з переліком систем ШІ і ролей організації щодо кожної з них.
• Політика щодо ШІ, затверджена керівництвом, і докази її доведення до працівників.
• Методика оцінки ризиків ШІ, реєстр ризиків і план їх обробки.
• Методика і заповнені оцінки впливу систем ШІ на людей і суспільство.
• Statement of Applicability з обґрунтуванням включення та виключення контролів Annex A.
• Записи життєвого циклу: вимоги до системи, опис даних, результати валідації, рішення про розгортання.
• Результати моніторингу роботи моделей, журнал інцидентів і звернень користувачів.
• Договори або оцінки постачальників моделей і даних.
• Звіт внутрішнього аудиту, протокол аналізу з боку керівництва, записи про коригувальні дії.

Як ISO 42001 поєднується з ISO 27001 та EU AI Act

Якщо у вас уже є сертифікат ISO/IEC 27001, значна частина роботи зроблена: управління документами, внутрішній аудит, аналіз керівництва, управління постачальниками і інцидентами. AIMS додає специфічні для ШІ елементи: оцінку впливу, життєвий цикл моделей, якість даних, прозорість для користувачів. Багато органів сертифікації пропонують інтегровані аудити обох систем.

Щодо EU AI Act, стандарт допомагає побудувати процеси, яких вимагає регламент для систем високого ризику: управління ризиками, управління даними, технічну документацію, людський нагляд, моніторинг після виведення на ринок. Проте регламент визначає конкретні юридичні обов'язки, класифікацію ризиків і строки, які варто перевіряти за офіційним текстом і актуальними роз'ясненнями Європейської комісії.

Щоб зрозуміти, з чого почати, корисно спершу оцінити поточний стан. Безкоштовна самооцінка на baltum.ai показує рівень готовності до ISO 42001 і перелік прогалин за розділами стандарту.

Стаття має інформаційний характер і не є юридичною консультацією. baltum.ai — незалежне програмне забезпечення, а не орган із сертифікації.