Czym jest ISO/IEC 42001?
ISO/IEC 42001:2023 to pierwsza międzynarodowa norma dla systemów zarządzania sztuczną inteligencją (AIMS). Pomaga organizacjom, które tworzą, dostarczają lub wykorzystują systemy AI, zarządzać ryzykiem AI, działać odpowiedzialnie i pokazać klientom oraz regulatorom, że AI jest pod kontrolą.
Norma ma tę samą strukturę rozdziałów 4–10 co ISO 9001 i ISO/IEC 27001, więc można ją włączyć do istniejącego systemu zarządzania. Załącznik A zawiera 38 zabezpieczeń referencyjnych, m.in. dotyczących polityki AI, oceny wpływu systemów AI, jakości danych, cyklu życia systemów AI i relacji ze stronami trzecimi. Certyfikat wydaje akredytowana jednostka certyfikująca.
Komu potrzebna jest ISO 42001?
- Firmom SaaS i technologicznym, które wbudowują funkcje AI w swoje produkty
- Firmom, których klienci korporacyjni pytają o nadzór nad AI
- Organizacjom przygotowującym się do obowiązków z unijnego aktu o AI (AI Act)
- Firmom z branży fintech, medycznej, HR-tech i innym, które wykorzystują AI w wrażliwych decyzjach
- Firmom z certyfikatem ISO/IEC 27001, które chcą rozszerzyć system o AI
Co sprawdza ocena gotowości do ISO 42001
- Zakres systemu zarządzania AI i Twoja rola: twórca, dostawca lub użytkownik AI
- Polityka AI, zaangażowanie kierownictwa i odpowiedzialności
- Ocena ryzyka AI i ocena wpływu systemów AI na ludzi i społeczeństwo
- Jakość i pochodzenie danych oraz dokumentacja systemów AI
- Zabezpieczenia w cyklu życia: projektowanie, weryfikacja, wdrożenie, monitorowanie i wycofanie
- Dostawcy i AI stron trzecich, przejrzystość wobec użytkowników, audyt wewnętrzny i doskonalenie
Typowe luki
- Brak rejestru systemów i narzędzi AI używanych w firmie
- Ryzyka AI są omawiane nieformalnie, ale nie są oceniane ani zapisywane
- Brak oceny wpływu dla systemów AI dotyczących klientów lub pracowników
- Brak zasad korzystania z generatywnej AI przez pracowników
- Modele i API AI stron trzecich są używane bez oceny dostawcy
ISO 42001 a AI Act
ISO/IEC 42001 jest dobrowolna, a AI Act to prawo. To nie to samo, ale system zarządzania AI zapewnia nadzór, zarządzanie ryzykiem i dokumentację, których oczekuje także AI Act. BALTUM oferuje również osobną samoocenę zgodności z AI Act.