AI Act: obowiązki firm i terminy, które musisz znać

Harmonogram: co już obowiązuje, a co dopiero nadejdzie

AI Act wszedł w życie 1 sierpnia 2024 r., ale jego przepisy stosuje się etapami. To ważne, bo część obowiązków jest już wymagalna, a firmy często zakładają, że mają czas do 2026 lub 2027 roku.

Pod koniec 2025 r. Komisja Europejska zaproponowała w ramach pakietu tzw. digital omnibus zmiany, które mogą przesunąć niektóre terminy dla systemów wysokiego ryzyka. Do czasu przyjęcia takich zmian obowiązują daty z rozporządzenia, dlatego przed planowaniem projektu sprawdź aktualny stan prac legislacyjnych.

• 2 lutego 2025 r.: zakazane praktyki (art. 5) oraz obowiązek kompetencji w zakresie AI (art. 4)
• 2 sierpnia 2025 r.: obowiązki dostawców modeli AI ogólnego przeznaczenia (GPAI), przepisy o organach i karach
• 2 sierpnia 2026 r.: większość pozostałych przepisów, w tym systemy wysokiego ryzyka z Załącznika III i obowiązki przejrzystości z art. 50
• 2 sierpnia 2027 r.: systemy wysokiego ryzyka będące elementem produktów objętych prawodawstwem harmonizacyjnym z Załącznika I

Jaką rolę pełni Twoja firma

Rozporządzenie przypisuje obowiązki do ról. Dostawca (provider) to podmiot, który rozwija system AI lub model albo zleca jego rozwój i wprowadza go do obrotu pod własną nazwą. Podmiot stosujący (deployer) używa systemu AI w ramach swojej działalności zawodowej. Są też importerzy, dystrybutorzy i upoważnieni przedstawiciele.

Większość polskich MŚP będzie podmiotami stosującymi. Uwaga jednak na sytuacje, w których firma staje się dostawcą: gdy oznacza cudzy system wysokiego ryzyka własną marką, wprowadza w nim istotną zmianę albo zmienia przeznaczenie systemu tak, że staje się on systemem wysokiego ryzyka (art. 25). Software house budujący rozwiązanie AI dla klienta też może być dostawcą, w zależności od tego, pod czyją nazwą system trafia na rynek.

Rolę ustala się osobno dla każdego systemu. Ta sama firma może być podmiotem stosującym narzędzie do analizy umów kupione od zewnętrznego dostawcy i jednocześnie dostawcą modułu rekomendacji, który sama zbudowała i oferuje klientom. Dlatego inwentarz systemów AI powinien zawierać kolumnę z rolą firmy, kategorią ryzyka, właścicielem biznesowym i datą ostatniej oceny.

Kategorie ryzyka w praktyce

Zakazane praktyki z art. 5 obejmują m.in. manipulację wykorzystującą techniki podprogowe, wykorzystywanie słabości osób ze względu na wiek lub niepełnosprawność, scoring społeczny, rozpoznawanie emocji w miejscu pracy i w edukacji (z wyjątkami medycznymi i bezpieczeństwa) oraz nieukierunkowane pozyskiwanie wizerunków twarzy z internetu do baz rozpoznawania twarzy. Jeśli którekolwiek narzędzie w firmie zbliża się do tych obszarów, trzeba to przeanalizować natychmiast, bo zakaz już obowiązuje.

Systemy wysokiego ryzyka to przede wszystkim przypadki z Załącznika III: rekrutacja i zarządzanie pracownikami, dostęp do edukacji, ocena zdolności kredytowej osób fizycznych, wycena ryzyka w ubezpieczeniach na życie i zdrowotnych, dostęp do usług publicznych, infrastruktura krytyczna, biometria, egzekwowanie prawa, migracja i wymiar sprawiedliwości. Artykuł 6 ust. 3 przewiduje wyjątki, gdy system wykonuje wąskie zadanie proceduralne i nie wpływa istotnie na decyzję, ale trzeba to udokumentować.

Systemy ograniczonego ryzyka podlegają głównie obowiązkom przejrzystości z art. 50. Pozostałe systemy, na przykład filtry antyspamowe czy narzędzia do planowania produkcji, nie mają szczególnych wymogów poza ogólnym obowiązkiem kompetencji w zakresie AI.

Obowiązki dostawcy systemu wysokiego ryzyka

Dostawca ponosi największy ciężar. Musi zaprojektować system i proces jego tworzenia tak, aby spełniał wymagania z rozdziału III, sekcja 2, a następnie przejść ocenę zgodności, sporządzić deklarację zgodności UE, umieścić oznakowanie CE i zarejestrować system w unijnej bazie danych przed wprowadzeniem do obrotu.

W praktyce oznacza to dokumentację, której wiele firm technologicznych dziś nie prowadzi w sposób systematyczny. Norma ISO/IEC 42001:2023 o systemie zarządzania AI nie daje domniemania zgodności z AI Act, ale porządkuje wiele procesów, które rozporządzenie wymaga, zwłaszcza system zarządzania jakością z art. 17.

• System zarządzania ryzykiem przez cały cykl życia (art. 9)
• Zarządzanie danymi treningowymi, walidacyjnymi i testowymi, w tym badanie stronniczości (art. 10)
• Dokumentacja techniczna według Załącznika IV (art. 11)
• Automatyczne rejestrowanie zdarzeń (art. 12)
• Instrukcja użytkowania dla podmiotu stosującego (art. 13)
• Nadzór człowieka zaprojektowany w systemie (art. 14)
• Dokładność, odporność i cyberbezpieczeństwo (art. 15)
• System zarządzania jakością (art. 17) i monitorowanie po wprowadzeniu do obrotu (art. 72)

Obowiązki podmiotu stosującego

Firma, która używa systemu wysokiego ryzyka, na przykład narzędzia do automatycznej oceny kandydatów, ma obowiązki z art. 26. Musi stosować system zgodnie z instrukcją dostawcy, powierzyć nadzór osobom z odpowiednimi kompetencjami i uprawnieniami, zapewnić, że dane wejściowe, nad którymi ma kontrolę, są adekwatne, monitorować działanie systemu i przechowywać generowane automatycznie logi przez co najmniej sześć miesięcy, o ile inne przepisy nie stanowią inaczej.

Pracodawca wdrażający system wysokiego ryzyka w miejscu pracy musi poinformować o tym pracowników i ich przedstawicieli. Podmioty publiczne oraz niektóre podmioty prywatne, m.in. oceniające zdolność kredytową lub wyceniające ryzyko w ubezpieczeniach na życie i zdrowotnych, muszą też przeprowadzić ocenę skutków dla praw podstawowych (art. 27). Jeśli system przetwarza dane osobowe, obok tego pozostaje obowiązek oceny skutków dla ochrony danych z RODO.

Obowiązki przejrzystości z art. 50 dotyczą szerszego grona. Osoba rozmawiająca z chatbotem powinna wiedzieć, że komunikuje się z AI, chyba że jest to oczywiste. Treści typu deepfake trzeba oznaczać, a podmiot stosujący system rozpoznawania emocji lub kategoryzacji biometrycznej musi informować osoby, których to dotyczy.

Kompetencje w zakresie AI: obowiązek dla każdego

Artykuł 4 wymaga od dostawców i podmiotów stosujących podjęcia środków, aby personel i inne osoby obsługujące systemy AI w ich imieniu miały wystarczający poziom kompetencji. Ten obowiązek obowiązuje od 2 lutego 2025 r. i dotyczy każdego systemu AI, nie tylko systemów wysokiego ryzyka.

Rozporządzenie nie narzuca formy szkolenia ani certyfikatu. Rozsądne podejście to rejestr narzędzi AI używanych w firmie, krótkie zasady korzystania, na przykład czego nie wolno wklejać do publicznych modeli językowych, oraz szkolenia dopasowane do roli i udokumentowane listą uczestników.

Kary, nadzór w Polsce i pierwsze kroki

AI Act przewiduje kary do 35 mln euro lub 7 proc. światowego rocznego obrotu za naruszenie zakazanych praktyk, do 15 mln euro lub 3 proc. za naruszenie większości innych obowiązków oraz do 7,5 mln euro lub 1 proc. za podanie nieprawidłowych informacji organom. Dla MŚP stosuje się niższą z dwóch kwot.

Każde państwo członkowskie musi wyznaczyć organy nadzoru rynku. W Polsce przygotowywano odrębną ustawę o systemach sztucznej inteligencji, która ma określić organ nadzoru i procedury. Sprawdź jej aktualny status w ISAP i komunikatach Ministerstwa Cyfryzacji. Bezpłatna samoocena na baltum.ai pomaga uporządkować zarządzanie AI w firmie w oparciu o ISO/IEC 42001 i wskazuje najważniejsze luki.

• Sporządź inwentarz systemów AI, w tym funkcji AI wbudowanych w kupione oprogramowanie
• Dla każdego systemu ustal rolę firmy i kategorię ryzyka, a wynik zapisz
• Wyeliminuj lub przeanalizuj prawnie wszystko, co może być zakazaną praktyką
• Zaplanuj szkolenia z kompetencji AI i zasady korzystania z narzędzi generatywnych
• Od dostawców systemów wysokiego ryzyka żądaj instrukcji użytkowania i deklaracji zgodności

Artykuł ma charakter informacyjny i nie stanowi porady prawnej. baltum.ai to niezależne oprogramowanie, a nie jednostka certyfikująca.