Czym jest AI Act?
Akt o sztucznej inteligencji został opublikowany w Dzienniku Urzędowym UE 12 lipca 2024 roku i wszedł w życie 1 sierpnia 2024 roku. Jako rozporządzenie obowiązuje bezpośrednio we wszystkich państwach członkowskich, bez potrzeby implementacji krajowej, a jego zakres jest eksterytorialny: obejmuje także dostawców spoza UE, jeżeli ich systemy AI lub wyniki działania tych systemów są wykorzystywane w Unii.
Rozporządzenie przyjmuje podejście oparte na ryzyku (risk-based approach): im większe ryzyko dla zdrowia, bezpieczeństwa i praw podstawowych, tym surowsze wymagania. Nadzór sprawują krajowe organy nadzoru rynku oraz (dla modeli AI ogólnego przeznaczenia) Urząd ds. AI (AI Office) przy Komisji Europejskiej, wspierany przez Europejską Radę ds. Sztucznej Inteligencji.
Klasyfikacja ryzyka: cztery poziomy plus GPAI
Każdy system AI trzeba przypisać do jednej z kategorii ryzyka. Od tej klasyfikacji zależą wszystkie dalsze obowiązki. Osobny reżim dotyczy modeli AI ogólnego przeznaczenia (GPAI), takich jak duże modele językowe, które mogą zasilać wiele różnych systemów.
- Ryzyko niedopuszczalne (art. 5) obejmuje praktyki zakazane: manipulacja podprogowa, wykorzystywanie słabości osób, scoring społeczny, przewidywanie przestępczości wyłącznie na podstawie profilowania, masowe pozyskiwanie wizerunków twarzy z internetu, rozpoznawanie emocji w pracy i edukacji, zdalna identyfikacja biometryczna w czasie rzeczywistym w przestrzeni publicznej (z wąskimi wyjątkami dla organów ścigania).
- Wysokie ryzyko (art. 6, załącznik III): na przykład AI w rekrutacji i zarządzaniu pracownikami, ocenie zdolności kredytowej, edukacji, infrastrukturze krytycznej, biometrii, dostępie do usług publicznych, wymiarze sprawiedliwości. Dozwolone, ale pod ścisłymi wymaganiami art. 9-15 i oceną zgodności.
- Ograniczone ryzyko (art. 50) wiąże się z obowiązkami przejrzystości: chatboty muszą ujawniać, że są AI; treści syntetyczne i deepfake muszą być oznaczane.
- Ryzyko minimalne: zdecydowana większość zastosowań (filtry spamu, AI w grach, systemy rekomendacji); brak nowych obowiązków, zalecane dobrowolne kodeksy postępowania.
- Modele GPAI (art. 51-56): dokumentacja techniczna, informacje dla integratorów, polityka praw autorskich i streszczenie danych treningowych; modele z ryzykiem systemowym (próg treningu 10^25 FLOPS) dodatkowo: oceny modelu, testy kontradyktoryjne, raportowanie poważnych incydentów i cyberbezpieczeństwo.
Kogo dotyczy i w jakiej roli?
AI Act rozróżnia role w łańcuchu wartości AI i do każdej przypisuje inne obowiązki. Najwięcej spoczywa na dostawcy (provider), czyli podmiocie, który rozwija system AI i wprowadza go do obrotu pod własną nazwą. Podmiot stosujący (deployer), czyli każda firma lub instytucja używająca AI w swojej działalności, odpowiada między innymi za użycie zgodne z instrukcją, nadzór człowieka, adekwatność danych wejściowych i informowanie osób. Importerzy i dystrybutorzy weryfikują, czy systemy, które wprowadzają na rynek, mają wymaganą dokumentację i oznakowanie.
Ważna pułapka praktyczna: podmiot stosujący, który opatrzy system wysokiego ryzyka własną marką albo istotnie go zmodyfikuje (na przykład znacząco dotrenuje kupiony model do nowego przeznaczenia), przejmuje pełne obowiązki dostawcy. Klasyfikacja zależy przy tym od zastosowania, nie od technologii: ten sam model językowy użyty jako chatbot marketingowy podlega tylko przejrzystości, a użyty do selekcji CV tworzy system wysokiego ryzyka.
Obowiązki dla systemów wysokiego ryzyka (art. 9-15)
Rdzeń rozporządzenia to siedem wymagań dla systemów wysokiego ryzyka, które dostawca musi spełnić przed wprowadzeniem systemu do obrotu i utrzymywać przez cały cykl życia, potwierdzając to oceną zgodności, deklaracją zgodności UE, oznakowaniem CE i rejestracją w publicznej bazie danych UE.
- System zarządzania ryzykiem (art. 9): ciągły, iteracyjny proces przez cały cykl życia systemu.
- Zarządzanie danymi (art. 10): adekwatne, reprezentatywne zbiory treningowe, walidacyjne i testowe, badane pod kątem stronniczości.
- Dokumentacja techniczna (art. 11, załącznik IV): kompletna i aktualna, gotowa do przedłożenia organowi.
- Rejestrowanie zdarzeń (art. 12): automatyczne logi umożliwiające odtworzenie działania systemu.
- Przejrzystość i informacje dla podmiotów stosujących (art. 13): instrukcje z przeznaczeniem, dokładnością i ograniczeniami.
- Nadzór człowieka (art. 14): realna możliwość zignorowania, wstrzymania lub odwrócenia wyniku systemu.
- Dokładność, odporność i cyberbezpieczeństwo (art. 15): deklarowane metryki oraz odporność na błędy i ataki specyficzne dla AI.
Harmonogram stosowania 2025-2027
Rozporządzenie weszło w życie 1 sierpnia 2024 roku, ale jego przepisy zaczynają obowiązywać etapami. Część obowiązków już wiąże i jest egzekwowalna.
- 2 lutego 2025: zakazy praktyk AI (art. 5) oraz obowiązek kompetencji w zakresie AI (AI literacy, art. 4).
- 2 sierpnia 2025: obowiązki dla modeli GPAI, powołanie organów nadzoru, przepisy o karach.
- 2 sierpnia 2026: zasadnicza część rozporządzenia, w tym wymagania dla systemów wysokiego ryzyka z załącznika III i obowiązki przejrzystości z art. 50.
- 2 sierpnia 2027: systemy wysokiego ryzyka będące elementami produktów regulowanych unijnym prawodawstwem harmonizacyjnym (załącznik I, na przykład wyroby medyczne, maszyny) oraz koniec okresu przejściowego dla modeli GPAI wprowadzonych na rynek przed sierpniem 2025.
Kary i egzekwowanie
AI Act przewiduje trzy progi administracyjnych kar pieniężnych, liczonych od kwoty stałej albo procentu całkowitego rocznego światowego obrotu przedsiębiorstwa, zależnie od tego, która wartość jest wyższa. Stosowanie praktyk zakazanych z art. 5 grozi karą do 35 milionów euro lub 7% obrotu. Naruszenie większości pozostałych obowiązków (w tym wymagań dla systemów wysokiego ryzyka i obowiązków przejrzystości) grozi karą do 15 milionów euro lub 3% obrotu. Podanie organom nieprawdziwych, niekompletnych lub wprowadzających w błąd informacji grozi karą do 7,5 miliona euro lub 1% obrotu. Dla małych i średnich przedsiębiorstw oraz startupów stosuje się niższą z dwóch wartości.
Oprócz kar organy nadzoru rynku mogą żądać dokumentacji, nakazać działania naprawcze, a ostatecznie wycofać system z rynku. W praktyce presja przychodzi też od strony rynkowej: klienci korporacyjni i sektor publiczny już dziś wpisują zgodność z AI Act do kwestionariuszy zakupowych i umów, podobnie jak wcześniej stało się z RODO.
Jak pomaga Guardiso?
Guardiso przekłada AI Act na działający program zgodności: od inwentaryzacji i klasyfikacji systemów AI, przez obowiązki przypisane do ról i terminów, po dowody gotowe na kontrolę.
- Rejestr systemów AI z klasyfikacją ryzyka według AI Act i przypisaniem roli organizacji (dostawca / podmiot stosujący) dla każdego systemu.
- Kontrole AI Act tworzone automatycznie po włączeniu standardu: od zakazów z art. 5, przez wymagania art. 9-15, po GPAI i monitorowanie po wprowadzeniu do obrotu.
- Polityka AI, zasady dopuszczalnego użycia i szablony FRIA (ocena skutków dla praw podstawowych) generowane i wersjonowane w platformie.
- Rejestr ryzyk AI (stronniczość, dryf modelu, bezpieczeństwo, własność intelektualna) powiązany z kontrolami i planami postępowania.
- Zadania cykliczne pilnujące terminów: przeglądy klasyfikacji, szkolenia AI literacy, aktualizacje dokumentacji technicznej, testy nadzoru człowieka.
- Repozytorium dowodów dla organu nadzoru lub klienta, zebranych w jednym miejscu: dokumentacja techniczna, logi, deklaracje zgodności, zapisy szkoleń.
- Mapowanie krzyżowe na ISO/IEC 42001, ISO 27001 i RODO: system zarządzania AI budowany raz zalicza pokrywające się wymagania wielu ram.