Czy wiesz, które narzędzia AI w twojej firmie podlegają już dziś unijnym przepisom, a które dopiero za rok będą wymagały pełnej dokumentacji? Większość przedsiębiorców zakłada, że temat ich nie dotyczy, bo „nie robią niczego ryzykownego”. Tymczasem AI Act obowiązuje w Polsce bezpośrednio od 1 sierpnia 2024 roku, pierwsze zakazy weszły w życie 2 lutego 2025 roku, a kolejne terminy biegną niezależnie od tego, czy firma zdążyła się przygotować.
Rozporządzenie UE 2024/1689, znane jako AI Act, to pierwsza na świecie regulacja obejmująca zarówno systemy AI, jak i modele AI – i stosuje się bezpośrednio we wszystkich krajach Unii Europejskiej bez potrzeby krajowej ratyfikacji. Polska ustawa go nie zastępuje. Uzupełnia go wyłącznie w zakresie powołania krajowego organu nadzoru i określenia procedur jego działania. Oznacza to, że każda firma działająca na terenie UE podlega przepisom rozporządzenia niezależnie od tego, czy polska ustawa wykonawcza jest już w pełni gotowa.
Poniższy tekst scala wątki z kilku wcześniejszych wpisów na ten temat. Znajdziesz tu harmonogram wdrożenia, opis kategorii ryzyka, obowiązki dostawców i użytkowników systemów AI, listę zakazanych praktyk, wysokość kar oraz aktualny status polskiej legislacji. Jeśli trafiłeś tu z jednego z przekierowanych adresów, to właśnie tu jest treść, której szukałeś.
Harmonogram AI Act – co już obowiązuje, a co dopiero nadejdzie?
Rozporządzenie weszło w życie 1 sierpnia 2024 roku. Sześć miesięcy później, 2 lutego 2025 roku, zaczęły obowiązywać dwie grupy przepisów: zakazy określonych praktyk AI oraz wymóg podnoszenia kompetencji pracowników, czyli AI literacy. Organizacje wdrażające systemy AI mają od tej daty obowiązek zapewnienia, że osoby pracujące z tymi systemami rozumieją ich działanie i ograniczenia.
Kolejna data to 2 sierpnia 2025 roku. Lider tego wpisu wskazuje ją jako moment wejścia w życie przepisów o modelach AI ogólnego przeznaczenia (GPAI) oraz możliwości nakładania kar administracyjnych w tym obszarze. Inne źródła umieszczają jednak część wymogów GPAI dopiero w sierpniu 2026 roku. Rozbieżność ta nie została rozstrzygnięta w dostępnych materiałach, dlatego firmy rozwijające lub wdrażające modele GPAI powinny śledzić oficjalne wytyczne Komisji Europejskiej.
2 sierpnia 2026 roku to data, od której pełne obowiązki dotyczą systemów sklasyfikowanych jako wysokiego ryzyka – w obszarach takich jak rekrutacja, kredytowanie, ochrona zdrowia, edukacja i infrastruktura krytyczna. Firmy działające w tych sektorach muszą do tego czasu przeprowadzić ocenę zgodności, przygotować dokumentację techniczną i wdrożyć mechanizmy nadzoru człowieka. Rok później, 2 sierpnia 2027 roku, przepisy obejmą systemy AI zintegrowane z produktami podlegającymi unijnemu prawu sektorowemu, np. wyroby medyczne czy maszyny przemysłowe.
Daty nie są orientacyjne. Kary administracyjne mogą być nakładane od momentu wejścia w życie poszczególnych przepisów, a nie dopiero po jakimś „okresie łaski”.
Co reguluje rozporządzenie UE 2024/1689 – systemy i modele AI jednocześnie.
Wcześniejsze unijne regulacje technologiczne dotyczyły albo produktów, albo usług, albo danych. AI Act jako rozporządzenie UE 2024/1689 jako pierwsze obejmuje jednocześnie systemy AI i modele AI, co oznacza, że przepisy dotyczą zarówno gotowych aplikacji (np. narzędzia do oceny kandydatów w HR.), jak i samych modeli językowych czy multimodalnych, które mogą być podstawą wielu różnych produktów.
Dla firm to istotna różnica. Producent modelu i producent aplikacji zbudowanej na tym modelu mogą podlegać różnym obowiązkom. Podmiot, który tylko kupuje i wdraża gotowe rozwiązanie, też ma swoje obowiązki – i nie może zasłaniać się tym, że „model dostarczył ktoś inny”.
Szczególna kategoria to modele GPAI z ryzykiem systemowym. Próg wyznaczony w rozporządzeniu to moc obliczeniowa użyta do treningu przekraczająca 10^25 FLOP. Modele, które przekraczają ten próg, mają dodatkowe wymogi: obowiązkową ocenę ryzyka systemowego, zgłaszanie incydentów do organów nadzoru oraz aktywną współpracę z regulatorem. To przepis skierowany przede wszystkim do największych laboratoriów AI, ale każda firma, która korzysta z ich API lub buduje na ich modelach produkty komercyjne, powinna wiedzieć, z czym ma do czynienia.
Poza progiem FLOP, wszystkie modele GPAI mają obowiązki związane z dokumentacją techniczną i przejrzystością danych treningowych. Modele udostępniane na zasadach open source mają częściowe wyłączenia, ale nie są całkowicie poza zakresem rozporządzenia.
Cztery kategorie ryzyka – jak AI Act klasyfikuje systemy AI?
AI Act dzieli systemy AI na cztery poziomy ryzyka, a każdy poziom oznacza inny zestaw obowiązków lub zakazów.
Pierwszy poziom to praktyki zakazane bezwzględnie – systemy, których w ogóle nie wolno stosować. Drugi to systemy wysokiego ryzyka, które można wdrażać, ale przy spełnieniu rozbudowanych wymogów. Trzeci poziom to systemy ograniczonej przejrzystości, gdzie wymagane jest przede wszystkim informowanie użytkowników o tym, że mają do czynienia z AI. Czwarty poziom to ryzyko minimalne – tu nie ma szczególnych obowiązków.
Zanim firma zacznie się martwić o dokumentację i audyty, warto ustalić, do której kategorii należą jej narzędzia. Zdecydowana większość codziennych narzędzi AI – asystenci głosowi w smartfonach, filtry spamu, systemy rekomendacji treści – należy do kategorii minimalnego ryzyka i nie wymaga żadnych dodatkowych działań.
Poniżej lista praktyk bezwzględnie zakazanych, które obowiązują już od 2 lutego 2025 roku:
- social scoring – ocenianie obywateli przez władze publiczne na podstawie zachowań społecznych;
- manipulacja podprogowa – techniki wpływające na decyzje poza świadomą percepcją użytkownika;
- wykorzystywanie podatności – celowe używanie AI przeciwko dzieciom lub osobom z niepełnosprawnościami;
- biometryczna identyfikacja w czasie rzeczywistym w przestrzeni publicznej (z wąskimi wyjątkami dla organów ścigania);
- rozpoznawanie emocji w miejscu pracy i w placówkach edukacyjnych;
- biometryczna kategoryzacja według wrażliwych cech, takich jak rasa, orientacja seksualna czy poglądy polityczne.
Ważne jest, że „wysokie ryzyko” to precyzyjna kategoria prawna zdefiniowana w załącznikach do rozporządzenia, a nie intuicyjne poczucie, że system jest niebezpieczny. Algorytm do sortowania CV może wydawać się niewinnym narzędziem organizacyjnym, a mimo to wpada wprost do tej kategorii, bo dotyczy zatrudnienia. Odwrotnie – system generujący muzykę przy użyciu zaawansowanego modelu językowego to z perspektywy AI Act ryzyko minimalne.
Systemy wysokiego ryzyka – które branże są pod lupą?
Załącznik III do rozporządzenia wymienia osiem obszarów, w których systemy AI są automatycznie uznawane za wymagające szczególnej kontroli. To nie jest zamknięta lista na zawsze – Komisja Europejska może ją rozszerzać aktami delegowanymi, ale na starcie obejmuje sektory, które mają bezpośredni wpływ na życie i prawa konkretnych ludzi.
Rekrutacja i zarządzanie pracownikami to jeden z najczęściej przywoływanych przykładów. Algorytmy do wstępnej selekcji aplikacji, systemy rankingujące kandydatów, narzędzia do monitorowania wydajności pracowników – wszystkie te rozwiązania wymagają od pracodawcy prowadzenia szczegółowej dokumentacji, przeprowadzenia oceny zgodności i zapewnienia nadzoru ludzkiego. Firma korzystająca z gotowego narzędzia HR. opartego na AI nie może powiedzieć, że odpowiedzialność leży wyłącznie po stronie dostawcy.
Podobnie wygląda sytuacja w edukacji. Systemy oceniające uczniów, decydujące o dostępie do kursów lub przydziale do grup – to ta sama kategoria regulacyjna. W ochronie zdrowia znajdą się tu systemy wspomagające diagnozowanie, triażowanie pacjentów czy zarządzanie zasobami szpitalnymi. Sektor finansowy obejmuje scoring kredytowy i ocenę zdolności finansowej. Do tej kategorii należą też systemy stosowane w wymiarze sprawiedliwości, zarządzaniu migracją oraz infrastrukturze krytycznej, jak sieci energetyczne czy wodociągi.
Dla przedsiębiorcy ważna jest jedna praktyczna zasada: sam fakt, że narzędzie pochodzi od zewnętrznego dostawcy, nie zwalnia z obowiązków. Jeśli firma wdraża taki system – nawet jako gotowe rozwiązanie SaaS – staje się operatorem w rozumieniu AI Act i ponosi z tego tytułu odpowiedzialność.
Zakazy obowiązujące od lutego 2025 roku – co to oznacza dla firm?
2 lutego 2025 roku to data, która już minęła. Od tego dnia stosowanie praktyk z listy zakazów jest niezgodne z prawem na terenie całej Unii Europejskiej, bez okresu przejściowego i bez możliwości uzyskania wyjątku dla sektora prywatnego.
Dla większości firm prywatnych najbardziej istotne są dwa zakazy. Rozpoznawanie emocji w miejscu pracy – jeśli firma używa lub planuje wdrożyć system analizujący mimikę, ton głosu albo inne sygnały biometryczne w celu oceny stanu emocjonalnego pracowników podczas wykonywania obowiązków, musi z tego zrezygnować. Zakaz dotyczy zarówno narzędzi do monitorowania pracy zdalnej, jak i systemów stosowanych w biurze. Drugi zakaz to biometryczna kategoryzacja według cech wrażliwych – systemy, które na podstawie wizerunku lub innych danych biometrycznych wnioskują o rasie, poglądach politycznych czy orientacji seksualnej, są wprost zakazane.
Warto tu zwrócić uwagę na pewną pułapkę interpretacyjną. Zakaz rozpoznawania emocji w miejscu pracy nie obejmuje systemów bezpieczeństwa, które wykrywają oznaki zmęczenia u kierowców zawodowych. Rozporządzenie przewiduje wąskie wyjątki, ale ich zastosowanie wymaga precyzyjnej analizy, a nie ogólnego założenia, że „mój przypadek na pewno się kwalifikuje”.
Firmy, które do 2 lutego 2025 roku korzystały z narzędzi objętych zakazami, powinny były je wyłączyć lub zastąpić. Kontynuowanie ich stosowania naraża na najwyższe kary przewidziane w rozporządzeniu.
Kary za naruszenie AI Act – ile to może kosztować?
Sankcje finansowe w AI Act są skalibrowane podobnie jak w RODO, ale górne pułapy są wyższe. Rozporządzenie przewiduje trzy poziomy kar, zależne od rodzaju naruszenia.
Najpoważniejsze naruszenia – stosowanie zakazanych praktyk AI – mogą skutkować karą do 35 milionów euro lub 7% całkowitego rocznego obrotu przedsiębiorstwa na poziomie globalnym, w zależności od tego, która kwota jest wyższa. To wyższy pułap niż maksymalna sankcja za naruszenie RODO, gdzie limit wynosi 4% obrotu.
Naruszenia obowiązków dotyczących systemów wysokiego ryzyka oraz modeli GPAI zagrożone są karą do 15 milionów euro lub 3% obrotu. Trzeci poziom – dostarczanie organom nadzoru nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji – to do 7,5 miliona euro lub 1,5% obrotu. Dla małych i średnich przedsiębiorstw oraz startupów rozporządzenie przewiduje możliwość stosowania niższego z dwóch progów, co w praktyce oznacza, że kara procentowa może być korzystniejsza niż kwotowa.
Sama wysokość kar to jednak tylko część obrazu. AI Act wprowadza też możliwość tymczasowego lub trwałego zakazu wprowadzania produktu na rynek UE. Dla firmy, której model biznesowy opiera się na sprzedaży systemu AI w Europie, taki zakaz może być bardziej dotkliwy niż jakakolwiek kara finansowa.
Organy nadzoru i egzekucja AI Act w Polsce – kto będzie kontrolował?
Rozporządzenie nakłada na każde państwo członkowskie obowiązek wyznaczenia krajowego organu nadzorczego, tzw. organu nadzoru rynku, który będzie odpowiadał za egzekwowanie przepisów AI Act na swoim terytorium. Polska do końca 2025 roku powinna formalnie wskazać tę instytucję – na początku 2025 roku trwały jeszcze prace legislacyjne nad projektem ustawy wdrażającej.
Wśród kandydatów do tej roli wymieniano Urząd Ochrony Danych Osobowych oraz Urząd Komunikacji Elektronicznej. Ostateczna decyzja może też prowadzić do powołania nowego, odrębnego organu albo do rozszerzenia kompetencji jednej z istniejących instytucji. Dla przedsiębiorcy ma to znaczenie praktyczne: od tego, który urząd przejmie nadzór, zależy styl kontroli, interpretacja przepisów i sposób prowadzenia postępowań.
Niezależnie od krajowych organów, AI Act powołuje na poziomie unijnym Europejski Urząd ds. AI, działający przy Komisji Europejskiej. Ten urząd odpowiada przede wszystkim za nadzór nad dostawcami modeli GPAI o dużym ryzyku systemowym, a więc tymi największymi graczami rynkowymi. Krajowe organy i Europejski Urząd ds. AI mają ze sobą współpracować i wymieniać informacje, co tworzy dwupoziomowy system egzekucji.
Jeden szczegół proceduralny zasługuje tu na uwagę. Jeśli firma z siedzibą poza UE dostarcza systemy AI na rynek polski lub unijny, musi wyznaczyć upoważnionego przedstawiciela na terenie Unii. Ten przedstawiciel staje się punktem kontaktowym dla organów nadzoru i może ponosić odpowiedzialność za naruszenia. To rozwiązanie analogiczne do mechanizmu stosowanego w RODO, ale obejmujące szerszy zakres podmiotów.
Sandbox regulacyjny – jak AI Act wspiera testowanie nowych rozwiązań?
Jednym z rzadziej omawianych elementów rozporządzenia jest mechanizm piaskownicy regulacyjnej (ang. regulatory sandbox). To wydzielone środowisko, w którym firmy mogą testować innowacyjne systemy AI pod nadzorem organu regulacyjnego, zanim te systemy trafią na rynek. Udział w piaskownicy nie zwalnia z obowiązku przestrzegania prawa, ale pozwala na dialog z regulatorem i uzyskanie wytycznych przed pełnym wdrożeniem.
Piaskownice są szczególnie istotne dla startupów i małych przedsiębiorstw, które nie mają zasobów prawnych pozwalających na samodzielną interpretację nowych przepisów. Uczestnik piaskownicy może liczyć na indywidualne wskazówki organu nadzorczego, co zmniejsza ryzyko naruszenia przepisów przy wdrożeniu. Państwa członkowskie mają obowiązek utworzenia co najmniej jednej piaskownicy na poziomie krajowym do 2 sierpnia 2026 roku.
Dostęp do piaskownicy nie jest automatyczny. Firma musi złożyć wniosek i wykazać, że jej projekt jest innowacyjny, że nie można go przetestować wyłącznie w warunkach komercyjnych oraz że potencjalne ryzyka są możliwe do kontrolowania. Organ nadzorczy ocenia wniosek i decyduje o przyjęciu lub odmowie. Czas trwania testów jest z góry ograniczony, a po ich zakończeniu firma otrzymuje raport z oceną zgodności.
Dla polskich firm rozwijających własne systemy AI to rozwiązanie warte rozważenia. Zamiast samodzielnie interpretować wymagania dotyczące systemów wymagających szczególnej kontroli i ryzykować kosztowną korektę po audycie, można wcześniej skonsultować projekt z regulatorem w kontrolowanych warunkach.
Modele GPAI – czym różnią się od zwykłych systemów AI?
Modele ogólnego przeznaczenia (GPAI, ang. General Purpose AI) to oddzielna kategoria regulacyjna, którą AI Act wprowadza obok czterech poziomów ryzyka. Model GPAI to taki, który można zastosować w wielu różnych kontekstach i zadaniach – przykładem są duże modele językowe, takie jak te stojące za popularnymi asystentami tekstowymi czy narzędziami do generowania kodu.
Regulacja modeli GPAI działa na innym poziomie niż regulacja systemów AI. Dostawca modelu GPAI musi sporządzić i utrzymywać aktualną dokumentację techniczną, przestrzegać unijnego prawa autorskiego (w tym przepisów o eksploracji tekstu i danych), a także udostępnić operatorom, którzy budują na jego bazie własne produkty, odpowiednie informacje techniczne. Modele GPAI o dużym ryzyku systemowym podlegają dodatkowym wymaganiom: ocenie ryzyka, testom odporności na ataki i zgłoszeniu incydentów.
Kryterium „dużego ryzyka systemowego” jest dziś powiązane z progiem obliczeniowym. Modele trenowane z użyciem ponad 10^25 operacji zmiennoprzecinkowych (FLOP) są wstępnie uznawane za modele o dużym ryzyku systemowym. To próg, który na początku 2025 roku przekraczały jedynie największe modele dostępne komercyjnie.
Dla polskiej firmy, która korzysta z API zewnętrznego modelu GPAI i buduje na jego bazie własną aplikację, obowiązki spoczywają głównie na dostawcy modelu. Firma-operator odpowiada jednak za to, jak ten model wdraża i w jakim kontekście go stosuje. Jeśli aplikacja kwalifikuje się jako system wymagający szczególnej kontroli, obowiązki operatora wynikają z tej klasyfikacji, a nie z samego faktu użycia modelu GPAI.
Dokumentacja i zarządzanie ryzykiem – co konkretnie trzeba przygotować?
Wymagania dokumentacyjne w AI Act są jednym z najbardziej pracochłonnych elementów dla firm wdrażających systemy wysokiego ryzyka. Rozporządzenie wymaga prowadzenia dokumentacji technicznej przez cały cykl życia systemu, a nie tylko na etapie wdrożenia.
Dokumentacja techniczna powinna obejmować opis ogólny systemu i jego przeznaczenia, szczegółowy opis architektury i zastosowanych algorytmów, dane użyte do treningu i testowania wraz z opisem ich jakości, a także procedury zarządzania ryzykiem. Ten ostatni element jest szczególnie istotny: zarządzanie ryzykiem w rozumieniu AI Act to ciągły proces, a nie jednorazowy audyt.
Obowiązek prowadzenia dzienników zdarzeń (ang. logs) dotyczy systemów wysokiego ryzyka pracujących autonomicznie. Logi muszą pozwalać na odtworzenie działania systemu w zakresie niezbędnym do weryfikacji wyników i wykrycia ewentualnych błędów. Czas przechowywania tych danych zależy od sektora: dla systemów stosowanych przez organy publiczne wynosi co najmniej trzy lata.
Operator systemu wysokiego ryzyka musi też wdrożyć system monitorowania po wprowadzeniu na rynek. To oznacza aktywne śledzenie, czy system działa zgodnie z przeznaczeniem w warunkach rzeczywistych, i raportowanie poważnych incydentów do organu nadzorczego. Termin na zgłoszenie poważnego incydentu to 15 dni od jego wykrycia. To krótki czas, który wymaga wcześniejszego przygotowania wewnętrznych procedur – improwizacja po fakcie może okazać się kosztowna.
