AI Act - obowiązki przedsiębiorców wynikające z unijnego rozporządzenia o sztucznej inteligencji
W obliczu trwającej czwartej rewolucji przemysłowej (Industry 4.0), sztuczna inteligencja (AI) przestała być jedynie futurystyczną wizją, a stała się realnym narzędziem budowania przewagi konkurencyjnej oraz optymalizacji procesów biznesowych. Unia Europejska, dążąc do uregulowania dynamicznie rozwijającego się rynku technologicznego, wprowadziła AI Act (Rozporządzenie o Sztucznej Inteligencji) - pierwszy na świecie tak kompleksowy i horyzontalny zbiór zasad dotyczących rozwoju, wprowadzania do obrotu i stosowania systemów AI. Dla przedsiębiorców planujących rozwój i ubiegających się o dotacje FENG na transformację cyfrową - Industry 4.0, AI, chmura, pełne zrozumienie i wdrożenie tych regulacji jest obecnie warunkiem niezbędnym dla zapewnienia zgodności (compliance) projektów z prawem unijnym.
Czym jest AI Act i kogo dotyczy?
Rozporządzenie AI Act ma na celu stworzenie bezpiecznego środowiska dla innowacji, w którym systemy sztucznej inteligencji są godne zaufania, etyczne i w pełni respektują prawa podstawowe obywateli UE. Regulacja ta wprowadza precyzyjne definicje ról w ekosystemie AI, co ma kluczowe znaczenie dla określenia zakresu odpowiedzialności prawnej:
- Dostawcy (Providers): Podmioty projektujące i rozwijające systemy AI lub modele AI ogólnego przeznaczenia w celu wprowadzenia ich do obrotu pod własną nazwą lub znakiem towarowym.
- Wdrażający (Deployers): Przedsiębiorstwa i instytucje, które wykorzystują systemy AI w ramach swojej działalności zawodowej. Jest to najczęstsza rola sektora MŚP, który implementuje gotowe rozwiązania w celu automatyzacji produkcji czy obsługi klienta.
- Importerzy i dystrybutorzy: Podmioty wprowadzające systemy AI pochodzące spoza terenu Unii Europejskiej na rynek wspólnotowy, odpowiedzialne za weryfikację ich zgodności z normami UE.
Klasyfikacja systemów AI na podstawie ryzyka
Fundamentem AI Act jest podejście oparte na analizie ryzyka (risk-based approach). Obowiązki nakładane na przedsiębiorców są proporcjonalne do potencjalnego zagrożenia, jakie dany system może generować dla społeczeństwa. Poniższa tabela przedstawia szczegółową klasyfikację, którą należy uwzględnić już na etapie planowania inwestycji technologicznych.
| Kategoria ryzyka | Charakterystyka i wymogi | Przykłady systemów |
|---|---|---|
| Ryzyko niedopuszczalne | Systemy uznane za sprzeczne z wartościami UE. Ich stosowanie jest bezwzględnie zakazane. | Social scoring (ocena społeczna), manipulacja behawioralna, biometria w czasie rzeczywistym w miejscach publicznych dla celów ścigania (z wąskimi wyjątkami). |
| Wysokie ryzyko | Systemy mogące znacząco wpłynąć na zdrowie, bezpieczeństwo lub prawa podstawowe. Podlegają rygorystycznym wymogom dokumentacyjnym, technicznym i audytowym. | Rekrutacja i selekcja (algorytmiczne filtrowanie CV), ocena zdolności kredytowej, zarządzanie infrastrukturą krytyczną, systemy w edukacji i sądownictwie. |
| Ograniczone ryzyko | Systemy wymagające przede wszystkim przejrzystości, aby użytkownik miał świadomość interakcji z AI. | Chatboty, generatory treści multimedialnych (np. Deepfake), systemy rozpoznawania emocji w miejscu pracy. |
| Minimalne ryzyko | Większość obecnie stosowanych systemów AI, które nie wymagają dodatkowych regulacji poza standardowym prawem krajowym i unijnym. | Filtry antyspamowe, mechanizmy AI w grach komputerowych, inteligentne systemy rekomendacji w e-commerce. |
Kluczowe obowiązki przedsiębiorców (Wdrażających)
Większość firm z sektora MŚP, realizujących projekty typu Sztuczna inteligencja w małych firmach - dofinansowanie pilotaży AI i analityki danych, występuje w roli "wdrażających". Nawet jeśli firma nie tworzy własnego algorytmu od zera, a jedynie adaptuje gotowe rozwiązanie rynkowe, AI Act nakłada na nią szereg obligatoryjnych zadań:
- Zapewnienie kompetencji w zakresie AI (AI Literacy): Przedsiębiorcy są zobowiązani do podnoszenia kwalifikacji personelu. Pracownicy obsługujący systemy AI muszą rozumieć zasady ich działania, ograniczenia oraz ryzyka etyczne.
- Nadzór ludzki i monitorowanie: Systemy AI nie mogą działać bez nadzoru. Wdrażający musi wyznaczyć osoby odpowiedzialne za monitorowanie pracy algorytmów pod kątem ewentualnych błędów, stronniczości (bias) czy dyskryminacji.
- Obowiązki informacyjne i przejrzystość: Użytkownicy końcowi muszą być jasno informowani, kiedy wchodzą w interakcję z systemem AI (np. w przypadku obsługi przez wirtualnych asystentów).
- Synergia z RODO i NIS2: Wdrażanie AI musi być spójne z ochroną danych osobowych oraz wymogami cyberbezpieczeństwa. Warto sprawdzić, jak te procesy reguluje NIS2 - dyrektywa o cyberbezpieczeństwie: kogo obejmuje, obowiązki i zgłaszanie incydentów, gdyż wiele systemów AI stanowi element infrastruktury krytycznej lub kluczowej.
Harmonogram wdrażania przepisów
AI Act wszedł w życie 1 sierpnia 2024 roku, jednak ustawodawca przewidział okresy przejściowe na dostosowanie się do nowych wymogów:
- Luty 2025 (po 6 miesiącach): Zaczynają obowiązywać zakazy dotyczące systemów o ryzyku niedopuszczalnym.
- Sierpień 2025 (po 12 miesiącach): Wejście w życie przepisów dotyczących AI ogólnego przeznaczenia (GPAI) oraz obowiązków w zakresie zarządzania.
- Sierpień 2027 (po 36 miesiącach): Obowiązki dla systemów wysokiego ryzyka wbudowanych w produkty objęte innym ustawodawstwem harmonizacyjnym (np. maszyny, zabawki, wyroby medyczne).
AI Act a fundusze europejskie - jak sfinansować zgodność?
Dla wielu organizacji wdrożenie rygorów AI Act wiąże się z koniecznością przeprowadzenia audytów, zakupu specjalistycznego oprogramowania monitorującego oraz przeszkolenia kadr. Koszty te mogą zostać uznane za kwalifikowalne w ramach aktualnych programów wsparcia. Proces ten ułatwia profesjonalne pozyskanie dotacji na transformację cyfrową, które uwzględnia komponenty legislacyjne i bezpieczeństwa.
Kluczowym dokumentem w procesie aplikowania o środki z funduszy UE (np. w ścieżce SMART programu FENG) jest poprawnie sporządzony Plan transformacji cyfrowej - co zawiera i jak go przygotować do wniosku o dotację. W dokumencie tym przedsiębiorca powinien zawrzeć:
- Analizę klasyfikacji planowanych systemów AI pod kątem ryzyka AI Act.
- Opis mechanizmów zapewnienia jakości danych i nadzoru ludzkiego.
- Strategię cyberbezpieczeństwa uwzględniającą specyfikę algorytmów AI.
- Harmonogram szkoleń z zakresu AI Literacy dla zespołu.
Dobre praktyki i strategia wdrożenia
Aby proces adaptacji do AI Act stał się elementem budowania trwałej przewagi, zaleca się podjęcie następujących kroków:
1. Inwentaryzacja i audyt systemów: Zidentyfikuj wszystkie narzędzia wykorzystujące AI w organizacji, w tym rozwiązania typu SaaS. Określ ich poziom ryzyka i zweryfikuj posiadane certyfikaty zgodności.
2. Weryfikacja łańcucha dostaw: Przy zakupie nowych rozwiązań technologicznych wymagaj od dostawców deklaracji zgodności z AI Act. Jest to szczególnie istotne w obszarach krytycznych, takich jak zarządzanie zasobami ludzkimi czy analiza finansowa.
3. Zarządzanie ryzykiem i compliance: Zintegruj zarządzanie AI z ogólnym systemem zarządzania ryzykiem w firmie. Pamiętaj, że naruszenie przepisów AI Act wiąże się z drastycznymi sankcjami finansowymi - kary mogą sięgać do 35 mln EUR lub 7% całkowitego rocznego światowego obrotu przedsiębiorstwa.
Podsumowując, AI Act to nie tylko wyzwanie regulacyjne, ale przede wszystkim impuls do profesjonalizacji działań w obszarze technologii. Przedsiębiorcy, którzy wykażą się proaktywnym podejściem i odpowiednio wcześnie przygotują się do nowych wymogów, zyskają nie tylko bezpieczeństwo prawne, ale również wyższą punktację w konkursach o fundusze europejskie oraz status wiarygodnego partnera biznesowego w cyfrowym świecie.
Szczegółowe wymogi dla systemów wysokiego ryzyka (Art. 8-15)
Dla przedsiębiorców identyfikujących swoje rozwiązania jako systemy wysokiego ryzyka, AI Act przewiduje rygorystyczny katalog obowiązków technicznych i organizacyjnych, które muszą zostać spełnione przed wprowadzeniem produktu na rynek UE:
- System zarządzania ryzykiem: Ciągły, iteracyjny proces obejmujący identyfikację i analizę znanych oraz dających się przewidzieć zagrożeń, a także wdrażanie środków ograniczających ryzyko.
- Zarządzanie danymi i ład danych: Zbiory danych treningowych, walidacyjnych i testowych muszą podlegać odpowiednim procedurom zarządzania. Muszą być one relewantne, reprezentatywne i - w miarę możliwości - wolne od błędów oraz kompletne pod kątem unikania uprzedzeń (bias).
- Dokumentacja techniczna: Obowiązek sporządzenia szczegółowej dokumentacji przed wprowadzeniem systemu do obrotu, umożliwiającej organom nadzoru ocenę zgodności systemu z wymogami rozporządzenia.
- Automatyczne rejestrowanie zdarzeń (Logging): Systemy muszą technicznie umożliwiać automatyczne generowanie logów przez cały okres ich eksploatacji, co jest kluczowe dla monitorowania incydentów i identyfikowalności działań AI.
- Przejrzystość i dostarczanie informacji: Projektowanie systemów w sposób umożliwiający wdrażającym interpretację wyników generowanych przez AI. Każdy system musi posiadać instrukcję obsługi w formacie cyfrowym lub papierowym.
Modele AI ogólnego przeznaczenia (GPAI)
Rozporządzenie wprowadza specyficzne regulacje dla modeli AI ogólnego przeznaczenia (General Purpose AI), takich jak duże modele językowe (LLM). Obowiązki w tym zakresie obejmują:
- Dla wszystkich modeli GPAI: Sporządzanie dokumentacji technicznej, udostępnianie informacji dostawcom systemów AI integrującym dany model oraz publikowanie podsumowania treści wykorzystanych do trenowania modelu (aspekt ochrony praw autorskich).
- Dla modeli o ryzyku systemicznym: Modele dysponujące dużą mocą obliczeniową (powyżej 10^25 FLOPs) podlegają dodatkowym rygorom: przeprowadzaniu ocen modeli, ocenie i ograniczaniu ryzyk systemicznych oraz zgłaszaniu incydentów do Biura ds. AI.
Ocena zgodności i oznakowanie CE
Zanim system AI wysokiego ryzyka trafi do użytkownika, musi przejść procedurę oceny zgodności. W większości przypadków dostawcy mogą dokonać wewnętrznej kontroli, jednak w określonych sytuacjach (np. biometria) konieczny jest udział jednostki notyfikowanej.
Pozytywne przejście procedury kończy się wystawieniem deklaracji zgodności UE oraz naniesieniem oznakowania CE na produkt lub jego dokumentację. Jest to czytelny sygnał dla kontrahentów i instytucji przyznających dotacje, że rozwiązanie spełnia najwyższe unijne standardy bezpieczeństwa i etyki.
Piaskownice regulacyjne - wsparcie dla innowatorów i MŚP
W celu wspierania innowacji, AI Act zobowiązuje państwa członkowskie do ustanowienia co najmniej jednej piaskownicy regulacyjnej (regulatory sandbox) na poziomie krajowym. Jest to kontrolowane środowisko, które pozwala przedsiębiorcom (szczególnie MŚP i startupom) na:
- Testowanie innowacyjnych systemów AI przed ich wprowadzeniem do obrotu pod nadzorem organów regulacyjnych.
- Przyspieszenie procesu oceny zgodności.
- Zmniejszenie obciążeń administracyjnych i kosztów compliance na wczesnym etapie rozwoju technologii.
Udział w piaskownicy regulacyjnej może być istotnym atutem w dokumentacji konkursowej przy ubieganiu się o środki na prace B+R w ramach programów krajowych i regionalnych.
Ocena wpływu na prawa podstawowe (FRIA)
Niektórzy wdrażający (np. podmioty świadczące usługi publiczne lub banki oceniające zdolność kredytową) będą zobligowani do przeprowadzenia oceny wpływu na prawa podstawowe (Fundamental Rights Impact Assessment - FRIA). Dokument ten musi zawierać opis procesów, w których system będzie wykorzystywany, okres jego stosowania oraz wskazanie konkretnych grup osób, które mogą być narażone na negatywne skutki działania algorytmu.
Struktura sankcji finansowych
System kar w AI Act jest stopniowalny i zależy od charakteru naruszenia oraz wielkości przedsiębiorstwa:
- Do 35 mln EUR lub 7% rocznego obrotu: Za stosowanie systemów AI o ryzyku niedopuszczalnym (zakazanych).
- Do 15 mln EUR lub 3% rocznego obrotu: Za nieprzestrzeganie wymogów dotyczących systemów wysokiego ryzyka lub modeli GPAI.
- Do 7,5 mln EUR lub 1,5% rocznego obrotu: Za podanie organom nadzoru nieprawdziwych lub wprowadzających w błąd informacji.
Dla MŚP i startupów rozporządzenie przewiduje preferencyjne traktowanie - w ich przypadku brana pod uwagę będzie niższa z kwot określonych w widełkach, co ma zapobiegać hamowaniu innowacyjności przez nadmierne obciążenia fiskalne.
Ład korporacyjny: Biuro ds. AI i Europejska Rada ds. AI
Na poziomie unijnym nadzór nad wdrażaniem rozporządzenia sprawuje Biuro ds. AI (AI Office), działające w strukturach Komisji Europejskiej. Z kolei Europejska Rada ds. Sztucznej Inteligencji, składająca się z przedstawicieli państw członkowskich, ma za zadanie harmonizację stosowania przepisów w całej UE, wydawanie wytycznych oraz doradztwo w zakresie standaryzacji technicznej.
FAQ - Najczęściej Zadawane Pytania
Kim dokładnie jest „wdrażający” (deployer) w rozumieniu AI Act?
Wdrażający to przedsiębiorstwo lub instytucja, która wykorzystuje system AI w ramach swojej działalności zawodowej, na przykład do automatyzacji procesów produkcyjnych czy obsługi klienta. Jest to najczęstsza rola firm z sektora MŚP, które nie budują własnych algorytmów, lecz implementują gotowe rozwiązania rynkowe dostarczone przez zewnętrznych dostawców.
Jakie konkretne rozwiązania AI są uznawane za systemy wysokiego ryzyka?
Do systemów wysokiego ryzyka zalicza się algorytmy mające istotny wpływ na życie i prawa obywateli, takie jak narzędzia do automatycznej selekcji kandydatów w rekrutacji, systemy oceny zdolności kredytowej czy oprogramowanie do zarządzania infrastrukturą krytyczną. Takie systemy podlegają rygorystycznym wymogom w zakresie jakości danych, dokumentacji technicznej oraz stałego nadzoru ludzkiego.
Czy stosowanie chatbotów w sklepie internetowym wiąże się z nowymi obowiązkami?
Tak, chatboty są klasyfikowane jako systemy o ograniczonym ryzyku, co nakłada na przedsiębiorcę obowiązek przejrzystości. Użytkownik musi zostać wyraźnie poinformowany, że wchodzi w interakcję ze sztuczną inteligencją, a nie z człowiekiem, co ma na celu zapobieganie wprowadzaniu konsumentów w błąd.
Na czym polega obowiązek „AI Literacy” (kompetencji w zakresie AI)?
Przedsiębiorcy są zobowiązani do zapewnienia, aby ich personel korzystający z systemów AI posiadał odpowiednią wiedzę na temat ich działania. Oznacza to konieczność przeprowadzenia szkoleń, które pozwolą pracownikom zrozumieć możliwości, ograniczenia oraz ryzyka etyczne i operacyjne związane z używaną technologią.
Czy kupując gotowy system AI, firma jest zwolniona z odpowiedzialności za jego zgodność z prawem?
Nie, jako wdrażający przedsiębiorca ponosi odpowiedzialność za użytkowanie systemu zgodnie z instrukcjami dostawcy oraz za monitorowanie jego działania w realnych warunkach. Firma musi również zadbać o nadzór ludzki i przechowywanie logów generowanych przez system, jeśli jest on zaklasyfikowany jako rozwiązanie wysokiego ryzyka.
Jakie praktyki AI są całkowicie zakazane przez unijne rozporządzenie?
AI Act zakazuje systemów uznanych za sprzeczne z wartościami UE, w tym tzw. social scoringu (oceny wiarygodności obywateli na podstawie zachowań społecznych) oraz manipulacji behawioralnej. Zabronione jest również wykorzystywanie systemów biometrycznych w czasie rzeczywistym w miejscach publicznych do celów ścigania, poza ściśle określonymi wyjątkami dotyczącymi bezpieczeństwa narodowego.

