Od 2 sierpnia 2025 r. wejdą w życie przepisy AI Aktu regulujące kary. Chociaż na razie nie istnieje polski urząd nadzoru, który będzie te kary nakładał, to przecież kiedyś powstanie, a moim zdaniem będzie mógł nakładać kary za okres przed swoim powstaniem. Przyjrzyjmy się zatem jakie kary przewiduje AI Act i jakie kary wejdą w życie już niedługo.
Kary, które wejdą w życie 2 sierpnia 2025 r.
Kary za stosowanie praktyk zakazanych z art. 5 AI Act
AI Act zakazuje niektórych zastosowań AI. Obejmuje to systemy AI, które manipulują decyzjami ludzi lub wykorzystują ich podatności, systemy oceniające lub klasyfikujące ludzi na podstawie ich zachowania społecznego lub cech osobistych oraz systemy przewidujące ryzyko popełnienia przestępstwa przez daną osobę. Akt zakazuje również systemów AI, które pobierają wizerunki twarzy z internetu lub nagrań z monitoringu, rozpoznają emocje w miejscu pracy lub w placówkach edukacyjnych oraz kategoryzują ludzi na podstawie danych biometrycznych. Przewidziano jednak pewne wyjątki dla celów organów ścigania, na przykład w przypadku poszukiwania osób zaginionych lub zapobiegania atakom terrorystycznym.
Stosowanie tych praktyk podlega karze pieniężnej w wysokości do 35 000 000 EUR lub do 7 % całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego (w zależności od tego, która z tych kwot jest wyższa).
Kara porządkowa za nieprawidłową współpracę z organami i jednostkami notyfikacyjnymi
Dostarczanie nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji jednostkom notyfikowanym (przy w ocenie zgodności systemów AI wysokiego ryzyka) lub właściwym organom krajowym w odpowiedzi na ich wniosek podlega karze w wysokości do 7 500 000 EUR lub do 1 % całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego (w zależności od tego, która z tych kwot jest wyższa).
W przypadku MŚP, w tym start-up’ów, wysokość opisanych powyżej kar nie może przekraczać niższej z dwu wartości – procentowej lub kwotowej. Np. MŚP osiągnęło obrót w wysokości 1 mln PLN, 7% z tej kwoty jest niższe niż 35 000 000 EUR, więc kara może maksymalnie wynieść 70 tys. złotych.
Pozostałe kary wejdą w życie dopiero w kolejnych latach.
Kary dla dostawców modeli ogólnego przeznaczenia
W Polsce mamy chyba tylko dwie rodziny modeli ogólnego przeznaczenia tj. Bielik i PLLuM – więc pomimo wydania ostatnio Kodeksu GPAI przez KE na ten temat (link), nie jest on moim zdaniem kluczowy dla ogółu polskich przedsiębiorców.
Jeżeli jednak wprowadzać nowy model do obrotu, to teraz, jeszcze przed 2 sierpnia 2025 r., ponieważ wtedy czas na dostosowanie się do wymogów AI Act w tym zakresie przedłużony będzie do 2 sierpnia 2027 r.
Kary dla dostawców modeli ogólnego przeznaczenia wejdą w życie dopiero 2 sierpnia 2026 r. Warto jednak wspomnieć, że kary w tym zakresie będzie nakładać Komisja Europejska rękoma Europejskiego Urzędu ds. AI. Ponadto, jak wspomniano, jeżeli model ogólnego przeznaczenia wprowadzony zostanie do 2 sierpnia 2025 r., wymogi, a więc i kary, będa miały do niego zastosowanie dopiero od 2 sierpnia 2027 r.
Przepisy dotyczące modeli ogólnego przeznaczenia będą jednak miały znaczenie dla twórców, którzy walczą o poszanowanie swoich praw przez dostawców modeli ogólnego przeznaczenia. W tym zakresie polecam raport EUIPO o rozwoju genAI z perspektywy prawa autorskiego Study – The development of GenAI from a copyright perspective – FULL report.docx.
Kary związane z systemami wysokiego ryzyka
Ponieważ przepisy dotyczące systemów wysokiego ryzyka jeszcze nie obowiązują, to nie wejdą też w życie kary za niedopełnienie obowiązków związanych z systemami wysokiego ryzyka.
AI Act przewiduje szereg obowiązków dla dostawców (art. 16), upoważnionych przedstawicieli (art. 22), importerów (art. 23), dystrybutorów (art. 24),podmiotów stosujących (art. 26) i jednostek notyfikowanych (art. 31, art. 33 ust. 1, 3 i 4 lub art. 34) w kontekście systemów AI wysokiego ryzyka.
Przepisy te wejdą w życie dopiero 2 sierpnia 2026 r. dla większości systemów AI wysokiego ryzyka i 2 sierpnia 2027 r. dla systemów AI wysokiego ryzyka, które są objęte unijnym ustawodawstwem harmonizacyjnym.
Naruszenie tych obowiązków podlegać będzie karze do 15 000 000 EUR lub 3 % całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego (w zależności od tego, która z tych kwot jest wyższa).
Kary za niedopełnienie obowiązków informacyjnych z art. 50 AI Act
Podobnie nie wejdą jeszcze w życie obowiązki informacyjne z art. 50 AI Act i kary za ich niedopełnienie. Obowiązki te są związane z systemami AI przeznaczonymi do:
1) wchodzenia w bezpośrednią interakcję z osobami fizycznymi (np. wszelkie chaty);
2) generowania treści syntetycznych tj. dźwięków, obrazów, wideo lub tekstów;
3) rozpoznawania emocji lub systemy kategoryzacji biometrycznej.
Naruszenie tych obowiązków podlegać będzie karze do 15 000 000 EUR lub 3 % całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego (w zależności od tego, która z tych kwot jest wyższa).
Przepisy te wejdą w życie dopiero 2 sierpnia 2026 r.
Kryteria nakładania kar
AI Act określa jednolite kryteria ustalania wysokości kar pieniężnych. Kryteria te obejmują m.in. charakter, wagę i czas trwania naruszenia, umyślny lub wynikający z zaniedbania charakter naruszenia oraz możliwości finansowe podmiotu. Będą również brane pod uwagę stopień współpracy z organami oraz wszelkie wcześniejsze naruszenia.
Pomimo tego zharmonizowanego zestawu kryteriów, organy regulacyjne prawdopodobnie będą miały znaczną swobodę w uzasadnianiu indywidualnych grzywien.
Wnioski
W nadchodzących miesiącach warto śledzić rozwój krajowych przepisów implementacyjnych oraz przygotowania do powołania polskiego organu nadzoru.
Przedsiębiorcy rozwijający i wykorzystujący systemy AI powinni niezwłocznie przeprowadzić audyt swoich rozwiązań pod kątem zgodności z artykułem 5 AI Act.
Warto przy tym zwrócić uwagę, że zakazane jest m.in. stosowanie systemów AI manipulujących lub wprowadzających w błąd, nawet jeżeli nie zostały one celowo zaprojektowane jako takie. Znaczy to, że dostawcy i korzystający z systemów AI powinni podjąć starania, aby ich systemy AI nie manipulowały i nie wprowadzały w błąd.
Jeżeli ciekawi Cię temat, którego nie opisałem albo masz dodatkowe pytania, napisz do mnie. Możesz też sprawdzić bazę wiedzy Kancelarii JDP.
Dodaj komentarz