Nowe regulacje – kogo dotyczą?

AI Act obejmuje zarówno dostawców systemów AI, jak i organizacje wdrażające sztuczną inteligencję na terenie Unii Europejskiej. Dotyczy to m.in.:

• Firm IT i dostawców AI, którzy opracowują algorytmy wykorzystywane w UE.
• Sektorów, w których AI ma kluczowe znaczenie – bankowości, medycyny, edukacji i rekrutacji.
• Administracji publicznej i organów ścigania korzystających z AI w analizie danych obywateli.
• Twórców treści generowanych przez AI, którzy od teraz mają obowiązek oznaczania takich materiałów.

Co istotne, regulacje te obejmują nie tylko europejskie firmy, ale także podmioty spoza UE, jeśli ich systemy AI są dostępne na rynku unijnym.

Najważniejsze zmiany

1. Zakazane systemy AI

Unia Europejska nałożyła całkowity zakaz stosowania systemów, które uznano za niedopuszczalne ze względu na ryzyko dla praw obywatelskich. Obejmuje to m.in.:

• Systemy manipulujące zachowaniem użytkowników za pomocą ukrytych technik.
• Automatyczne systemy oceny obywateli (tzw. social scoring).
• Nielegalne rozpoznawanie twarzy w miejscach publicznych.

2. Surowe regulacje dla systemów wysokiego ryzyka

Systemy AI stosowane w służbie zdrowia, rekrutacji, edukacji i sektorze finansowym podlegają ścisłej kontroli. Firmy muszą zapewnić ich przejrzystość, bezpieczeństwo oraz brak dyskryminacji.

3. Oznaczanie treści generowanych przez AI

Nowe przepisy wymagają od firm i twórców jasnego informowania użytkowników, gdy mają do czynienia z treściami wygenerowanymi przez AI – dotyczy to zarówno deepfake’ów, jak i chatbotów.

4. Obowiązek podnoszenia kompetencji

Firmy oraz instytucje publiczne muszą zadbać o odpowiednie przeszkolenie pracowników korzystających z AI, aby minimalizować ryzyko błędów i nadużyć.

Sankcje dla firm łamiących przepisy

AI Act przewiduje surowe kary finansowe dla podmiotów, które nie dostosują się do nowych regulacji:

• Do 35 mln euro lub 7% rocznego obrotu – za stosowanie zakazanych systemów AI.
• Do 15 mln euro lub 3% rocznego obrotu – za naruszenia związane z systemami wysokiego ryzyka.
• Do 7,5 mln euro lub 1,5% rocznego obrotu – za brak oznaczenia treści wygenerowanych przez AI.

Dodatkowo, w przypadku poważnych naruszeń, firmy mogą otrzymać zakaz używania danego systemu AI na terenie UE.

Co dalej?

Wejście w życie AI Act to pierwszy krok w kierunku kompleksowej regulacji sztucznej inteligencji. Unia Europejska zamierza dalej monitorować rozwój tej technologii i dostosowywać przepisy do zmieniających się realiów. W najbliższych latach możemy spodziewać się kolejnych regulacji, które jeszcze bardziej ukształtują sposób, w jaki AI jest wykorzystywana w Europie.

Czy nowe przepisy rzeczywiście zapewnią bezpieczeństwo i przejrzystość AI? Czas pokaże, ale jedno jest pewne – UE postawiła jasną granicę w kwestii etycznego stosowania sztucznej inteligencji.