loperk Firmy korzystające z narzędzi opartych na sztucznej inteligencji coraz częściej muszą sprawdzać nie tylko ich skuteczność, ale również zgodność z przepisami. Dotyczy to szczególnie systemów używanych przy rekrutacji, analizie danych czy obsłudze klientów, ponieważ w tych obszarach łatwo o błędy wpływające na ludzi. Właśnie dlatego ai act budzi tak duże zainteresowanie wśród przedsiębiorców, prawników i działów IT. Ten akt prawny porządkuje zasady korzystania z AI na terenie Unii Europejskiej, przy czym jego wpływ odczują także mniejsze organizacje oraz osoby pracujące z cyfrowymi usługami na co dzień.
Dlaczego Unia Europejska przygotowała ai act?
Rozwój sztucznej inteligencji przebiega bardzo szybko, ale przepisy prawa przez długi czas nie nadążały za zmianami technologicznymi. W praktyce oznaczało to sytuację, w której firmy mogły wdrażać systemy analizujące zachowanie użytkowników lub oceniające kandydatów do pracy bez jasnych zasad odpowiedzialności. Artificial intelligence act powstał po to, by ograniczyć takie ryzyko i uporządkować rynek.
Nowe regulacje skupiają się przede wszystkim na bezpieczeństwie użytkowników oraz przejrzystości działania algorytmów. Szczególną uwagę zwrócono na obszary, gdzie decyzje podejmowane przez system AI mogą wpływać na zdrowie, edukację, zatrudnienie albo dostęp do usług publicznych.
Największa zmiana polega na tym, że przepisy oceniają poziom ryzyka danego systemu, a nie samą technologię. Dzięki temu prosty chatbot i zaawansowany system nadzoru biometrycznego nie będą traktowane identycznie.
Jakie systemy AI uznano za szczególnie ryzykowne?
W praktyce nie każde narzędzie oparte na sztucznej inteligencji będzie podlegało takim samym obowiązkom. Regulacje dzielą rozwiązania na kilka kategorii ryzyka, co pomaga określić zakres wymagań wobec producentów i użytkowników.
Do grupy wysokiego ryzyka zaliczają się między innymi systemy używane w sektorze publicznym, bankowości czy rekrutacji. W tych przypadkach konieczne staje się prowadzenie dokumentacji, monitorowanie działania modelu oraz kontrola jakości danych.
Najczęściej wskazuje się następujące obszary:
- ocena zdolności kredytowej klientów;
- systemy wykorzystywane podczas rekrutacji pracowników;
- narzędzia wspierające diagnostykę medyczną;
- algorytmy używane przez administrację publiczną;
- rozwiązania związane z identyfikacją biometryczną.
Niektóre praktyki zostały natomiast zakazane całkowicie. Chodzi głównie o technologie mogące manipulować zachowaniem użytkowników lub prowadzić do masowej inwigilacji obywateli. Szerzej o tym temacie przeczytasz w artykule https://jdp-law.pl/newsletter/ai-act-czy-twoja-organizacja-jest-gotowa-na-nowe-rozporzadzenie/
Co nowe przepisy oznaczają dla przedsiębiorców?
Wiele firm korzysta dziś z AI bez rozbudowanego zaplecza prawnego. Często są to gotowe narzędzia do analizy dokumentów, tworzenia treści albo automatyzacji obsługi klienta. Po wejściu przepisów część przedsiębiorstw będzie musiała dokładniej sprawdzać pochodzenie danych oraz sposób działania używanych modeli.
W przypadku systemów wysokiego ryzyka znaczenia nabiera dokumentowanie procesu działania algorytmu i możliwość wyjaśnienia jego decyzji. Sam fakt użycia popularnego narzędzia nie zwalnia firmy z odpowiedzialności.
Przygotowanie organizacji do nowych zasad zwykle obejmuje kilka etapów:
- Analizę używanych systemów AI i określenie poziomu ryzyka.
- Sprawdzenie sposobu przetwarzania danych użytkowników.
- Weryfikację umów z dostawcami technologii.
- Przygotowanie procedur nadzoru nad działaniem algorytmów.
- Szkolenie pracowników korzystających z AI.
W mniejszych firmach zmiany mogą wydawać się kosztowne, ale część ekspertów zwraca uwagę, że uporządkowanie procesów ogranicza ryzyko sporów prawnych oraz błędnych decyzji biznesowych.
Czy użytkownik będzie wiedział, że rozmawia z AI?
Jednym z częściej omawianych elementów nowych regulacji jest kwestia przejrzystości. Użytkownik powinien wiedzieć, kiedy ma kontakt z systemem sztucznej inteligencji, szczególnie jeśli wpływa on na podejmowanie decyzji albo generuje treści przypominające materiały stworzone przez człowieka.
Dotyczy to między innymi chatbotów, generatorów obrazów oraz narzędzi tworzących teksty. W praktyce firmy mogą zostać zobowiązane do wyraźnego informowania o użyciu AI podczas obsługi klienta lub publikacji materiałów marketingowych.
| Rodzaj systemu | Możliwe obowiązki |
|---|---|
| chatbot obsługujący klientów | informowanie użytkownika o kontakcie z AI |
| system rekrutacyjny | kontrola jakości danych i nadzór człowieka |
| generator treści | oznaczanie materiałów wygenerowanych automatycznie |
| narzędzia biometryczne | ograniczenia lub zakazy stosowania |
Choć część tych zasad może wydawać się oczywista, wcześniej nie funkcjonowały one w jednolitej formie na poziomie całej Unii Europejskiej.
Jak ai act może wpłynąć na rozwój technologii?
Wokół nowych regulacji trwa dyskusja dotycząca ich wpływu na innowacje. Jedni uważają, że przepisy spowolnią rozwój europejskich firm technologicznych, natomiast inni wskazują, że brak zasad prowadziłby do jeszcze większej niepewności na rynku.
W praktyce wiele zależy od sposobu interpretacji przepisów oraz działań krajowych urzędów nadzorczych. Dla startupów znaczenie będzie miała przede wszystkim jasność wymagań i przewidywalność procedur.
Dobrze przygotowana dokumentacja i świadome korzystanie z danych mogą stać się ważniejsze niż sama skala działalności firmy. To zmienia podejście do projektowania produktów opartych na AI już na etapie tworzenia usługi.
Na co warto zwrócić uwagę przed wdrożeniem systemu AI?
Przed rozpoczęciem pracy z nowym narzędziem opartym na sztucznej inteligencji przydaje się analiza kilku praktycznych kwestii. Dotyczy to szczególnie firm, które planują wykorzystywać AI przy podejmowaniu decyzji dotyczących klientów lub pracowników.
Najczęściej sprawdza się następujące elementy:
- pochodzenie danych wykorzystywanych do trenowania modelu;
- możliwość wyjaśnienia działania algorytmu;
- zakres odpowiedzialności dostawcy technologii;
- procedury reagowania na błędy systemu;
- zgodność rozwiązania z przepisami dotyczącymi prywatności.
Wiele organizacji dopiero uczy się pracy z tego typu regulacjami, ale już teraz widać, że temat odpowiedzialnego używania AI pozostanie ważny przez kolejne lata. Przepisy związane z ai act nie kończą dyskusji o sztucznej inteligencji, lecz wyznaczają ramy, w których firmy i instytucje będą rozwijały swoje usługi.
