Koniec z AI na skróty. Wchodzą rygorystyczne kontrole algorytmów w firmach

• Kto nie uporządkuje swoich algorytmów AI dzisiaj, jutro zapłaci za to wysoką cenę – zarówno w sądzie, jak i w bilansie spółki
• Problem Shadow AI w firmach. Wprowadzenie całkowitego zakazu korzystania może przynieść skutki odwrotne do zamierzonych
• Konieczność podnoszenia kompetencji w dziedzinie AI. W praktyce oznacza to organizowanie szkoleń wewnętrznych i wdrażanie polityk bezpiecznego
• Czas na porządki w algorytmach AI. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może zażądać wglądu w dokumenty i dane

Już w dniu 28 października wejdzie w życie ustawa o systemach sztucznej inteligencji. Co ważne, ustawa pozostaje w ścisłym związku w unijnym AI Act, powołując organy, które mają kontrolować zasady ustanowione na poziomie unijnym. Obserwacja codziennych praktyk i biznesowej rzeczywistości pokazuje, że w firmach AI wciąż jest źródłem potencjalnych problemów. Zarówno pracodawcy, jak i pracownicy poruszają się po omacku, a w wielu wypadkach zwyczajnie brak oficjalnej regulacji stosowania narzędzi sztucznej inteligencji.

Kto nie uporządkuje swoich algorytmów AI dzisiaj, jutro zapłaci za to wysoką cenę – zarówno w sądzie, jak i w bilansie spółki

Wdrażanie unijnego AI Act oraz krajowej ustawy o systemach sztucznej inteligencji stawia przed przedsiębiorstwami szereg rygorystycznych obowiązków – od inwentaryzacji narzędzi algorytmicznych i dbałości o kompetencje pracowników po rygorystyczne zarządzanie ryzykiem i zapewnienie nadzoru człowieka nad systemami wysokiego ryzyka. Przestrzeganie tych wymogów będzie ściśle weryfikowane przez powołaną na mocy krajowych przepisów Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.

KRiBSI – wyspecjalizowany organ nadzorczy zyskał szerokie uprawnienia kontrolne i śledcze. Może nie tylko badać dokumentację techniczną oraz procedury wdrożeniowe firm, ale także rozpatrywać skargi, wydawać wiążące opinie indywidualne oraz nakładać dotkliwe administracyjne kary pieniężne za naruszenie przepisów.

Problem Shadow AI w firmach. Wprowadzenie całkowitego zakazu korzystania może przynieść skutki odwrotne do zamierzonych

Pod terminem Shadow AI kryje się znane zjawisko korzystania przez pracowników z narzędzi sztucznej inteligencji bez wiedzy i nadzoru kierownictwa i działu IT w firmie. Presja czasu zachęca do chodzenia na skróty. Jednak AI działa jak autopilot – choć pozwala na chwilę zdjąć ręce z kierownicy, to bez stałego nadzoru człowieka katastrofa jest kwestią czasu.

„Wprowadzenie całkowitego zakazu korzystania może przynieść skutki odwrotne do zamierzonych. Pracownicy i tak będą sięgać po te narzędzia, tyle że w tajemnicy, z prywatnych smartfonów. Kluczem do bezpieczeństwa jest edukacja i mądre ramy" – mówi Marcin Mika, dyrektor serwisu w ADP Polska. „Dobrze skonstruowany regulamin powinien opierać się na kilku filarach. Po pierwsze, kategoryzacja danych. Przykładowo: dane przypisane do zielonej kategorii pracownik może przetwarzać w dowolnym narzędziu; dane żółte (wewnętrzne notatki) tylko w autoryzowanych systemach; dane czerwone (RODO, kody źródłowe, finanse) mają bezwzględny zakaz opuszczania infrastruktury firmy. Po drugie, wprowadzenie listy dozwolonych narzędzi. Firmy powinny dążyć, i część z nich już to robi, do zapewnienia dostępu do komercyjnych wersji programów, z gwarancją w umowie, że wprowadzane prompty nie posłużą do trenowania modeli. Kolejnym filarem jest zasada bezwzględnej weryfikacji po stronie człowieka: pracownik musi podpisać się pod wygenerowanym dokumentem, poświadczając, że osobiście sprawdził zawarte w nim fakty i informacje."

Podsumowując, sztuczna inteligencja powinna być traktowana jak stażysta, który nie ma dostępu do wewnętrznych informacji na poziomie doświadczonego pracownika. A same efekty pracy AI muszą być sprawdzane przed puszczeniem ich w świat.

Konieczność podnoszenia kompetencji w dziedzinie AI. W praktyce oznacza to organizowanie szkoleń wewnętrznych i wdrażanie polityk bezpiecznego

Za tymi wewnętrznymi regulacjami idzie zbliżony obowiązek podnoszenia kwalifikacji pracowników w obszarze pracy ze sztuczną inteligencją oraz eksploatowania systemów. W praktyce oznacza to konieczność organizowania szkoleń wewnętrznych i wdrażania polityk bezpiecznego korzystania z narzędzi AI tak, by personel rozumiał ryzyka stwarzane przez algorytmy.

„Jesteśmy przyzwyczajeni do cyklicznych szkoleń BHP, odnawianych co jakiś czas certyfikatów bezpieczeństwa, krótkich „przypominających” kursów dotyczących np. polityki antykorupcyjnej firmy albo pracy z poufnymi danymi. Uczestnicy naocznie przekonują się, np. jak łatwo osoba nieupoważniona może wejść do firmy, skraść telefon, torebkę czy dokument albo włamać się do systemów informatycznych. Dlatego sens mają również cykliczne szkolenia z pracy z AI" – wskazuje ekspert.

Podczas takich szkoleń uczestnicy mogą pracować na bezpłatnych wersjach popularnych narzędzi, których używają na co dzień. Trener przeprowadza np. wyciek kontrolowany: wgrywa do chatu spreparowany dokument finansowy fikcyjnej spółki. Następnie, po serii pytań na inne tematy, prosi model o wygenerowanie analizy rynku dla tej konkretnej branży, a uczestnicy szkolenia widzą… jak AI zaczyna wplatać poufne wskaźniki z wgranego wcześniej dokumentu do ogólnych odpowiedzi. Uczestnicy mogą też przekonać się, jak łatwo można LLM skłonić do halucynacji: proszeni są o wpisanie promptu ze szczegółowym pytaniem z dość niszowej dziedziny i żądaniem kilku przykładów w odpowiedzi. Po serii kilku pytań naprowadzających LLM zaczyna podawać konkretne przykłady – gdy jednak użytkownicy zaczynają je weryfikować, często okazuje się, że przynajmniej część z nich nie ma pokrycia w faktach.

Czas na porządki w algorytmach AI. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może zażądać wglądu w dokumenty i dane

Podkreślmy jednak – KRiBSI będzie zajmowała się daleko poważniejszymi przypadkami niż dokumenty zawierające niesprawdzone informacje. Zagrożenia dla firm kryją się w obszarze systemów wysokiego ryzyka, czyli tych szczególnie wrażliwych na naruszenie danych osobowych lub praktyki dyskryminacyjne. Zaliczają się do nich algorytmy rekrutacyjne, narzędzia scoringowe czy systemy medyczne. KRiBSI może np.:

• zażądać wglądu w dokumenty, dane i materiały objęte przedmiotem kontroli, sporządzać kopie, zabezpieczać dowody,
• uzyskać dostęp do urządzeń i systemów informatycznych,
• nagrywać przebieg kontroli (po poinformowaniu podmiotu kontrolowanego.

„Systemy sztucznej inteligencji w obszarze HR czy scoringu dają ogromne możliwości optymalizacji. Łatwo przy tym mogą stać się źródłem systemowej dyskryminacji, bo algorytmy rekrutacyjne czy oceniające efektywność pracowników szkolone są na historycznych danych, które często powielają ludzkie uprzedzenia i stereotypy. Jeśli technologia zacznie w ten sposób eliminować kandydatów lub naruszać dobra osobiste pracowników, a poszkodowana osoba ma na to dowody – dla firmy będzie oznaczać to kłopoty" – mówi Marcin Mika.

Nadchodzące wejście w życie ustawy o systemach sztucznej inteligencji i powstanie organu nadzorującego to dla przedsiębiorstw ostatni dzwonek na audyt technologiczny. Brak kontroli nad stosowaniem AI w firmie, a szczególnie nad systemami HR wysokiego ryzyka, może okazać się realnym ryzykiem finansowym i wizerunkowym.