Pracownik uruchomił AI bez zgody firmy. Ryzyko nie kończy się na danych

• Shadow AI poza wiedzą działu IT
• Dane firmy przekazywane do zewnętrznych narzędzi AI
• Prywatne AI zaczynające wpływać na decyzje firmy
• AI Act a systemy działające poza kontrolą organizacji
• Zakaz korzystania z AI niewystarczający bez alternatywy
• Kompetencje w zakresie AI jako element kontroli
• Audyt AI obejmujący rzeczywisty sposób pracy

Problem nie ogranicza się do łamania wewnętrznego regulaminu. Firma może nie wiedzieć, jakie informacje opuszczają jej środowisko, na jakich warunkach są przetwarzane i które narzędzia faktycznie uczestniczą w wykonywaniu pracy. Jeszcze poważniejsza sytuacja powstaje wtedy, gdy prywatnie wybrany system przestaje służyć do poprawiania tekstów i zaczyna wpływać na decyzje dotyczące klientów, kandydatów do pracy lub pracowników.

Shadow AI poza wiedzą działu IT

Nieautoryzowane oprogramowanie nie jest nowym problemem, ale sztuczna inteligencja znacząco ułatwiła korzystanie z narzędzi poza oficjalnym środowiskiem. Pracownik często nie musi niczego instalować i nie potrzebuje uprawnień administratora. Wystarczy przeglądarka internetowa, prywatny adres e-mail albo funkcja AI wbudowana w aplikację, która wcześniej służyła do zupełnie innych celów.

W efekcie oficjalna lista firmowych systemów może nie odzwierciedlać rzeczywistego sposobu pracy. Organizacja kupuje jedno zatwierdzone narzędzie, a pracownicy równolegle korzystają z generatorów tekstu, systemów tłumaczących, aplikacji tworzących notatki ze spotkań, narzędzi do analizy arkuszy i modeli wspierających programowanie. Każde z nich może działać na innych zasadach i mieć inne ustawienia dotyczące danych.

Dane firmy przekazywane do zewnętrznych narzędzi AI

Najbardziej bezpośrednie ryzyko pojawia się w chwili przekazania informacji do systemu, którego firma nie oceniła. Może to być fragment umowy, dane klienta, wewnętrzna korespondencja, kod źródłowy, informacja finansowa albo dokument dotyczący nowego produktu. Pracownik nie musi działać w złej wierze. Jego celem jest zwykle skrócenie czasu potrzebnego na wykonanie zadania.

Dla organizacji zasadnicze znaczenie ma jednak to, że informacje zostały przekazane do usługi działającej poza zatwierdzonym środowiskiem. Trzeba wtedy ustalić, jakie dane trafiły do narzędzia, na podstawie jakich warunków były przetwarzane, jakie ustawienia obowiązywały na konkretnym koncie i kto kontroluje dalsze wykorzystanie informacji.

Prywatne AI zaczynające wpływać na decyzje firmy

Jeszcze większe znaczenie ma sposób wykorzystania wyniku. Pracownik działu HR może korzystać z prywatnego narzędzia do porównywania kandydatów, wklejać informacje z życiorysów i prosić AI o wskazanie osób najlepiej pasujących do stanowiska. Oficjalnie firma nie wdrożyła systemu sztucznej inteligencji do rekrutacji. W praktyce wynik zewnętrznego modelu zaczyna jednak wpływać na wybór osób zapraszanych do kolejnego etapu.

Podobna sytuacja może wystąpić w innych działach. Pracownik używa AI do oceny reklamacji, analizy klienta, przygotowania rekomendacji dotyczącej pracownika albo wyboru osoby, której sprawa ma zostać obsłużona w pierwszej kolejności. Formalnie końcową decyzję podejmuje człowiek, ale sposób wykonywania procesu zmienił się bez wiedzy organizacji.

AI Act a systemy działające poza kontrolą organizacji

AI Act nie zawiera odrębnego zakazu zatytułowanego „shadow AI”. Nie oznacza to jednak, że nieautoryzowane wykorzystanie systemów jest obojętne dla zgodności organizacji. Obowiązki zależą od rodzaju systemu, sposobu jego wykorzystania i roli firmy. W przypadku systemów wysokiego ryzyka podmiot stosujący może być zobowiązany między innymi do używania rozwiązania zgodnie z instrukcją, zapewnienia nadzoru człowieka i monitorowania działania.

Realizacja takich obowiązków jest niezwykle trudna wobec systemu, o którym organizacja nie wie. Firma nie zna jego wersji, ustawień, instrukcji ani ograniczeń. Nie kontroluje również tego, jakie dane otrzymuje narzędzie i w jaki sposób pracownik interpretuje wynik.

Zakaz korzystania z AI niewystarczający bez alternatywy

Najprostszą reakcją firmy może być całkowite zakazanie wszystkich niezatwierdzonych narzędzi. Sam regulamin nie musi jednak zmienić zachowania pracowników. Jeżeli system AI pozwala w kilka minut wykonać zadanie, które wcześniej zajmowało godzinę, część osób może nadal po niego sięgać, zwłaszcza gdy firma nie zapewnia legalnej i wygodnej alternatywy.

Skuteczna polityka powinna więc odpowiadać na konkretne pytania: z jakich narzędzi można korzystać, do jakich zadań, jakie dane wolno do nich wprowadzać i które informacje są bezwzględnie wyłączone. Pracownik powinien także wiedzieć, kiedy wynik wymaga obowiązkowej weryfikacji oraz kto może zatwierdzić użycie nowego systemu.

Kompetencje w zakresie AI jako element kontroli

AI Act wymaga od dostawców i podmiotów stosujących systemy podejmowania działań zapewniających odpowiedni poziom kompetencji osób zajmujących się ich obsługą i wykorzystaniem. Przy ocenie potrzeb należy brać pod uwagę wiedzę, doświadczenie, wykształcenie oraz kontekst, w którym AI jest stosowana.

Shadow AI pokazuje, dlaczego nie powinno się sprowadzać tego obowiązku do jednego ogólnego szkolenia. Pracownik powinien rozumieć, że inne ryzyko wiąże się z generowaniem pomysłu na publiczny post, a inne z analizą dokumentacji klienta. Musi wiedzieć, że odpowiedź AI może być błędna i że system nie przejmuje odpowiedzialności za sposób wykorzystania wyniku.

Audyt AI obejmujący rzeczywisty sposób pracy

Firma chcąca poznać skalę wykorzystania sztucznej inteligencji nie powinna ograniczać audytu do zakupionych licencji. Trzeba sprawdzić również aplikacje internetowe, funkcje AI w innych programach, rozszerzenia przeglądarek, prywatne konta oraz automatyczne narzędzia uczestniczące w spotkaniach.

Celem nie powinno być wyłącznie wykrywanie pracowników łamiących zasady. Organizacja musi przede wszystkim zrozumieć, dlaczego ludzie sięgają po określone systemy i do czego ich potrzebują. Dopiero wtedy może stworzyć politykę odpowiadającą realnym procesom.

ŹRÓDŁA

• Rozporządzenie Parlamentu Europejskiego i Rady UE 2024/1689, art. 4, art. 26
• Komisja Europejska, materiały dotyczące kompetencji w zakresie AI
• Komisja Europejska, materiały dotyczące systemów AI wysokiego ryzyka
• Rada Unii Europejskiej, AI Omnibus