Tematy - AI Act - INFOR.PL

Firma może zbudować proces, w którym sztuczna inteligencja przygotowuje rekomendację, a ostateczną decyzję formalnie zatwierdza pracownik. Na papierze człowiek pozostaje więc w centrum procesu. AI Act wymaga jednak, aby nadzór nad systemami wysokiego ryzyka był skuteczny, a nie sprowadzony do obecności osoby, która automatycznie akceptuje kolejne wyniki. Pracownik powinien rozumieć ograniczenia systemu, mieć odpowiednie kompetencje i rzeczywiste uprawnienia do zakwestionowania rekomendacji.

System sztucznej inteligencji od kilku lat analizuje dokumenty kandydatów do pracy, wspiera ocenę klientów albo pomaga podejmować decyzje dotyczące określonych usług. Firma może uznać, że skoro narzędzie zostało wdrożone przed rozpoczęciem stosowania nowych wymogów AI Act, jego sytuacja prawna jest ustalona. Nie zawsze będzie to bezpieczne założenie. Znaczenie może mieć nie tylko data uruchomienia systemu, ale również to, co przedsiębiorstwo zrobiło z nim później. Nie tylko głęboka przebudowa, ale też dodanie nowych funkcji albo zmiana celu wykorzystania mogą spowodować konieczność ponownej oceny rozwiązania.

AI Act

Pracownik musi kontrolować AI. Sam przycisk „zatwierdź” może nie wystarczyć

Firma korzysta z AI od kilku lat. Modernizacja systemu może uruchomić nowe obowiązki