Polski urzędnik pyta ChataGPT o wszystko. Państwo wreszcie zareagowało
Polscy urzędnicy coraz częściej korzystają z AI w pracy. Rząd sprawdza, do czego używane są narzędzia i czy czasem nie trafiają tam dane obywateli.
Sztuczna inteligencja nie czekała, aż administracja napisze dla niej instrukcję obsługi i wyznaczy standardy korzystania. Weszła do urzędów przez pisma, maile, streszczenia, wyszukiwanie informacji i codzienną próbę skrócenia sobie pracy. Teraz państwo próbuje to ogarnąć i sprawdzić, jak głęboko to zaszło i czy razem z wygodą nie wpuścili do systemu ryzyka dla danych obywateli.
AI już od dawna siedzi na urzędniczym stołku
NASK przygotowało szczegółowy raport dotyczący zagadnienia wykorzystania AI w urzędach. AI w e-administracji publicznej – perspektywa urzędników i instytucji wprost wskazuje, że sztuczna inteligencja już od dawna jest wykorzystywana przez urzędy, chociaż nie zawsze oficjalnie. Aż 77 proc. badanych urzędników ma kontakt z AI co najmniej raz dziennie, a 46 proc. korzystało z narzędzi generatywnej sztucznej inteligencji w celach zawodowych w ciągu ostatnich 6 mies. Temat AI jest już więc stałym elementem urzędniczej codzienności.
Najczęściej AI służy do wyszukiwania faktów i informacji oraz do pisania lub edytowania dokumentów. To brzmi niewinnie, dopóki mówimy o poprawieniu stylu ogólnego komunikatu albo skróceniu długiego tekstu. Problem zaczyna się wtedy, gdy w takim obiegu pojawiają się dane osobowe, opisy spraw obywateli, dokumenty administracyjne, uzasadnienia decyzji albo korespondencja, która nigdy nie powinna trafić do publicznego narzędzia działającego poza kontrolowanym środowiskiem urzędu.
Urzędnicy nie uciekają przed AI. Oni chcą jej więcej
Aż 87 proc. badanych deklaruje chęć udziału w szkoleniach z AI. 81 proc. widzi w niej szansę na automatyzację rutynowych zadań, a 76 proc. uważa, że może ona oszczędzać czas potrzebny do realizacji konkretnych obowiązków. Największy potencjał urzędnicy wskazują w tłumaczeniach, redakcji treści, analizie dokumentacji i pracy z dużymi zbiorami danych.
To świetnie pokazuje problem polskiej administracji. Urzędnik bardzo często nie potrzebuje robota, który podejmie decyzję. Potrzebuje narzędzia, które znajdzie właściwy dokument sprzed 8 lat, wyłapie brakujący załącznik, streści obszerną korespondencję, pomoże napisać pismo prostszym językiem albo podpowie, gdzie w wewnętrznych zasobach znajduje się potrzebna procedura.
Tak rozumiana AI w administracji może być bardzo sensowna. Nie jako cyfrowy urzędnik za szybą, lecz jako porządna wyszukiwarka dokumentów, asystent do redakcji, narzędzie do porównywania wersji pism i przewodnik po sprawach powtarzalnych. Administracja tonie w dokumentach, a ludzie stojący po obu stronach okienka od lat płacą za to czasem.
Największy strach to nie robot, tylko dane
Największy problem nie leży w tym, że AI pisze pisma. Leży w tym, co urzędnik musi do niej wrzucić, żeby mu naprawdę pomogła. Jeśli AI ma streścić ogólny komunikat, to ryzyko nie jest jakieś wybitnie duże. Jeśli ma pomóc w odpowiedzi na konkretną sprawę obywatela, to pojawia się pokusa, by podać jej szczegóły: nazwisko, adres, numer sprawy, opis sytuacji, dane rodzinne, zdrowotne albo finansowe.
Pamiętajmy, że urzędy przetwarzają informacje, których obywatel często nie może nie przekazać. Składa wniosek, opisuje problem, dołącza zaświadczenia, tłumaczy swoją sytuację i zakłada, że państwo będzie nad tym panować. Jeżeli takie dane trafiają do ogólnodostępnego modelu AI, to państwo tak naprawdę przestaje mieć pełną kontrolę nad miejscem ich przetwarzania.
RODO nie zakazuje oczywiście rozsądnego używania technologii. Wymaga jednak odpowiedniej podstawy prawnej, kontroli, minimalizacji danych, zabezpieczeń i jasnego określenia, kto za co odpowiada. Publiczny model AI używany z prywatnego konta albo bez urzędowych procedur raczej trudno pogodzić z tym standardem, zwłaszcza gdy w grę wchodzą dane obywateli.
Właśnie dlatego MSWiA zaczęło sprawdzać, jak administracja używa AI i do jakich zadań. Audyt ma być próbą odpowiedzi na pytanie, czy państwo panuje nad własnym zapleczem cyfrowym, czy tylko nadrabia po tym, jak urzędnicy sami zaczęli szukać sposobów na usprawnienie pracy.
Człowiek nadal ma podpisać się pod decyzją
Respondenci wyraźnie wyznaczają granicę zastosowania AI w administracji. Jedynie 6 proc. badanych akceptuje scenariusz, w którym sztuczna inteligencja zastępuje człowieka przy podejmowaniu decyzji administracyjnych i rozstrzyganiu spraw dotyczących obywateli. To bardzo rozsądny odruch.
Sztuczna inteligencja może dobrze streścić dokument, ale potrafi też bardzo wymyślnie zmyślić podstawę prawną, pomylić kontekst, źle zrozumieć pytanie albo wygenerować odpowiedź brzmiącą pewnie, choć merytorycznie fałszywą. Takie zjawisko nazywa się halucynacją AI. W administracji halucynacja nie jest zwykłą pomyłką. Może oznaczać błędne pouczenie, wadliwe pismo, nieprawidłowe uzasadnienie albo decyzję, od której obywatel będzie musiał się odwoływać.
Wytyczne dla służby cywilnej zmierzają w kierunku, który można było przewidzieć: sztuczna inteligencja może pełnić funkcję pomocniczą, nie zwalnia jednak urzędnika z odpowiedzialności. Nie jest dopuszczalne powoływanie się na algorytm jako autora rozstrzygnięcia – każdy dokument opuszczający urząd wymaga weryfikacji, zrozumienia i przyjęcia odpowiedzialności przez osobę go podpisującą.
Najpierw zamknięte narzędzia, dopiero potem wielka automatyzacja
Najlepszy kierunek nie polega oczywiście na zakazywaniu i udawaniu, że problem sam zniknie. Nie zniknie. Potrzeba jest olbrzymia, a urzędnicy już dawno znaleźli własne sposoby, żeby sobie radzić. Znacznie rozsądniej jest dać im bezpieczne środowisko do tej pracy: państwowe albo ściśle kontrolowane, w którym mogą korzystać z AI bez ryzyka, że dane obywateli wyciekną gdzieś na zewnątrz.
Raport NASK pokazuje, że urzędnicy najbardziej potrzebują pracy z dokumentami w różnych formatach oraz wyszukiwania informacji w dokumentach urzędowych za pomocą pytań zadawanych zwykłym językiem. Dobrze zaprojektowana wyszukiwarka oparta na zasobach urzędu mogłaby wskazywać źródła, daty, wersje dokumentów i podstawy prawne, zamiast odpowiadać z pamięci internetu.
Przeczytaj także:
Taki model działania miałby ogromną przewagę nad chaotycznym korzystaniem z publicznych narzędzi. Można ograniczyć dostęp do danych, pilnować uprawnień, logować działania, wskazywać źródła odpowiedzi i odciąć system od informacji, których nie powinien widzieć. Innymi słowy, trzeba dać urzędnikom AI, ale taką, która pracuje w urzędzie, a nie gdzieś poza nim.
*Źródło zdjęcia wprowadzającego: Getty Images / Canva Pro
