Mistrzowie science-fiction to przewidzieli. Ameryka oddaje swoją administrację w ręce AI
To dość awangardowe pojmowanie efektywności przetwarzania informacji. Amerykański departament wykorzysta generatywną sztuczną inteligencję, by ta oceniała raporty pracowników administracji publicznej o ich pracy i osiągnięciach.
Powołany wedle pomysłu Elona Muska DOGE (Department of Government Efficiency) w myśl kolejnego pomysłu tej samej osoby zażądał od wszystkich pracowników federalnych wysłania na wyznaczony adres e-maila, w którym ci mają w liście punktowanej wymienić swoje osiągnięcia służbowe z ostatniego tygodnia. Wiemy już, w jaki sposób te dziesiątki tysięcy wiadomości będzie analizowanych.
Zamiast sztabu ludzi wiadomości te będzie przetwarzać - jak informują źródła NBC News - Duży Model Językowy. Generatywna sztuczna inteligencja będzie oceniać, czy praca danego pracownika jest istotna, czy też nie. Maile nie mogą zawierać hiperłączy czy załączników, bo będą dla AI bezużyteczne.
Czytaj też:
AI w służbie narodu. Naród się broni, jak tylko może
Pierwszą misją nadaną DOGE przez prezydenta Trumpa jest redukcja zatrudnienia w administracji publicznej nawet o 10 proc. Nietrudno więc zrozumieć niezadowolenie ze strony pracowników i ich kierowników, którzy śmiało mogą założyć cel całej operacji. Te maile, które nie spełnią oczekiwań DOGE, będą zapewne kluczowe w decyzji o zwolnieniu danego pracownika.
Sam pomysł recenzowania czyjejś pracy wyłącznie na podstawie ostatniego tygodnia i zdawkowego raportu wydaje się co najmniej awangardowym. Wieści, że to GenAI ma przeczytać te wszystkie maile i ocenić najwyraźniej przelała czarę goryczy. Przy czym nie chodzi tu nawet o strach przed bytem rodem z filmów Terminator czy Odyseja kosmiczna, gdzie złowroga AI krzywdzi ludzi. Duże Modele Językowe są nadal technologią niedoskonałą, wysoce wadliwą i podatną na tak zwane halucynacje. Wykorzystywanie tego narzędzia, by podejmować tak ważne decyzje, jest ostro krytykowane.
Pentagon już opublikował oficjalne stanowisko podpisane przez pełniącego obowiązki podsekretarza ds. personelu Darina S. Selnicka, które stanowczo zalecało pracownikom cywilnym wstrzymanie się z odpowiedziami na e-maile DOGE. Dokument podkreślał, że ocena personelu wojskowego i cywilnego pozostaje wyłączną kompetencją łańcucha dowodzenia, a zewnętrzne systemy ewaluacji mogą zagrażać bezpieczeństwu operacyjnemu.
- Procesy oceny wydajności w Departamencie Obrony są integralną częścią naszego systemu gotowości bojowej. Jakiekolwiek zewnętrzne ingerencje w ten system są niedopuszczalne z punktu widzenia bezpieczeństwa narodowego - jak czytamy w oświadczeniu. Wiele agencji wywiadowczych, w tym FBI i CIA, wyraziło obawy, że szczegółowe opisywanie działań operacyjnych w cyfrowych formularzach może naruszać protokoły ochrony źródeł i metod. Przykładowo, agent kontrwywiadu mógłby nieumyślnie ujawnić techniki śledcze czy wrażliwe źródła informacji.
Koalicja związków zawodowych złożyła w Sądzie Okręgowym Dystryktu Kolumbii pozew zbiorowy, kwestionujący legalność zarządzenia Muska. W pozwie podniesiono między innymi argumentację dotyczącą mobbingu psychologicznego.
Według danych OPM z 25 lutego:
- 38 proc. pracowników federalnych przesłało raporty przed upływem terminu
- 45 proc. zignorowało żądanie
- 17 proc. zwróciło się o pomoc prawną do związków zawodowych.
Jest nadzieja, że ktoś powstrzyma to szaleństwo. Nawet Donald Trump, początkowo bardzo entuzjastycznie nastawiony do pomysłów Elona Muska i całej inicjatywy DOGE, zdaje się od tego entuzjazmu dystansować. Biały Dom wydał już komunikat prasowy sugerujący możliwość korekty harmonogramu wdrażania reform. Na dziś nie jest jasne czy to oznaczać będzie rezygnację z pomysłu zarządzania kadrami administracji publicznej przez AI. Elon Musk jeszcze o tym nie zatweetował.
*Zdjęcie otwierające: Frederic Legrand - COMEO / Shutterstock
