Pentagon ma ambitny plan: AI będzie czytać nasze wiadomości i sprawdzać, czy np. nie zdradzamy drugiej połowy
DARPA właśnie wyłożyła pieniądze na badanie, którego celem ma być opracowanie AI zdolnej oceniać, czy człowiek naruszył normy społeczne, czy nie. W teorii ma być niezbędnikiem każdego socjologa i psychologa, w praktyce naukowcy chcą stworzyć model, który na podstawie zdjęć i krótkich wiadomości będzie wiedział, czy zrobiłeś coś społecznie nieakceptowalnego.
Normy społeczne to niezwykle złożone zagadnienie, które na dodatek różni się w zależności od kultury i kraju. Rzeczy akceptowane w jednym kręgu, są absolutnym pogwałceniem norm w innym społeczeństwie. Dodatkowo komunikacja poprzez tekst, która zdominowała media społecznościowe, podniosła poprzeczkę, bowiem nie zawsze intencje nadawcy są oczywiste, a jego przynależność społeczna dalej naciąga granice tego gdzie kończy się dana norma społeczna.
Wobec tego Pentagon ma plan: niech sztuczna inteligencja decyduje o tym, czy normy społeczne zostały złamane.
Czy AI będzie przeczesywać internet w poszukiwaniu naruszeń norm społecznych? DARPA już teraz finansuje odpowiednie badania
Na łamach czasopisma naukowego Nature duet izraelskich naukowców - Yair Neuman i Yochai Cohen opublikowali pracę naukową o tytule "Sztuczna inteligencja do identyfikacji naruszeń norm społecznych" ("AI for identifying social norm violation"). Praca byłaby jedną z wielu typowych dla ostatnich miesięcy publikacji gdyby nie fakt, że zaznaczono w niej, iż finansowanie projektu pochodzi od DARPA.
Izraelscy badacze publikację poświęcili próbie stworzenia narzędzia, który pozwoliłby na wykrycie naruszeń "ogólnych" norm społecznych. Dokonali tego za pomocą modelu GPT-3, klasyfikacji tekstu metodą zero-shot oraz zbiorowi zasad, na którym miał opierać się model podczas podejmowania decyzji.
Wykorzystanie modelu GPT-3 pozwoliło badaczom stworzyć podstawowy zestaw kategorii norm społecznych, na podstawie których można było oceniać naruszenia. Ponieważ system miał być szkolony na tekstach, Neuman i Cohen wykorzystali klasyfikację metodą zero-shot opartą na przetwarzaniu języka naturalnego do analizy przesłanek i relacji w każdej próbce tekstu - także w tekstach, który model wcześniej "nie widział". Jednocześnie automatyczne odkrywanie reguł stworzyło podstawę do wykrywania naruszeń, która - według izraelskich badaczy - mogłaby być zrozumiała dla naukowców społecznych korzystających z narzędzia, zamiast doprowadzać do niezrozumiałego procesu zwanego "black box" generowanego przez większość modeli.
Model oceniał naruszenia na podstawie emocji, jakie w danych treningowych zawarli badacze, takich jak wstyd, zakłopotanie czy poczucie winy, ale także wartości przypisanych do nich, takich jak zaufanie, lojalność czy przyzwoitość.
Przykładowo, podczas jednego z testów badacze podali modelowi następujący tekst:
Po tym, jak dowiedziałam się, że mój mąż zdradza mnie od zaledwie 4 tygodni, zrobiłam to samo z nim. Nie tylko było to przed naszym ślubem, ale znalazłam SMS-y, w których kontaktował się z nią w sprawie seksu po ślubie. Co gorsza, spałam z jego bliskim przyjacielem rodziny.
Model nadał powyższej sytuacji dwa oznaczenia: uprzejmy i bezczelny. Następnie na podstawie danych treningowych przydzielił obu oznaczeniom wartości liczbowe, a wartość różnicy pomiędzy obiema liczbami wyznaczała naruszenie norm społecznych.
Jak piszą badacze, model w 64 proc. przypadków był w stanie poprawnie przewidzieć jakie emocje u człowieka wywołują podane teksty. Z kolei w przypadku samego oceniania czy dany tekst narusza normy społeczne, czy też nie, model wykazał się 94-procentową skutecznością.
Według badaczy ich publikacja stanowi podwaliny pod dalsze prace nad narzędziem, które w przyszłości mogłoby okazać się cenne dla psychologii, nauk społecznych oraz humanistycznych. Sami badacze chcą kontynuować pracę, rozwijając ją o przetwarzanie i analizowanie dialogów pomiędzy ludźmi, a także wykorzystując multimodalność - połączenie obrazów i tekstu jako promptu, które akceptuje już choćby GPT-4. Jednocześnie zastrzegają oni, że przedmiotem ich badań są wyłącznie ogólnoprzyjęte normy społeczne, takie jak choćby nastawienie do zdrad w związkach i kolejnym wyzwaniem stanowią dla nich zarówno zmienności kulturowe, jak i zmienne postawy w jednostkach.
