Poznajcie Normana. To algorytm sztucznej inteligencji, który ma cechy psychopaty
Działanie algorytmów sztucznej inteligencji w dużej mierze zależy od danych, którymi były one karmione na starcie. Jak zachowywałby się taki algorytm, "od dziecka" karmiony tymi najbardziej chorymi treściami, które da się znaleźć w sieci? Naukowcy z MIT postanowili to sprawdzić.
Algorytm nazwano Norman. Na cześć bohatera Psychozy granego przez Anthony'ego Perkinsa. Tak, to ten film Alfreda Hitchcocka ze słynną sceną morderstwa pod prysznicem.
Norman: algorytm-psychopata
Norman to algorytm do rozpoznawania obrazów, który powstał w jednym celu - naukowcy z MIT chcieli sprawdzić, jak SI nakarmiona bardzo brutalną treścią z sieci poradzi sobie z Testem Rorschacha.
Standardowa procedura tego testu polega na pokazaniu osobie badanej (w tym przypadku algorytmowi) 10 tablic z plamami atramentowymi (5 szaroczarnych, 2 szaroczerwone i 3 kolorowe), które musi ona zinterpretować po swojemu. Zapewne zastanawiacie się, co widział Norman?
Tam gdzie standardowy algorytm do rozpoznawania obrazów widział np. wazon z kwiatami, Norman identyfikował postrzelonego mężczyznę. Kolejna plansza: standardowy algorytm widzi na niej osobę z uniesionym do góry parasolem. A Norman? Kolejnego postrzelonego mężczyznę, obok którego stoi jego żona krzycząca wniebogłosy. Kolejne plansze zaowocowały obrazami ludzi rzucających się z dachów budynków i innymi krwawymi scenami i ciężarnych kobiet popełniających samobójstwo.
Po co ktoś stworzył algorytm-psychopatę?
Pinar Yanardag, Manuel Cebrian i Iyad Rahwan - trójka naukowców z MIT chciała udowodnić tym eksperymentem, że algorytmy maszynowego uczenia się mogą być jak najbardziej stronnicze w swoim "rozumowaniu". Wszystko zależy od zestawu danych, którymi zostaną nakarmione.
To pokazuje też, jak bardzo ograniczone są dzisiejsze algorytmy nazywane sztuczną inteligencją. Chociaż z drugiej strony, podobny wynik eksperymentu można by prawdopodobnie uzyskać z człowiekiem, któremu od dziecka pokazywano by wyłącznie brutalne wycinki naszej rzeczywistości.
Jeśli chodzi o pochodzenie tych brutalnych obrazków, to naukowcy z MIT twierdzą, że znaleźli je w mrocznych zakamarkach Reddita. Z czystej ciekawości zacząłem szukać tych treści na własną rękę i po zapoznaniu się z kilkoma chorymi subredditami postanowiłem nie publikować przykładów w tym tekście. Na linki też nie macie co liczyć.
Jeśli ktoś pamięta czasopismo "Zły", wydawane dawno temu przez Małgorzatę Daniszewską, to powiem tylko, że w porównaniu do rzeczy publikowanych w sieci, tamte obrazki były dość łagodne.
