Google informuje, że... Alicja i Bob znaleźli sposób na to, abyśmy ich nie podsłuchali
Każdy, kto uczył się programowania i poznał podstawy kryptografii, zna powszechność używania w przykładach dotyczących tych dziedzin imion Alicji i Boba.
Alicja i Bob przeżywają różne przygody, próbując porozumieć się w bezpieczny sposób. Często podsłuchuje ich Ewa (Eve - ang. eavesdropper - podsłuchiwacz), do konwersacji dołącza się Charlie, Mallory próbuje sfałszować treść przekazu, a za przekazywanie informacji odpowiedzialny jest Izaak, dostawca Internetu.
Użycie tych imion w artykułach i poradnikach dotyczących kryptografii prawdopodobnie wywodzi się z książki Bruce’a Schneiera Kryptografia dla praktyków. Spośród tych person - archetypów, najważniejsi wydają się być Alicja, Bob, oraz Ewa. Przecież większość zastosowań kryptografii to właśnie dwie, próbujące się w bezpieczny sposób skontaktować osoby, i trzecia - atakujący, wróg, lub włamywacz, próbujący poznać ich sekrety. Może on uzyskać dostęp do zaszyfrowanej wiadomości, ale poznanie jej prawdziwej treści wymaga już pewnego wysiłku.
Wszystkie te przykłady zakładały jednak że tzw. agenci czyli osoby uczestniczące w kryptograficznych rozgrywkach to ludzie lub instytucje, reprezentowane przez ludzi.
Co jednak się stanie, gdy spróbujemy wytrenować sztuczne sieci neuronowe tak, aby próbowały ukryć wiadomość przesyłaną między sobą?
Dwaj pracownicy Google Brain, Martin Abadi i David G. Andersen postanowili to sprawdzić. Użyto do tego tej samej technologii pochodzącej z Google, której używa się również do rozpoznawania obrazów. Zadaniem trzech sieci (oczywiście nazwanych Alice, Bob oraz Eve) było przesłać wiadomość, którą jedynie odbiorca (Bob) będzie w stanie przeczytać. Tymczasem zadaniem Eve było odczytanie jej, wbrew wysiłkom Alice.
Alice początkowo słabo szło wysyłanie wiadomości tak, aby nie dostała się w ręce Eve, jednak po pewnym czasie „wpadła” na metodę takiego jej szyfrowania, aby mógł odczytać ją Bob, ale nie Eve. Czy oznacza to, że mamy zacząć się bać, że maszyny obdarzone sztuczną inteligencją zaczną porozumiewać się za naszymi plecami? Spójrzmy do artykułu naukowców z Google Brain, stanowiącego podsumowanie ich eksperymentu.
Przede wszystkim, rzuca się w oczy bardzo mała długość przesyłanej wiadomości. Wynosiła ona zaledwie… 16 bitów.
Są to, przypomnę, dwie litery znaków ASCII (lub zaledwie jedna Unicode). Ze względu na zastosowaną metodę uczenia sieci neuronowych, większa byłaby trudna do zrealizowania, jak wspominają autorzy artykułu.
Jak widać na wykresie, Eve nigdy (w statystycznie powtarzalny sposób) nie odgadła całej wiadomości. Udało jej się zejść do sześciu bitów nieprawidłowych (gdyby odgadywała losowo, rzucając monetą, powinna mieć przeciętnie 8 bitów poprawnie, więc nie jest to jakieś wielkie osiągnięcie). Co ciekawe, gdy Eve miała łatwo - to Bob miał trudno - jego błędy urosły wtedy do ponad jednego bita. Oznacza to małą elastyczność sieci w wymyślaniu nowych metod wspólnej komunikacji.
Google ogłaszając informację o wynikach badań, napisał skromnie: sztuczna inteligencja wymyśliła metodę szyfrowania - a my nie wiemy na czym ona polega.
Ten sam fragment natychmiast podchwyciły różne portale informacyjne i technologiczne, a ja się zacząłem zastanawiać. Wiadomość miała 16 bitów. W naszym wszechświecie istnieje jedynie 65536 takich wiadomości, co oznacza, że odnalezienie symetrycznej funkcji, której użyła Alicja, powinno być w zasięgu naukowców z Google. Ale o ile lepiej i bardziej tajemniczo brzmi informacja o tym, że sztuczna inteligencja zrobiła coś, czego nie do końca rozumiemy!
