Bezpieczeństwo Signala sprawdzone linijka po linijce. Przełomowy sposób ochrony
AlphaProof Code przeanalizował kryptografię Signala na poziomie kodu maszynowego. Google pokazało nowy sposób ochrony przed cyberatakami.

Co zrobić, żeby mieć pewność, że program chroniący prywatne rozmowy naprawdę działa tak, jak obiecują jego twórcy? Można przez lata szukać błędów, zatrudniać ekspertów i przeprowadzać kolejne audyty. Google DeepMind postanowiło jednak podejść do sprawy inaczej. Zamiast sprawdzać, czy w kodzie znajdują się luki, naukowcy wykorzystali AI do matematycznego udowodnienia bezpieczeństwa jego kluczowych mechanizmów.
Na pierwszy ogień poszedł Signal, a dokładniej biblioteka odpowiedzialna za jego szyfrowanie. W ciągu zaledwie 4 tygodni system AlphaProof Code wygenerował około 6,5 mln linii formalnych dowodów. Rezultat może zmienić sposób, w jaki w przyszłości będziemy zabezpieczać oprogramowanie.
AI miała udowodnić, że zabezpieczenia działają
Tradycyjne audyty bezpieczeństwa polegają przede wszystkim na wyszukiwaniu podatności. Eksperci analizują kod, próbują wykorzystać potencjalne słabości i sprawdzają, czy aplikacja zachowuje się zgodnie z oczekiwaniami. Problem w tym, że nawet bardzo dokładne testy nie pozwalają sprawdzić wszystkich możliwych scenariuszy.
Google DeepMind wykorzystało weryfikację formalną, czyli metodę opartą na matematycznych dowodach. Zamiast testować wybrane przypadki, określa się właściwości, które program musi spełniać, a następnie udowadnia, że jego działanie jest z nimi zgodne. Jeśli dowód jest poprawny, wyklucza całą klasę błędów naruszających sprawdzane założenia.
To wyjątkowo wymagające zadanie, szczególnie w przypadku oprogramowania wykorzystywanego przez miliony ludzi. Wcześniejsze analizy kryptografii Signala dotyczyły głównie matematycznych modeli protokołu. Nie dawały jednak równie silnego potwierdzenia, że rzeczywisty kod wykonujący operacje na urządzeniach zachowuje wszystkie badane właściwości.
AlphaProof Code pozwolił zejść aż do poziomu skompilowanego kodu maszynowego. To istotna różnica, ponieważ błędy mogą pojawić się nie tylko w samym projekcie zabezpieczeń, lecz także podczas jego implementacji.
6,5 mln linii dowodów w miesiąc. Ludzie nie pracowali sami
Za osiągnięciem stoi system współpracujących agentów AI. Najpierw badacze z pomocą modeli językowych przygotowali matematyczne specyfikacje określające wymagania bezpieczeństwa. Każda musiała zostać przeanalizowana i zatwierdzona przez człowieka.
Następnie agenci zajęli się tworzeniem dowodów w języku Lean. Nie wystarczało, żeby sztuczna inteligencja uznała własne rozumowanie za poprawne. Każdy dowód był automatycznie sprawdzany przez mechanizm, który weryfikuje jego logiczną poprawność.
Łącznie powstało około 6,5 mln linii kodu zawierającego matematyczne dowody. Nie należy mylić ich z kodem samego Signala. Weryfikowany fragment programu miał około 560 KB i obejmował około 140 tys. instrukcji procesora AArch64.
Całość zajęła zespołowi 5 badaczy zaledwie 4 tygodnie. Wcześniej podobne projekty wymagały niekiedy wielu lat pracy specjalistów. Naukowcy opisali szczegóły w badaniu: AlphaProof Code: Verifying Signal's Security at the Machine-Code Level.
Signal przeszedł test. Sprawdzono nawet stare błędy
Weryfikacja objęła kluczowe mechanizmy protokołu Signal, w tym PQXDH i Triple Ratchet. Odpowiadają one m.in. za bezpieczne ustanawianie połączeń, uwierzytelnianie oraz odnawianie kluczy szyfrujących w trakcie rozmowy.
Jedną z badanych właściwości była poufność w przód. Dzięki niej przejęcie aktualnego klucza nie powinno umożliwiać odszyfrowania wcześniejszych wiadomości. Sprawdzano również zdolność protokołu do odzyskiwania bezpieczeństwa po kompromitacji części kluczy.
Signal od kilku lat rozwija też zabezpieczenia przed przyszłymi komputerami kwantowymi. Nowy projekt uwzględnił mechanizmy postkwantowe, chociaż zakres matematycznych gwarancji zależy od przyjętego modelu atakującego.
Badacze przeprowadzili dodatkowy eksperyment. Do odizolowanej wersji kodu ponownie wprowadzili dwa rzeczywiste błędy, które wcześniej zostały już naprawione. AlphaProof Code w obu przypadkach potrafił formalnie wykazać naruszenie sprawdzanych właściwości bezpieczeństwa.
Signal nie stał się niezniszczalny, ale zmieniły się możliwości AI
Odkrycie nie oznacza, że cała aplikacja Signal została uznana za wolną od błędów. Analiza dotyczyła określonych właściwości kryptograficznych i konkretnej implementacji biblioteki, a nie wszystkich elementów komunikatora. Dowody opierają się również na założeniach dotyczących m.in. używanych algorytmów i środowiska wykonania.
Co więcej, samo szyfrowanie nie chroni przed każdym sposobem ujawnienia wiadomości. Jeśli napastnik uzyska dostęp do odblokowanego telefonu albo treści powiadomień, matematycznie poprawny protokół nie rozwiąże tego problemu.
Mimo tych ograniczeń osiągnięcie ma ogromne znaczenie. Niedawno AI wykorzystywano do wyszukiwania setek luk w jądrze Linuksa. AlphaProof Code pokazuje kolejną możliwość: automatyczne tworzenie matematycznych dowodów, że wskazane mechanizmy oprogramowania rzeczywiście zapewniają deklarowane zabezpieczenia.
Przeczytaj także:
Google udostępniło wyniki formalnej weryfikacji, aby mogli je analizować również inni specjaliści. W przyszłości podobne metody mogą znaleźć zastosowanie w systemach bankowych, urządzeniach medycznych, a nawet oprogramowaniu infrastruktury energetycznej.
Najważniejsza zmiana dotyczy jednak samego podejścia do bezpieczeństwa. Dotąd programistom pozostawało przede wszystkim szukać błędów i mieć nadzieję, że znaleźli wszystkie istotne. Teraz mogą coraz częściej próbować matematycznie udowadniać, że określone błędy w ogóle nie mają prawa wystąpić.
*Źródło grafiki wprowadzającej: Karola G, Pexels / Signal
Redaktor Spider's Web specjalizujący się w tematyce naukowej. O nowych technologiach zaczął pisać w 2012 r. na łamach portalu Telix. Później współtworzył treści dla Komputer Świata i PCLabu. Epizod dziennikarski zaliczył także w lokalnej gazecie i w dziale blogowym SpeedTest. Współzałożyciel agencji BlueCopy, zajmującej się copywritingiem i poligrafią. Przez pewien czas właściciel firmy transportowej. Prywatnie fan starych polskich oper mydlanych (oglądanych obowiązkowo z konkubiną), dumny opiekun kotki brytyjskiej i pasjonat-amator druku 3D.