Algorytm nie zgaduje następnego ruchu. Buduje własne teorie

Badacze z KAIST pokazali model NEO, który nie ogranicza się do przewidywania kolejnego stanu obserwowanej sceny. Ogląda sytuację przed zmianą i po niej, a następnie szuka krótkiego zestawu reguł wyjaśniającego, co właściwie się wydarzyło. Zamiast więc zgadywać wynik na podstawie podobnych przykładów, próbuje odtworzyć sam mechanizm zmiany krok po kroku. Model nie tylko dopasowuje wzorce wizualne, ale buduje wewnętrzne, uproszczone wyjaśnienie tego, jakie operacje musiały zajść w świecie, aby jeden stan przekształcił się w drugi.

Modele AI uczące się przewidywania otoczenia dostają ogromną liczbę przykładów, wychwytują regularności i obliczają, co najprawdopodobniej pojawi się w następnym kroku. Taki mechanizm może być bardzo skuteczny, jednak tylko dopóki nowa sytuacja przypomina przypadki znane z treningu. Problem zaczyna się wtedy, gdy znajome elementy zostają połączone w sposób, którego system wcześniej nie widział. Model może znać obrót obiektu, przesunięcie go w dół i zmianę koloru, ale polec, gdy wszystkie trzy działania trzeba wykonać kolejno w całkowicie nowej kombinacji.

Trafne przewidywanie nie gwarantuje bowiem, że algorytm odkrył zasadę stojącą za zmianą. Równie dobrze mógł zapamiętać duże, splątane pakiety wzorców i nauczyć się je odtwarzać w odpowiednich okolicznościach. Zespół z Koreańskiego Zaawansowanego Instytutu Nauki i Technologii, kierowany przez prof. Sungjina Ahna, zaproponował więc inne kryterium sukcesu. Zamiast uczyć model przede wszystkim odgadywania kolejnego obrazu, badacze chcą, aby tworzył wewnętrzne, wykonywalne wyjaśnienie obserwowanej transformacji. Nazwali ten paradygmat Learning-to-Theorize, czyli uczeniem się tworzenia teorii. Jego praktyczną realizacją jest Neural Theorizer, w skrócie NEO.

NEO nie formułuje praw natury ludzkim językiem ani nie zastanawia się nad fizyką obserwowanego świata. Teorią jest tu krótki program: uporządkowany ciąg prostych operacji, który po wykonaniu zamienia stan początkowy w końcowy. System otrzymuje pary obserwacji. Widzi scenę przed zmianą i po niej, ale nie dostaje opisu wykonanych działań, nazw reguł ani gotowego języka poleceń. Ma samodzielnie znaleźć powtarzalne elementy ukryte w wielu przykładach.

Jedna wewnętrzna operacja może odpowiadać za przesunięcie obiektu w lewo, inna za ruch w dół, kolejna za obrót lub zmianę koloru. Znaczenia tych elementów nie zostały jednak wcześniej ręcznie zapisane. Model buduje własny słownik operacji i jednocześnie uczy się, jaki skutek wywołuje każda z nich. Potem układa z tych elementów program prowadzący od pierwszej obserwacji do drugiej.

Badacze opisują to jako wyuczony język myśli. Jego symbole są abstrakcyjne i nie muszą przypominać słów zrozumiałych dla człowieka – mogą wyglądać jak przypadkowe etykiety, wewnętrzne kody albo struktury, które nie mają żadnego intuicyjnego znaczenia. Kluczowe jest jednak to, że każda taka jednostka jest uchwytem do konkretnej operacji.

Gdy system używa danego symbolu, uruchamia się przypisana mu transformacja: przesunięcie, obrót, zmianę cechy lub bardziej złożoną sekwencję działań. Dzięki temu można nie tylko wygenerować wynik, ale też prześledzić, co dokładnie zostało wykonane po drodze i sprawdzić, czy każdy krok faktycznie prowadzi od stanu początkowego do końcowego.

Samo pozwolenie modelowi na tworzenie ciągów operacji nie wystarcza. Sieć nadal mogłaby potraktować złożoną zmianę jako jedną nierozdzielną czynność. Zamiast nauczyć się osobno ruchu w lewo i ruchu w dół, mogłaby zapisać gotową operację lewo-dół. Na znanych przykładach działałoby to dobrze, ale przy nowej kombinacji taki skrót przestałby być po prostu użyteczny.

NEO jest więc premiowany za wyjaśnienia jednocześnie trafne i możliwie krótkie. To zastosowanie zasady minimalnej długości opisu. W uproszczeniu: spośród programów prowadzących do właściwego wyniku lepszy jest ten, który wyjaśnia zmianę mniejszą liczbą dobrze dobranych kroków. Taka presja ma sprzyjać odkrywaniu elementarnych reguł, które można wielokrotnie wykorzystywać, zamiast budowaniu coraz większego katalogu wyjątków i gotowych odpowiedzi.

Każdy etap programu musi też prowadzić do sensownego stanu pośredniego. Model nie może dowolnie ukrywać obliczeń w abstrakcyjnej reprezentacji, która dopiero na końcu przypadkiem daje poprawny obraz. Kolejne kroki pozostają zakotwiczone w przestrzeni prawidłowych obserwacji, dzięki czemu pojedyncze operacje łatwiej rozpoznać i zastosować ponownie w innej sytuacji.

Badacze sprawdzili nowe podejście w trzech rodzajach kontrolowanych zadań. Pierwszym był prosty świat siatkowy, w którym obiekty przemieszczają się według określonych reguł. Drugim były zadania związane z rozkładem liczb i rozumowaniem arytmetycznym. Trzecim edycja obrazów za pomocą sekwencji elementarnych transformacji.

Najważniejszym testem nie było odtwarzanie przypadków podobnych do treningowych. Model miał radzić sobie z nowymi połączeniami znanych operacji, a także z programami dłuższymi od tych, które widział podczas nauki. Jeżeli wcześniej poznał osobno przesunięcie, zmianę koloru i obrót, powinien złożyć je w nieznaną sekwencję zamiast szukać w pamięci gotowego odpowiednika.

NEO lepiej przenosił reguły między przykładami niż podejścia uczące się pojedynczej, splątanej transformacji. Program wywnioskowany na podstawie jednej pary obserwacji można było zastosować do innego obiektu podlegającego tej samej zasadzie. System więc nie tylko dopasowywał konkretne wejście do oczekiwanego wyjścia, lecz próbował uchwycić mechanizm nadający się do ponownego użycia.

Modele świata są jednym z ważniejszych elementów autonomicznych robotów i agentów. Maszyna działająca poza ekranem musi przewidywać skutki ruchów, planować kilka kroków naprzód i reagować, gdy przedmiot znajduje się w innym miejscu niż zwykle. Jak pisaliśmy w tekście: Google właśnie dał rozum robotom. Zaraz, a co z bezpieczeństwem?, współczesna robotyka coraz mocniej łączy widzenie, rozumienie poleceń i planowanie działania. Samo rozpoznanie przedmiotów przestaje wystarczać, jeśli maszyna ma samodzielnie wykonać dłuższe zadanie.

Biblioteka prostych, składanych reguł mogłaby ułatwić przenoszenie wiedzy na nowe sytuacje. Zamiast osobno trenować każdą możliwą sekwencję ruchów, system wykorzystywałby poznane elementy w nowych konfiguracjach. Podobnej zdolności potrzebują agenci wykonujący długie zadania w programach komputerowych, a w dalszej perspektywie także narzędzia wspierające odkrycia naukowe.

Przeczytaj także:

Eksperymenty przeprowadzono jednak w kontrolowanych środowiskach z jasno określonymi transformacjami. Prawdziwy świat jest pełen szumu, częściowo niewidocznych przyczyn i kilku procesów zachodzących jednocześnie. Obserwacja filiżanki przesuniętej na stole nie mówi jeszcze, czy ktoś ją popchnął, stół się przechylił, czy zmienił się kąt kamery. NEO jest więc obiecującym dowodem koncepcji, a nie gotowym umysłem dla robota.

*Grafika wprowadzająca wygenerowana przez AI