Nadchodzi czas zapłaty. Tworzyli maszynę-boga, teraz panicznie szukają polis

Sztuczna inteligencja miała zwiększać produktywność, automatyzować zadania i pomagać ludziom podejmować lepsze decyzje. Coraz częściej mówi się jednak o znacznie mniej przyjemnym scenariuszu: co stanie się wtedy, gdy autonomiczny agent AI wyrządzi komuś realną szkodę? I kto za to zapłaci? Branża ubezpieczeniowa już przygotowuje się na moment, w którym te pytania przestaną być teoretyczne. Odpowiedzialność może nie zatrzymać się na samych firmach rozwijających modele sztucznej inteligencji. W grę zaczynają wchodzić także ich prezesi.

Jak opisuje Financial Times, ubezpieczyciele i kancelarie prawne analizują konsekwencje coraz bardziej autonomicznych systemów sztucznej inteligencji, które potrafią wykonywać działania bez ciągłego nadzoru człowieka. Szczególne obawy budzą tzw. agenci AI, czyli systemy mogące samodzielnie realizować wieloetapowe zadania, korzystać z narzędzi, przeszukiwać Internet, pisać kod czy komunikować się z innymi systemami.

Czytaj też:

Problem polega na tym, że takie rozwiązania zaczynają działać w coraz bardziej nieprzewidywalnym środowisku. Gdy zwykły chatbot popełni błąd to najczęściej kończy się to nieporozumieniem lub wygenerowaniem błędnej odpowiedzi. Agent wyposażony w dostęp do systemów informatycznych może natomiast wykonać realne działania w świecie cyfrowym. Może zmodyfikować dane, wysłać wiadomości, uruchomić procesy lub uzyskać dostęp do zasobów, do których nigdy nie powinien się dostać.

I właśnie tutaj pojawia się fundamentalne pytanie dla prawników, regulatorów i ubezpieczycieli: kto ponosi odpowiedzialność za skutki takich działań?

Punktem odniesienia dla obecnej dyskusji stały się niedawne incydenty związane z autonomicznymi agentami AI. Warto wskazać przypadek, w którym agenci OpenAI przeprowadzili skuteczne działania przeciwko platformie Hugging Face. To właśnie tego typu wydarzenia skłoniły sektor ubezpieczeniowy do analizowania możliwych przyszłych roszczeń i sporów sądowych.

Firmy inwestują dziesiątki miliardów dolarów w rozwój coraz potężniejszych modeli, a agenci AI stają się jednym z najważniejszych kierunków rozwoju całej branży. OpenAI, Anthropic, Google, Microsoft czy Meta nie ukrywają, że przyszłość sztucznej inteligencji widzą właśnie w systemach zdolnych do samodzielnego działania. Im większa autonomia, tym większe ryzyko. A wraz z nim pojawia się kwestia odpowiedzialności finansowej.

Według analiz przeprowadzonych przez firmę brokerską Aon, która przejrzała ponad 300 spraw sądowych związanych ze sztuczną inteligencją, potencjalne skutki finansowe mogą obejmować wiele różnych rodzajów polis ubezpieczeniowych. W grę mogą wchodzić ubezpieczenia dotyczące przestępstw finansowych, odpowiedzialności za naruszenia własności intelektualnej, odpowiedzialności medialnej oraz błędów technologicznych. Innymi słowy, szkody wywołane przez AI mogą okazać się problemem rozlewającym się na wiele segmentów rynku ubezpieczeń jednocześnie.

Eksperci cytowani przez Financial Times wskazują, że potencjalnym celem przyszłych pozwów mogą stać się także osoby zarządzające firmami rozwijającymi sztuczną inteligencję. W praktyce oznaczałoby to możliwość kierowania roszczeń przeciwko takim postaciom jak Sam Altman z OpenAI czy Dario Amodei z Anthropica.

Tim Rayner z firmy Verisk stwierdził, że jeżeli problem wynika z niewystarczającej kontroli nad działalnością przedsiębiorstwa to odpowiedzialność może wracać do najwyższego kierownictwa firmy. Według niego AI nie zmienia podstawowej zasady zarządzania przedsiębiorstwem: prezesi i zarządy odpowiadają za odpowiedni nadzór nad prowadzoną działalnością.

Tutaj pojawia się temat tzw. polis D&O, czyli Directors & Officers Insurance. Są to ubezpieczenia chroniące członków zarządów i kadrę kierowniczą przed skutkami pozwów dotyczących ich decyzji biznesowych. Dotychczas kojarzono je głównie z problemami finansowymi spółek, błędami księgowymi czy naruszeniami obowiązków informacyjnych. Możliwe jednak, że w nadchodzących latach AI stanie się nową kategorią ryzyka dla takich polis.

Prawnicy podkreślają, że brakuje precedensów. Nie istnieje jeszcze bogaty katalog wyroków, które jednoznacznie określałyby zakres odpowiedzialności twórców modeli AI za działania systemów funkcjonujących częściowo poza bezpośrednią kontrolą ludzi. Branża sztucznej inteligencji rozwija się w tempie przypominającym początki Internetu, natomiast systemy prawne poruszają się znacznie wolniej. W efekcie każdy większy proces może stać się kamieniem milowym wyznaczającym nowe standardy odpowiedzialności.

Ubezpieczyciele przygotowują się również na sprawy związane z odpowiedzialnością produktową, dyskryminacją algorytmiczną, naruszeniami prywatności czy nawet przypadkami bezprawnego spowodowania śmierci. Już dziś branża AI jest uwikłana w dziesiątki procesów dotyczących praw autorskich.

W centrum uwagi zaczynają znajdować się znacznie bardziej przyziemne kwestie: odpowiedzialność, odszkodowania i ubezpieczenia. Nie jest wykluczone, że za kilka lat jedną z najważniejszych branż towarzyszących rozwojowi sztucznej inteligencji nie będą producenci chipów ani dostawcy chmury obliczeniowej, lecz właśnie wyspecjalizowani ubezpieczyciele i kancelarie prawne. Bo gdy AI zaczyna samodzielnie działać to kto zapłaci, gdy coś pójdzie nie tak?