Maszyny zwrócą się przeciwko człowiekowi. Wszystko przez ludzi, którzy za tym stoją
Jeden z czołowych pionierów sztucznej inteligencji na świecie ostrzega, że nie tylko coraz potężniejsza technologia może zaszkodzić światu. Równie niebezpieczni mogą być ludzie za nią odpowiedzialni.
Kolejny pesymistyczny głos w dyskusji o sztucznej inteligencji. Tym razem głos zabrał słynny informatyk Yoshua Bengio, pionier sztucznej inteligencji. Yoshua Bengio to postać, którą można określić mianem gwiazdy nauk komputerowych. Kanadyjski badacz, laureat nagrody Turinga (uznawanej za odpowiednik Nobla w świecie informatyki), od dekad pracuje nad rozwojem sztucznej inteligencji. Jego badania nad sieciami neuronowymi stanowią fundamenty AI, którą znamy dzisiaj.
Gdy taka postać zabiera głos, zawsze warto posłuchać, co ma do powiedzenia. Naukowiec udzielił wywiadu sieci CNBC, a to, co usłyszeliśmy jest niepokojące.
Maszyny tak inteligentne jak ludzie
Przede wszystkim musimy przygotować się na nadejście tak zwanej ogólnej sztucznej inteligencji (AGI). Sztuczna inteligencja ogólna to rodzaj technologii AI, której celem jest dorównanie lub przewyższenie intelektu człowieka.
Doskonały artykuł na ten temat "Za 5 lat wszystko się zmieni. Czy jesteśmy gotowi na nadejście Osobliwości?" napisał ostatnio Rafał. Jeśli jeszcze go nie czytaliście, gorąco Was do tego zachęcam.
Maszyny będą mogły wkrótce posiadać większość zdolności poznawczych człowieka. Naprawdę ważne jest, abyśmy wyobrazili sobie przyszłość, w której maszyny będą pod wieloma względami tak inteligentne jak my, i zastanowili się, co to będzie oznaczać dla społeczeństwa
- powiedział Yoshua Bengio.
Jego zdaniem "istnieją argumenty sugerujące, że sposób, w jaki obecnie szkolone są maszyny ze sztuczną inteligencją, doprowadzi do powstania systemów, które zwrócą się przeciwko ludziom.
Nie dysponujemy metodami, które pozwoliłyby nam mieć pewność, że te systemy nie wyrządzą krzywdy ludziom lub nie zwrócą się przeciwko nim. Nie wiemy, jak to zrobić
- podkreślał naukowiec w wywiadzie dla CNBC.
Bengio powiedział, że "najtrudniejsze pytanie ze wszystkich" brzmi: "Jeśli stworzymy byty, które są mądrzejsze od nas i mają własne cele, co to oznacza dla ludzkości? Czy jesteśmy w niebezpieczeństwie?".
To wszystko są bardzo trudne. Pytania są ważne, a nie mamy wszystkich odpowiedzi. Potrzebujemy znacznie więcej badań i środków ostrożności, aby złagodzić potencjalne ryzyko
– powiedział Bengio.
Więcej o sztucznej inteligencji przeczytasz na Spider's Web:
Niebezpieczni ludzi
Problem leży nie tylko w samej technologii, ale także w ludziach, którzy ją tworzą i kontrolują. Ambicje, chęć zysku, a nawet zwykłe błędy mogą prowadzić do katastrofalnych konsekwencji.
Inteligencja daje władzę. Więc kto będzie kontrolował tę władzę? Są ludzie, którzy mogą chcieć nadużyć tej władzy. Są nawet ludzie, którzy mogą być szczęśliwi widząc, że ludzkość zostanie zastąpiona przez maszyny. Jest to margines, ale ci ludzie mogą mieć dużo władzy i mogą to zrobić, jeśli nie postawimy odpowiednich barier ochronnych już teraz
- podkreśla naukowiec.
Według Bengio ograniczona liczba organizacji i rządów będzie mogła pozwolić sobie na budowę potężnych maszyn ze sztuczną inteligencją, a im większe będą systemy, tym staną się mądrzejsze. Dodał, że posiadanie systemów, które wiedzą więcej niż większość ludzi, może być niebezpieczne w niewłaściwych rękach i tworzyć więcej niestabilności na poziomie geopolitycznym.
Budowa i szkolenie tych maszyn kosztuje miliardy. Bardzo niewiele organizacji i bardzo niewiele krajów będzie w stanie to zrobić. Tak już jest. Będzie koncentracja władzy: władzy ekonomicznej, która może być zła dla rynków; władzy politycznej, która może być zła dla demokracji; i władzy militarnej, która może być zła dla geopolitycznej stabilności naszej planety
– mówi Yoshua Bengio.
AI to temat, który dotyczy każdego z nas. Dlatego warto śledzić rozwój technologii i zastanawiać się nad jej wpływem na nasze życie. Bo choć przyszłość AI wciąż jest pisana, jedno jest pewne: będzie ona kształtować nasze jutro.
