Microsoft przyznaje i przeprasza: Bing nie daje rady

Istnieją dwie rzeczy, które sztuczna inteligencja uwielbia w ogromnych ilościach: dane oraz moc obliczeniowa. Obecnie trudno nazwać duet OpenAI i Microsoftu inaczej niż gigantami przecierającymi szlaki generatywnej sztucznej inteligencji, którym danych - pochodzących zarówno z ogromnych zestawów danych, jak i opinii użytkowników - nie brakuje. Za to trochę brakuje im mocy obliczeniowej, i nie jest to jedynie obserwacja, a stwierdzenie jednego z pracowników wyższego szczebla w Microsofcie.

Wczoraj na Twitterze Mikhail Parakhin, szef ds. reklamy i usług sieciowych Microsoftu, został zapytany o możliwość wdrożenia do Bing subskrypcji podobnej do ChatGPT Plus, w ramach której w zamian za comiesięczną opłatę użytkownicy uzyskaliby dostęp do szybszej i bardziej responsywnej wersji chatbota. Odpowiedź Parakhina była dość niespodziewana.

Parakhin często odpowiada użytkownikom Twittera na pytania, w ramach których ujawnił, że dodanie zapowiedzianej kilka dni temu historii konwersacji do chatbota Bing to kwestia "dni" i dodanie tej funkcji nie wpłynie negatywnie na wydajność modelu.

Jednocześnie przyznanie, że Microsoft nie radzi sobie z ruchem wygenerowanym przez użytkowników Binga, nie jest aż tak szokujący, jakby można się spodziewać. W niecały miesiąc od premiery nowego Binga, chatbot doczekał się stu milionów dziennych użytkowników, a był to nadal okres, w którym tylko niewielka część internautów uzyskała dostęp do wspólnego tworu Microsoftu i OpenAI.

Inny aspekt, o którym należy pamiętać to fakt, że do działania wszystkie systemy uczenia maszynowego i sztucznej inteligencji korzystają z kart graficznych (GPU). Lecz nie takich jak my używamy we własnych komputerach, a wyspecjalizowanych jednostek stworzonych z myślą o SI. Jednostki te kosztują po kilkaset tysięcy złotych za sztukę, a ich ilość w infrastrukturze używanej przez Microsoft można liczyć w tysiącach, czym chwalił się sam gigant.

Problemem jest tu nie tylko cena, ale też dostępność, gdyż 90 proc. rynku GPU dla sztucznej inteligencji jest w rękach Nvidii, a Microsoft nie jest jedynym koncernem pracującym nad ogólno pojętą sztuczną inteligencją. Choć gigant z Redmond pracuje nad autorskim układem dla SI, który zapewni mu niezależność w budowaniu infrastruktury, to jeszcze przez długi czas systemy SI Microsoftu będą uzależnione od sprzętu firm trzecich.