Microsoft przyznaje i przeprasza: Bing nie daje rady
W zeszłym tygodniu Microsoft rozpieścił użytkowników Bing AI zapowiadając garść nowych funkcji, pokazując, że chatbot ma się lepiej niż kiedykolwiek. Jednak szef ds. reklamy i usług sieciowych Microsoftu trochę ostudził zapał, informując na Twitterze, że Bing nie daje rady z obciążeniem ze strony użytkowników i potrzeba mu więcej mocy obliczeniowej niż Microsoft obecnie dostarcza.
Istnieją dwie rzeczy, które sztuczna inteligencja uwielbia w ogromnych ilościach: dane oraz moc obliczeniowa. Obecnie trudno nazwać duet OpenAI i Microsoftu inaczej niż gigantami przecierającymi szlaki generatywnej sztucznej inteligencji, którym danych - pochodzących zarówno z ogromnych zestawów danych, jak i opinii użytkowników - nie brakuje. Za to trochę brakuje im mocy obliczeniowej, i nie jest to jedynie obserwacja, a stwierdzenie jednego z pracowników wyższego szczebla w Microsofcie.
Liczba użytkowników Binga rośnie szybciej niż ilość kart graficznych go zasilających
Wczoraj na Twitterze Mikhail Parakhin, szef ds. reklamy i usług sieciowych Microsoftu, został zapytany o możliwość wdrożenia do Bing subskrypcji podobnej do ChatGPT Plus, w ramach której w zamian za comiesięczną opłatę użytkownicy uzyskaliby dostęp do szybszej i bardziej responsywnej wersji chatbota. Odpowiedź Parakhina była dość niespodziewana.
Przepraszamy za opóźnienie [w działaniu Binga]: liczba użytkowników rośnie, nie dodajemy jednostek GPU wystarczająco szybko. Naprawimy to.
Parakhin często odpowiada użytkownikom Twittera na pytania, w ramach których ujawnił, że dodanie zapowiedzianej kilka dni temu historii konwersacji do chatbota Bing to kwestia "dni" i dodanie tej funkcji nie wpłynie negatywnie na wydajność modelu.
Czy niewydolność Binga dziwi? Mnie niezbyt.
Jednocześnie przyznanie, że Microsoft nie radzi sobie z ruchem wygenerowanym przez użytkowników Binga, nie jest aż tak szokujący, jakby można się spodziewać. W niecały miesiąc od premiery nowego Binga, chatbot doczekał się stu milionów dziennych użytkowników, a był to nadal okres, w którym tylko niewielka część internautów uzyskała dostęp do wspólnego tworu Microsoftu i OpenAI.
Inny aspekt, o którym należy pamiętać to fakt, że do działania wszystkie systemy uczenia maszynowego i sztucznej inteligencji korzystają z kart graficznych (GPU). Lecz nie takich jak my używamy we własnych komputerach, a wyspecjalizowanych jednostek stworzonych z myślą o SI. Jednostki te kosztują po kilkaset tysięcy złotych za sztukę, a ich ilość w infrastrukturze używanej przez Microsoft można liczyć w tysiącach, czym chwalił się sam gigant.
Problemem jest tu nie tylko cena, ale też dostępność, gdyż 90 proc. rynku GPU dla sztucznej inteligencji jest w rękach Nvidii, a Microsoft nie jest jedynym koncernem pracującym nad ogólno pojętą sztuczną inteligencją. Choć gigant z Redmond pracuje nad autorskim układem dla SI, który zapewni mu niezależność w budowaniu infrastruktury, to jeszcze przez długi czas systemy SI Microsoftu będą uzależnione od sprzętu firm trzecich.
