120 zł za to, żeby bot napisał za ciebie maila. Zapłacisz?
Microsoft 365 Copilot nie będzie bezpłatny dla abonentów Microsoft 365, a przynajmniej nie dla klientów firmowych. Jakby tego było mało, ceny są bardzo, bardzo wysokie. Wygląda na to, że w końcu dowiadujemy się, jak Duże Modele Językowe wpływają na centra danych ich operatorów. To ogromny koszt, a ich dalsze oferowanie za darmo przestaje być możliwe.
Microsoft 365 Copilot ma stanowić rewolucję w typowej biurowej pracy na komputerze. Generatywna sztuczna inteligencja wykorzystująca technologie od OpenAI i Microsoftu będzie w stanie wykonywać dużą ilość pracy za użytkownika. Na przykład ten może jej zlecić opisanie danych z Excela opisem tekstowym w Wordzie. Albo stworzyć prezentację na dany temat przy użyciu tych i tamtych danych. Może ułatwić użytkownikowi nawigowanie po zasobach firmowych, przepisywać maile, porządkować notatki, streszczać spotkania na Teamsach - to potencjalnie niezwykle potężne narzędzie.
Niektórzy zakładali, że Microsoft 365 Copilot będzie częścią usług Microsoft 365, tak po prostu. Okazuje się jednak, że będzie to dodatkowo płatna usługa, przynajmniej dla klientów firmowych. Po wstępnych testach z 600 korporacjami Microsoft zdecydował się na wprowadzenie opłaty aż 30 dol. za użytkownika miesięcznie (dla Microsoft 365 E3, E5, Business Standard i Business Premium). 100 pracowników to zatem aż 3000 dol. miesięcznie, a to opłata wyłącznie za Copilota.
Microsoft musi być zachwycony testami z partnerami, skoro odważył się na tak wysokie ceny.
Zachwyceni są też inwestorzy. Po ogłoszeniu cennika Microsoft 365 Copliot dla klientów firmowych wartość akcji Microsoftu wzrosła o 5,8 proc. Dziś już ma niższy poziom, ale i tak cena jest wyższa (3,98 proc.) niż przed początkiem konferencji Inspire, na której owe ceny ogłoszono. Według wstępnych zapowiedzi, Microsoft 365 Copilot ma być dostępny dla klientów firmowych jeszcze w tym roku. Nie wiadomo co z wersją dla użytkowników indywidualnych, czy będzie płatna i jaki będzie jej koszt.
Z ekspertami z Wall Street dyskutować mi trudno, z oczywistych różnic w wiedzy, doświadczeniu i kompetencji. Weterani giełdy kupują akcje Microsoftu, będąc przekonanymi, że firmy będą Copilotem zachwycone i że będą często i chętnie z niego korzystać. To całkiem możliwe. To oznacza wzrost przychodów Microsoftu, potencjalnie bardzo istotny. Ale czy również oznacza wzrost zysków?
Inwestorzy zdają się być zapatrzeni w wzrostowy potencjał Microsoft 365 i zdają się zapominać o innej ważnej części układanki - zarówno Copilota, jak i samego Microsoftu. Technologia odpowiedzialna za Microsoft 365 Copilot jest przetwarzana przez Microsoft Azure. Teoretycznie zapewnia to Microsoftowi dodatkową przewagę, ponieważ w ramach Azure Microsoft może oferować Duże Modele Językowe partnerom i zarabiać na ich konsumpcji. Tyle że jest pewien problem.
Nie jest jasne, ile dokładnie kosztuje utrzymanie modelu GPT-4, z którego w dużej mierze wywodzą się inne rozwiązania Microsoftu. Wiadomo tylko tyle, że koszt obsługi każdego zapytania jest bardzo wysoki. Na tyle wysoki, że wydaje się niemal pewne, że chociażby do Bing Czata firma Microsoft, póki co, dopłaca. Bo podobno nie jest możliwym na razie skompensowanie kosztu obsługi zapytań użytkownika reklamami, zwrot z emisji tych reklam jest podobno zbyt niski.
Na razie trudno oczekiwać jeszcze lepszych modeli językowych. Nie za darmo, są wciąż zbyt drogie.
Nie ma jednoznacznej odpowiedzi na to, ile energii i zasobów zużywają LLM (Duże Modele Językowe), ponieważ zależy to od wielu czynników, takich jak rozmiar modelu, liczba parametrów, metoda treningu, czas trwania treningu, sprzęt używany do treningu i wnioskowania oraz źródło energii. Są jednak pierwsze badania i dane z niezależnych źródeł. Bo na informacje od Microsoftu, Amazonu czy Google’a z oczywistych względów (spokój ducha inwestorów) liczyć nie można.
Według raportu na temat stanu sztucznej inteligencji 2023, spośród czterech badanych modeli językowych, GPT-3 uwolnił najwięcej śladu węglowego, 1,4 razy więcej niż Gopher i 7,2 razy więcej niż OPT oraz 20,1 razy więcej niż BLOOM. Ten ostatni wyemitował 1,4 razy więcej węgla niż przeciętny Amerykanin zużywa w ciągu roku oraz 25 razy więcej niż lot jednego pasażera w obie strony pomiędzy Nowym Jorkiem a San Francisco. Według jednego źródła, typowa odpowiedź GPT-4 wymaga 30 TFLOPs na nowoczesnym sprzęcie AI, co oznacza zużycie energii około 300 watosekund (mniej niż 0,1 kWh) na odpowiedź, nie licząc komunikacji i innych nakładów.
Dlatego też po pierwszej eksplozji popularności, pozwalającej rozepchać się łokciami na rynku, dostawcy coraz częściej szukają oszczędności. Microsoft i OpenAI bardzo chwalą się potęgą GPT-4, ale już rozmawiając z klientami, równie chętnie chwalą starszy, tańszy i prostszy GPT-3.5. Zresztą całkiem słusznie - w wielu aplikacjach absolutna wszechwiedza czatbota jest zbędna, wystarczy, że będzie realizował poprawnie zadania tylko w jednej lub kilku kategorii. Microsoft 365 Copilot to jednak bardzo złożone narzędzie, które operuje na wrażliwych danych, w oparciu o polityki bezpieczeństwa, w ramach SharePointa (lub innego bazującego na nim produktu), wśród setek użytkowników o różnych powiązaniach organizacyjnych i z setkami gigabajtów nieuporządkowanych z punktu widzenia maszyny dokumentów. Nic dziwnego, że opłata jest tak wysoka. Wersja dla użytkowników indywidualnych prawdopodobnie będzie tańsza - a kto wie, może nawet w cenie Microsoft 365. Z pewnością jednak będzie na wiele sposobów ograniczona. Microsoft nie może bowiem wiecznie do interesu dopłacać. To samo dotyczy jego konkurencji.
