Presja Chin przynosi owoce. OpenAI o3-mini już dostępny - ma być równie tani

Model o3-mini sam w sobie nie jest niczym nowym. Został zaprezentowany w grudniu przez OpenAI, ale w tym czasie firma chciała skupić uwagę wszystkich na głównym modelu o3 o znacznie większych możliwościach. Firma wówczas nie zważała na apetyt o3 na zasoby sprzętowe, widząc ogromny entuzjazm wśród inwestorów i ich głód na jeszcze potężniejszą, jeszcze funkcjonalniejszą generatywną AI. Udostępnienie przez chiński konglomerat modelu DeepSeek wymusił zmianę podejścia.

DeepSeek zapewnia nieodległe jakościowo wyniki od modeli OpenAI potrzebując przy tym do działania istotnie mniejsze zasoby sprzętowe, jest też znacznie mniej wymagający względem mocy obliczeniowej. Najnowsze, najpotężniejsze, najbardziej zaawansowane modele ze Stanów Zjednoczonych są istotnie lepsze jakościowo od chińskiej wschodzącej gwiazdy. Różnice w jakości nie wydają się jednak tłumaczyć ogromnej różnicy w kosztach.

To też jest ciekawe:

Dlatego też nacisk OpenAI na promowanie poszczególnych modeli wyraźnie się zmienia. Model o3 jest nadal oczywiście ogłaszany najwspanialszą możliwą GenAI na rynku. Nową gwiazdą ma być jednak o3-mini, który ma być niewiele gorszy od o3, ale być również zdecydowanie tańszy.

o3-mini, podobnie jak o3 i wszystkie modele z rodziny o, potrafi rozumować. Przy czym w żargonie oznacza to tyle, że ów model szuka różnych możliwych wariantów odpowiedzi na to samo pytanie, a następnie sam je ocenia i dopiero wtedy wybiera najlepszą. To znacząco zwiększa koszt operacyjny modelu, ale też redukuje do minimum problem halucynacji (udzielania błędnych informacji).

Pierwotnie o3-mini miał być wyspecjalizowanym modelem pod dziedziny nauk ścisłych, jednak zapewne z uwagi na ostatnie wydarzenia jest teraz oferowany jako model ogólnego użytku. OpenAI twierdzi, że o3-mini oferuje podobną jakość odpowiedzi do modelu o1, będąc przy tym szybszym i tańszym.

Model o3-mini jest już dostępny do testów, między innymi w ramach usługi ChatGPT. Nie jest wymagana żadna płatna subskrypcja, choć dla darmowych użytkowników obowiązuje limit dzienny możliwych do wysłania modelowi zapytań. Uruchamiany jest przyciskiem Reason pojawiającym się w pasku na wpisanie prompta. Jest też dostępny w ramach OpenAI API.

Koszt operacyjny o3-mini dla operatorów to 0,55 dol. za milion buforowanych tokenów wejściowych i 4,40 dol. za milion tokenów wyjściowych, gdzie milion tokenów odpowiada około 750 tys. słów. Jest to o 63 proc. tańsze niż o1-mini i konkurencyjne w stosunku do cen modelu rozumowania R1 firmy DeepSeek. DeepSeek pobiera 0,14 dol. za milion buforowanych tokenów wejściowych i 2,19 dol. za milion tokenów wyjściowych za dostęp do R1 za pośrednictwem swojego interfejsu API. To ponoć dopiero początek i mamy oczekiwać więcej efektywnych kosztowo rozwiązań i to jeszcze w bieżącym kwartale.

*Zdjęcie otwierające: Primakov / Shutterstock