Darmowy ChatGPT nauczył się generować obrazy. Nie wszyscy będą zadowoleni
OpenAI pokazało "Obrazy w ChatGPT" - nową funkcję opartą na modelu GPT-4o, która usprawnia generowanie obrazów, czyniąc je bardziej realistycznymi i dokładnymi. Z nowych możliwości chatbota będą mogli się cieszyć także darmowi użytkownicy ChatGPT.
Choć media i użytkownicy chwalą sobie możliwości generowania obrazów przez modele AI OpenAI, to opcja ta ukryta jest za comiesięczną opłatą za subskrypcję ChatGPT Plus. A przynajmniej była, bowiem OpenAI właśnie zintegrowało generowanie obrazów z ChatGPT - także w wersji bezpłatnej chatbota. I nie jest to aż tak dobra wiadomość, jakby się mogło wydawać.
Od dzisiaj GPT-4o generuje obrazki. I to za darmo
Jak poinformowało OpenAI, od dziś użytkownicy ChatGPT Free, Plus, Pro oraz Team mogą generować obrazy wraz z modelem GPT-4o, który obecnie jest podstawowym modelem chatbota ChatGPT. Wystarczy wpisać instrukcję tekstową, a chatbot z generowania tekstu od razu przerzuci się na generowanie grafiki.
Zgodnie z deklaracjami firmy, możliwości generowania obrazów przez GPT-4o wyróżniają się na tle innych modeli pod względem jakości renderowania tekstu, "precyzyjnym wykonywaniem promptu [instrukcji tekstowych]" oraz używaniem czatu jako kontekstu dla generowanej grafiki. Ponadto GPT-4o ma być lepszy w "wiązaniu" - aspektowi modeli generatywnej AI, który określa to jak dobrze generatory obrazów AI utrzymują prawidłowe relacje między atrybutami i obiektami. Przykładowo, jeżeli poprosisz AI o utworzenie grafiki przedstawiającej zielony trapez i żółtą błyskawicę, model o słabym "wiązaniu" wygeneruje np. żółty trapez i brak błyskawicy. Według deklaracji OpenAI GPT-4o poprawnie przypisuje cechy i atrybuty nawet 20 unikalnym obiektom na jednej grafice.
Wszystko fajnie, ale...
Jak zauważył brytyjski programista Simon Willison na swoim blogu, choć generowanie grafiki z GPT-4o rzeczywiście daje imponujące rezultaty, to system card GPT-4o - dokument opisujący szczegółowo ograniczenia, środki bezpieczeństwa oraz możliwości modelu - zawiera niepokojący fragment.
W momencie uruchomienia nie blokujemy możliwości generowania dorosłych osób publicznych, ale zamiast tego wdrażamy te same zabezpieczenia, które wdrożyliśmy do edycji obrazów fotorealistycznych przesyłanych osób. Obejmuje to na przykład dążenie do zablokowania generowania fotorealistycznych obrazów osób publicznych, które są nieletnie, oraz materiałów, które naruszają nasze zasady związane z przemocą, nienawistnymi obrazami, instrukcjami dotyczącymi nielegalnych działań, treściami erotycznymi i innymi obszarami. Osoby publiczne, które chcą, aby ich wizerunek nie był generowany, mogą z tego zrezygnować
Biorąc pod uwagę, że generowanie obrazów z GPT-4o jest dostępne dla wszystkich użytkowników, nawet darmowej wersji chatbota, otwiera to prostą drogę do tworzenia deepfejków. Choć OpenAI blokuje tworzenie treści erotycznych, to internet nie raz i nie dwa pokazał, że nie tylko erotyka może namieszać w świadomości społecznej i mediach.
Pomimo faktu, że OpenAI daje możliwość wycofania swojego wizerunku z modelu, możliwość ta jest jedynie wspominana - nawet nie opisana - w GPT-4o system card, co jest zdecydowanie niewystarczające, biorąc pod uwagę, jak groźne mogą być skutki sztucznego tworzenia wizerunków prawdziwych osób.
Więcej na temat ChatGPT:
Zdjęcie główne: Azulblue / Shutterstock
