Chcieli zwiększyć użycie AI. Pracownicy znaleźli na to sposób
Firmowy ranking korzystania z AI miał motywować zespoły Amazona do pracy z nowymi narzędziami. Tablica wyników stała się jednak zachętą do wykonywania zbędnych operacji, które windowały koszty i obciążyły infrastrukturę.
Po tym jak wielkie korporacje zainwestowały bajońskie sumy we wdrożenie sztucznej inteligencji w każdy możliwy dział firm, byłoby ogromną stratą, gdyby narzędzia te zaczęły zbierać kurz. Dlatego Amazon wpadł na pomysł, by zachęcić pracowników do częstszego korzystania z AI poprzez wewnętrzny ranking aktywności. I bardzo się na tym pomyśle przejechał.
Amazon przekonał się, że mierzenie wykorzystania AI prostym rankingiem może przynieść odwrotny efekt od zamierzonego
Jak informuje "Financial Times", Amazon uruchomił specjalny ranking aktywności pracowników o nazwie Kirorank. Narzędzie śledziło aktywność pracowników korzystających z platformy Kiro, czyli firmowego środowiska programistycznego wspieranego przez sztuczną inteligencję. Użytkownicy zdobywali punkty za wykorzystanie AI podczas pracy.
Założenie było proste: zwiększyć świadomość narzędzi i przyspieszyć ich wdrażanie wśród zespołów technicznych. Efekt okazał się odwrotny od zamierzonego.
Według źródeł cytowanych przez dziennik, część pracowników zaczęła uruchamiać agentów AI do wykonywania zbędnych zadań tylko po to, by podnieść swój wynik w rankingu. Wewnętrznie zjawisko określano mianem "tokenmaxxingu" - sztucznego pompowania liczby tokenów przetwarzanych przez modele językowe.
Każde takie zapytanie generowało koszty po stronie Amazona. Im więcej aktywności, tym większe zużycie mocy obliczeniowej i wyższe rachunki za infrastrukturę AI.
Podczas spotkania z pracownikami Dave Treadwell, starszy wiceprezes Amazona, miał przyznać, że ranking powstał w dobrych intencjach. Jednocześnie zaznaczył, że firma nie chce, by sztuczna inteligencja była używana wyłącznie dla samego użycia. Zamiast śrubowania statystyk ważniejsze ma być tworzenie lepszych produktów.
Amazon potwierdził w oświadczeniu dla prasy, że panel funkcjonował jako eksperymentalne narzędzie i został już wycofany. Firma podkreśliła również, że nie był częścią oficjalnego systemu oceny pracowników.
Presja na wdrażanie AI w Amazonie pozostaje duża
Według ustaleń „Financial Times” firma wyznaczyła cele zakładające, że ponad 80 proc. programistów ma korzystać ze sztucznej inteligencji co tydzień. Jednocześnie koncern prowadzi cięcia kosztów i przeznacza ogromne środki na rozwój infrastruktury AI oraz centrów danych.
W tym roku wydatki kapitałowe Amazona mają sięgnąć około 200 mld dol. Znaczna część tej kwoty trafi właśnie na rozwój zaplecza dla sztucznej inteligencji.
Po wycofaniu Kiroranku Amazon miał zacząć przyglądać się innemu wskaźnikowi - tzw. "normalized deployments". Teraz oprogramowanie od firmy Metrika ma oceniać nie liczbę wygenerowanych tokenów, lecz to, czy AI pomaga programistom regularnie tworzyć przydatny kod wdrażany do produktów. Co moim zdaniem przyniesie podobny efekt kobry, co ranking aktywności pracowników. Programowanie trudno zamknąć w prostych tabelkach. Jeden dzień może upłynąć na napisaniu kilkuset linijek kodu, a kolejny na usunięciu jednego błędu ukrytego głęboko w architekturze systemu. Z perspektywy liczb drugi przypadek wygląda skromniej, choć bywa znacznie cenniejszy dla produktu i użytkownika.
Dlatego jak na dłoni widać, że osoby podejmujące decyzje o wdrażaniu tego typu narzędzi nie mają bladego pojęcia o specyfice pracy programistów, próbując mierzyć ją ilościowo niczym ilość zrealizowanych zamówień czy obsłużonych zwrotów. A to niemal zawsze prowadzi do wypaczenia celu. Ale kierownictwo dowie się o tym prawdopodobnie dopiero gdy kolejny pomysł doprowadzi do marnotrawstwa narzędzi.
Czytaj też:
