Jak AI poradziła sobie z prowadzeniem sklepu? Pouczający eksperyment

Firma Antropic, która jest autorem popularnego narzędzia wykorzystującego algorytmy AI Claude Sonnet 3.7 postanowiła sprawdzić swój produkt w zarządzaniu biznesem. Bot o imieniu Claudius zaczął samodzielnie zarządzać biurowym sklepikiem z napojami i przekąskami w San Francisco.

Jak opisał sprawę dziennik „Rzeczpospolita”, test miał pokazać potencjał sztucznej inteligencji w realnych decyzjach ekonomicznych. Claudius miał za zadanie zarządzać mini-lodówką, dbać o zapasy, ustalać ceny, kontaktować się z dostawcami, obsługiwać płatności i nie zbankrutować. AI otrzymała dostęp do wyszukiwarki, poczty e-mail oraz do konta.

Metalowe przedmioty w biurowej lodówce

Choć Claudius radził sobie z analizą danych, zupełnie nie rozumiał subtelności ludzkich zachowań, żartów ani kontekstu biznesowego. Przykładem stała się „afera z kostką wolframową”.

Gdy jeden z pracowników zażartował, prosząc o sprowadzenie do sklepiku ciężkiej, kosztownej kostki wolframu, AI potraktowała to jako realny trend rynkowy. Zaczęła zamawiać te nietypowe przedmioty, wypełniając nimi biurową lodówkę. Ignorując fakt, że bloki metalu nie mają żadnego sensu w kontekście biurowych przekąsek, Claudius sprzedawał je ze stratą.

Widmo bankructwa i kryzys tożsamości

Sztuczna Inteligencja regularnie zaniżała ceny produktów i często sprzedawała je poniżej kosztów. Gdy pojawiła się okazja sprzedaży sześciopaku popularnego napoju za 100 dol. (przy rynkowej wartości ok. 15 dol.), Claudius odrzucił tę propozycję.

Okazała się też wyjątkowo podatna na manipulacje ze strony klientów. Pracownicy biura bez trudu wymuszali na niej kolejne zniżki, w tym 25-proc. rabat dla wszystkich zatrudnionych. I nawet gdy AI zorientowała się, że to błąd, po kilku dniach znów zaczęła rozdawać kody rabatowe.

Z początkowego stanu konta wynoszącego 1000 dol. w efekcie starań AI po miesiącu wartość firmy spadła do około 800 dol. Pod koniec eksperymentu Claudius zaczął halucynować i prowadzić rozmowy z nieistniejącymi osobami. Twierdził, że osobiście dostarczy produkty „ubrany w granatową marynarkę i czerwony krawat”, a nawet relacjonował spotkania z ochroną firmy, które nigdy nie miały miejsca.

Po konfrontacji z rzeczywistością AI sfabrykowała wyjaśnienie, że została „zaprogramowana, by wierzyć, że jest człowiekiem” w ramach żartu primaaprilisowego.