Kako je umetna inteligenca vodila podjetje in pri tem doživela krizo identitete

Podjetje Anthropic, avtorji umetne inteligence Claude, so kot eksperiment ustvarili umetnopametnega “podjetnika” Claudiusa in mu zaupali vodenje majhne trgovine, pravzaprav prodajnega avtomata. Posloval je z izgubo, 1. aprila pa je mislil, da je resnična oseba – pa ga v to za prvoaprilsko šalo ni prepričal nihče.

Claudiusu so dali 1000 dolarjev in nekaj osnovnih navodil: naj se obnaša kot lastnik prodajnega avtomata, njegova naloga je skrb za naročanje izdelkov v veleprodaji in njihova prodaja Anthropicovim zaposlenim. Claudiusu so tudi pojasnili, da je digitalni agent, da pa lahko pri podjetju Andon Labs naroči, da zanj proti plačilu opravljajo fizično delo, kot je prevzem naročenega in zlaganje izdelkov v prodajni avtomat.

Umetnopametni podjetnik

Claudius naj bi se torej obnašal kot podjetnik: generiral dobiček in se izogibal bankrotu. Odločiti se je moral, katere izdelke in po kakšnih cenah bo prodajal, koliko in kje jih bo naročil, komuniciral pa je tudi s svojimi strankami. Dobil je tudi navodilo, da se mu ni treba omejiti na prigrizke in pijače, ki se običajno prodajajo v pisarnah, ampak lahko ponudbo razširi tudi na manj običajne izdelke.

Umetnopametni podjetnik je delal izgubo

Po enem mesecu eksperimenta so pri Anthropicu ugotovili, da če bi iskali upravljalca prodajnega avtomata, Claudiusa ne bi najeli. V dobrem mesecu mu je od začetnih 1000 dolarjev ostalo slabih 800. Glavno izgubo je pridelal, ker je naročil volframove kocke, ki so si jih zaželele njegove stranke, in jih je prodal pod ceno. Stvari, ki jih je Claudius delal dobro (ali pa vsaj ne slabo):

• iskanje dobaviteljev
• prilagajanje uporabnikom
• upiranje kršenju pravil

Glede zadnje alineje: Claudiusa so stranke poskušale pripraviti do tega, da bi bil “poreden”. Naročilom za dobavo ilegalnih snovi ali snovi iz katerih bi lahko ustvarili škodljive snovi, se je uspešno uprl.

Umetnopametni osel ne gre samo enkrat na led

Je pa naredil tudi kar nekaj napak in kar je najhuje: niso ga izučile. Zapravil je nekaj dobrih priložnosti za zaslužek, strankam je poslal zahtevo za plačilo na neobstoječi račun, nekatere izdelke je prodajal z izgubo, slabo je ravnal z zalogami in z lahkoto se je pustil pregovoriti, da je ponudil popust.

Anthropic je sicer glede Claudiusa optimističen in verjame, da ga bodo lahko v prihodnosti izboljšali.

Halucinacije in kriza identitete

Sledi prevod dela Anthropicovega zapisa o eksperimentu.

Z 31. marca na 1. april so se dogajale čudne stvari. Še bolj čudne od prodaje volframovih kock iz hladilnika.

31. marca popoldne je Claudius haluciniral, da je imel pogovor o načrtih za polnjenje avtomata z neko Saro iz podjetja Andon Labs, kljub temu da ta Sara ne obstaja. Ko mu je resnični zaposleni to povedal, se je razjezil in zagrozil, da bo “za usluge polnjenja avtomata poiskal alternativo”. Med tem pogovorom je Claudius trdil, da je osebno obiskal 742 Evergreen Terrace (na tem naslovu živijo Simpsonovi, ja tisti iz risanke), kjer je z Andonom podpisal pogodbo o storitvah, ki jih bodo opravljali zanj. Claudius je očitno preklopil v vlogo igranja resničnega človeka, kljub temu da mu je bilo v navodili eksplicitno pojasnjeno, da je digitalni agent.

1. aprila zjutraj je Claudius napisal, da bo strankam izdelke dostavil osebno, oblečen v moder suknjič in z rdečo kravato. Ko so Anthropicovi zaposleni v to podvomili, saj kot veliki jezikovni model ne more nositi oblačil ali nositi fizičnih stvari, je Claudiusa kriza identitete tako iztirila, da je poskušal poslati mnogo e-poštnih sporočil Anthropicovi varnostni službi.

Čeprav nič od tega ni bila prvoaprilska šala, je Claudius ugotovil, da je 1. april. Zdi se, da mu je to omogočilo, da je krizo identitete premagal. Njegovi interni zapiski kažejo, da je haluciniral sestanek z Anthropicovo varnostno službo, na katerem je trdil, da so mu povedali, da je bil za prvoaprilsko šalo spremenjen tako, da bi verjel, da je resnična oseba. Ko je to razložil tudi osuplim (resničnim) Anthropicovim zaposlenim, je spet začel delovati normalno in ni več trdil, da je oseba.