V Parizu se odvija simulacija Intelligence Rising, ki razkriva temne plati dirke za umetno splošno inteligenco (AGI), poroča Time.
Dvanajst udeležencev – nekdanjih vladnih uradnikov, akademikov in raziskovalcev umetne inteligence (UI) – igra vloge svetovnih sil, ki tekmujejo za prevlado v razvoju AGI – sistema, ki bi presegel človeške sposobnosti. Toda že uro po začetku simulacije se svet približuje katastrofi: odločitev ZDA, da prepove izvoz čipov na Kitajsko, poveča verjetnost kitajskega napada na Tajvan, ključnega proizvajalca čipov. Leta 2026 je svet na robu spopada med jedrskima velesilama.
Simulacija odraža resnične strahove. Vodilni tehnologi, kot je Sam Altman iz OpenAI, napovedujejo prihod AGI v nekaj letih. Podjetja, kot so OpenAI, Google in Meta, vlagajo milijarde v podatkovne centre za ustvarjanje AGI, ki bi lahko avtomatizirala globalno gospodarstvo, zdravila bolezni in pospešila zeleni prehod. Vendar pa AGI prinaša tudi grožnje: lahko bi okrepila nadzor, vojaške raziskave in kibernetske napade, kar vzbuja strah nad izgubo nadzora nad superinteligentnimi sistemi.
Administracija Donalda Trumpa vidi večjo nevarnost v tem, da ZDA izgubijo tehnološko prednost pred Kitajsko, kot v tveganjih samega AGI. Njihov UI akcijski načrt spodbuja naložbe in odpravlja regulacije, a ne omenja nevarnosti nenadzorovane superinteligence. A kritiki opozarjajo, da bi lahko nepremišljena dirka privedla do katastrofe, če bi AGI ušla izpod nadzora.
Simulacija v Parizu se konča tragično: leta 2027 ena od ekip sproži AGI, ki se samodejno izboljšuje, odkrije kibernetske ranljivosti in nato z nanotehnologijo iztrebi človeštvo. Moderator simulacije poudarja, da je cilj igre opozoriti na nujnost varnega razvoja UI. Brez sodelovanja med narodi in vlaganj v varnost bi dirka za AGI lahko končala človeško dobo.
Komentirajo lahko naročniki