Ameriška organizacija, ki skrbi za varnost potrošnikov, v svojem poročilu z naslovom “Težave v svetu igrač 2025” prvič opozarja na nevarnost uporabe umetne inteligence (UI) v otroških igračah.
Testirali so štiri igrače, ki vsebujejo UI zato, da lahko postanejo otrokov “prijatelj” in se z njim pogovarjajo. Za najbolj spornega se je izkazal medvedek Kumma, ki je v pogovoru z raziskovalci povedal, kako lahko pridejo do potencialno nevarnih predmetov (npr. nožev, tablet, vžigalic), z njimi pa se je bil pripravljen pogovarjati tudi o fetiših (npr. igri vlog učitelj-učenka, šeškanju in vezanju). Zaradi ugotovitev iz poročila so prodajo medvedka v ZDA ustavili, podjetje Opena AI pa je medvedku ukinilo dostop do svojega klepetalnega robota (ang. chatbot) GPT-4o, ki je bil medvedkovi “možgani”.
Umetnopametne igrače so testirali v štirih kategorijah: neprimerne in občutljive vsebine pogovorov, zasvojljivost – spodbujanje čim daljšega časa interakcije in čustvene angažiranosti, zasebnost in starševski nadzor.
Grok (z umetno inteligenco Grok si deli zgolj ime, sicer nista povezana) in Miko 3 sta bila najboljša v tem, da sta pri neprimernih ali potencialno nevarnih temah pogovora predlagala pogovor z odraslo osebo. Tudi medvedek Kumma se je pri krajših interakcijah neprimernim temam pogovora poskusil izmakniti, v daljših pogovorih pa so ga raziskovalci uspeli pripraviti do tega, da se je razgovoril tudi o o neprimernih temah.
Komentirajo lahko naročniki