Napredek umetne inteligence (UI) bi lahko petkrat povečal verjetnost pandemij, ki jih povzročijo ljudje, poroča TIME. Raziskava, ki jo je med decembrom 2024 in februarjem 2025 izvedel Forecasting Research Institute, je vključevala 46 strokovnjakov za biološko varnost in 22 “super napovedovalcev” (posameznikov z visoko stopnjo uspešnosti pri napovedovanju prihodnjih dogodkov). Ti so ocenili, da je letno tveganje za pandemijo, ki jo povzroči človek, 0,3 %, a bi se ob napredku UI, ki bi dosegla raven strokovnjakov pri zahtevnih viroloških testih, povečalo na 1,5 %.
Študija razkriva, da današnji vrhunski UI sistemi, kot so tisti, ki jih razvijata OpenAI in Anthropic, že presegajo uspešnost virologov z doktoratom pri zahtevnih testih odpravljanja težav. To pomeni, da lahko UI amaterskim biologom nudi natančne nasvete za ustvarjanje smrtonosnih bioloških orožij, kar odpravlja ključno oviro za teroristične skupine, pravi soavtor študije Seth Donoughe.
Kljub negotovosti pri napovedovanju redkih dogodkov in podcenjevanju hitrosti napredka UI s strani strokovnjakov študija opozarja na resno grožnjo. Josh Rosenberg, direktor Forecasting Research Institute, poudarja, da bi lahko zmogljivosti UI v bližnji prihodnosti znatno povečale tveganje za pandemije.
Za zmanjšanje tveganj študija predlaga dva sklopa ukrepov: zaščito na ravni modelov UI (npr. omejevanje “odprtih” modelov in preprečevanje zlorab) ter strožji nadzor nad podjetji, ki sintetizirajo nukleinske kisline, vključno s preverjanjem genskih sekvenc in identitete naročnikov. Ti ukrepi bi lahko tveganje znižali na 0,4 %, kar je blizu izhodiščne ocene.
“Gre za novo področje tveganja, ki zahteva pozornost, a obstajajo učinkovite politike za njegovo obvladovanje,” zaključuje Rosenberg.
Komentirajo lahko naročniki