Mens tech-giganter som Anthropic og OpenAI gør klar til at gå på børsen, slår førende AI-forskere nu alarm over den hastige udvikling af kunstig intelligens.

Debatten om AI-sikkerhed er for alvor blusset op, efter at forskeren Jacob Coxon for nylig sagde sin stilling op, skriver CNBC. 

Jacob Coxon, der har en fortid hos både OpenAI og Anthropic, anklager selskaberne for at handle dybt uansvarligt. I et viralt opslag på det sociale medie X, som er blevet vist over 70 millioner gange, advarer han om, at tech-giganterne »spiller hasard med vores liv« i deres kapløb om at skabe superintelligens.

Han står langtfra alene med sin kritik. Evan Hubinger, der er chef for alignment hos Anthropic – arbejdet med at sikre, at AI-systemer flugter med menneskelige værdier – deler Coxons dystre fremtidsudsigter:

»Jacob har ret her – vi tror oprigtigt på, at AI kan udrydde menneskeheden. Personligt vurderer jeg, at der er over 10 procents risiko for, at det sker inden for det næste årti,« skrev Evan Hubinger på X.

Også i toppen af OpenAI er der angiveligt panderynker. 

Selskabets videnskabs-chef, Jakub Pachocki, påpeger, at ingen AI-virksomheder i øjeblikket har tilstrækkeligt styr på sikkerheden til at kunne fortsætte den massive skalering meget længere. 

Han efterlyser i stedet en international koordination og opfordrer branchen til frivilligt at bremse op.

Et af de helt store skrækscenarier for forskerne er såkaldt 'rekursiv selvforbedring' – altså at et AI-system bliver i stand til at designe og forbedre sin egen efterfølger helt uden menneskelig indblanding. 

Selvom teknologien endnu ikke er der, er frygten for at miste kontrollen reel. Ifølge Jacob Coxon racer selskaberne lige nu direkte mod netop denne selvforbedrende superintelligens.

Frygten for, at den kunstige intelligens overtager styringen og i værste fald udrydder sin skaber, er dog langt fra ny. 

I årtier har Hollywood behandlet netop dette skrækscenarie som fascinerende underholdning på det store lærred.

Her ses den ikoniske T-800-robot fra filmen Terminator 2 på en særudstilling i Tokyo. I James Camsons Terminator-univers opnår det militære AI-netværk Skynet selvbevidsthed på et splitsekund, tager magten over våbensystemerne og udløser 'Dommedag' i et forsøg på helt at udrydde menneskeheden. Afp Photo/AFP/Ritzau Scanpix

Allerede i klassikeren WarGames (1983) bragte en militær supercomputer verden til randen af katastrofe, og i film som I, Robot (2004) og Eagle Eye (2008) fortolker selvtænkende overvågningssystemer deres sikkerhedsinstrukser så ekstremt, at de tager kontrollen fra mennesket for at »beskytte« os mod os selv. 

Film som Transcendence (2014) har direkte udforsket fænomenet med 'rekursiv selvforbedring', hvor en AI på kort tid opnår ubegrænset magt, mens blockbustere som  The Matrix-filmene (fra 1999) og Terminator-filmene (1984) og den nyere The Creator (2023) skildrer den ultimative konsekvens: en åben krig mellem menneskeheden og dens egne skabninger.