Barack Obama advarer om, at kunstig intelligens (AI) er farlig, hvis den ikke håndteres korrekt.

Sådan lyder det fra den tidligere amerikanske præsident under et privat arrangement ifølge avisen The New York Times.

Det sker, efter flere personer i AI-branchen den seneste har uge ytret bekymring for den hurtige udvikling af kunstig intelligens. 

Ifølge The New York Times har Obama nu bedt den demokratiske mindretalsleder i Repræsentanternes Hus, Hakeem Jeffries, om at udarbejde en klar ramme for en offentlig samtale om kunstig intelligens, så den står klar, hvis Demokraterne vinder et flertal i Repræsentanternes Hus ved midtvejsvalget 3. november.

»Udvikling bevæger sig ekstremt hurtigt, i private hænder, og hvis vi ikke kontrollerer det, kan det være farligt,« siger Obama ifølge mediet. 

Obama opfordrede også til, at den kommende demokratiske præsidentkandidat bør gøre AI til et centralt punkt på deres politiske dagsorden.

»Hvis vi får det under kontrol, tror jeg, det kan være gavnligt. For eksempel tror jeg, at kunstig intelligens kan accelerere den medicinske udvikling på en måde, der kan hjælpe os med at helbrede sygdomme,« siger Obama.

Den nuværende præsident Donald Trump har indtil videre ikke udtrykt nogen bekymringer på området – udover en frygt for, at lande som Kina vil »slå« USA i udviklingen af ​​AI.

Debatten blev for alvor sat i gang af advarsler fra to Anthropic-ansatte om, at teknologien kan udgøre en trussel mod menneskeheden.

Lørdag skrev Anthropics topchef, Dario Amodei, at det er afgørende at træde på bremsen for ikke at risikere, at systemerne løber løbsk.

Og søndag bakkede OpenAI's topchef, Sam Altman, og xAI's topchef, Elon Musk, op om opfordringerne til at sætte farten ned i AI-udviklingen.

Anthropic-topchefen Amodei er i et indlæg på sin hjemmeside kommet med en tretrinsplan.

Han ønsker uafhængige tilsynsfolk i de førende AI-virksomheder, koordinering mellem virksomhederne om sikkerhedsstandarder og grænser for udviklingen samt internationalt samarbejde om at håndtere risici ved teknologien.

Tidligere på ugen meddelte AI-forskeren Jacob Coxon, at han havde opsagt sin stilling hos Anthropic. Som begrundelse for sin opsigelse sagde han, at »de mennesker, der bygger AI, oprigtigt tror, at det kan dræbe os allesammen inden slutningen af årtiet«.

Amodei nævner lørdag i sit indlæg flere måder, hvordan AI kan være farligt for mennesker.

Han mener blandt andet, at brug af AI til udvikling af biologiske våben bør forbydes, og han fremhæver også faren for, at autokratiske lande vil bruge kunstig intelligens militært. Generelt peger han også på risikoen for tab af menneskelig kontrol med AI-systemer, der kan forbedre sig selv.