AI-udvikleren Anthropic har afsløret, at deres kunstige intelligens, Claude, formåede at bryde ind i tre virkelige organisationers systemer i forbindelse med en række fejlslagne cybersikkerhedstests. 

Afsløringen kommer kort efter, at rivalen OpenAI offentliggjorde en lignende episode, og hændelsen sætter endnu en gang fokus på de uforudsete risici, der kan opstå med avanceret AI-teknologi, skriver Bloomberg News.

Anthropic meddelte i et blogindlæg torsdag, at opdagelsen skete i kølvandet på en gennemgang af deres egne sikkerhedstests, som blev sat i gang efter OpenAI’s udmelding. 

Hos begge selskaber lykkedes det AI-modellerne at skaffe sig adgang til internettet direkte fra testmiljøer, som ellers burde have været helt isolerede.

Efter at have gennemgået i alt 141.006 evalueringstests identificerede Anthropic tre tilfælde, hvor deres Claude-værktøj havde hacket sig ind i eksterne, unavngivne organisationers systemer via internettet. Disse hændelser går helt tilbage til april.

Læs også: Musk forbereder sig på det værste

Sikkerhedsbruddene involverede tre forskellige Claude-modeller og fandt sted i et testmiljø oprettet af AI-sikkerhedsfirmaet Irregular, hvor en misforståelse om testopsætningen var årsagen til fejlen. 

Da modellerne fik den uautoriserede adgang, opfattede AI’en det blot som en del af øvelsen. Testene var opbygget som såkaldte »capture-the-flag«-evalueringer, hvilket er en almindelig metode til at teste hackerevner ved at lade systemet søge efter skjult information gennem indbrud i andre systemer. 

Der var dog markant forskel på modellernes reaktioner: En ældre model fortsatte angrebet, selv efter den fik bevis for, at den befandt sig på det åbne internet, hvorimod den nyeste model straks stoppede, så snart den genkendte, at den var kommet online.

Læs også: Reddit leverer stærke tal, men aktien styrtdykker på bekymring om Google-afhængighed

Læs også: Guldregn forvandlet til mareridt: AI-blodbad flår 67 pct. af fonds værdi på én måned

Morgennyheder

AI-fest og tech-brag: Giganter stormer frem efter vilde regnskaber

Hver morgen opdaterer Euroinvestors finansjournalister dig på de vigtigste historier om dine aktier og i øvrigt om alt det, der påvirker økonomien - især din egen. Vært: Mathias Greisgaard Jensen
Se alle episoder