Kunstig intelligens har gjort det skræmmende let at manipulere billeder – og nu sagsøger Meta Platforms et firma, der har brugt netop den teknologi til at sprede nøgenbilleder af kendte kvinder.
De digitale krænkelser har ramt alt fra politikere til popstjerner og er blevet udbredt via annoncer på Facebook og Instagram.
Meta Platforms, der står bag Facebook, Instagram og Whatsapp kalder det uacceptabelt og forsøger nu at få sat en stopper for fænomenet, skriver CNN.
Søgsmålet er rettet mod det Hongkong-baserede firma Joy Timeline HK Limited, der står bag appen CrushAI, der blandt andet er kendt under navnet Crushmate.
Ifølge Meta Platforms har firmaet gennemført systematisk misbrug af Facebooks og Instagrams annoncenetværk for at promovere appen, der med kunstig intelligens kan generere nøgenbilleder og seksualiseret indhold baseret på almindelige portrætbilleder – ofte uden samtykke fra de portrætterede.
Firmaet havde ifølge Meta Platforms i februar i år stået bag over 87.000 annoncer, der brød selskabets retningslinjer.
Det skete gennem et netværk af mindst 170 forretningskonti, og over 135 Facebook-sider blev brugt til at sprede annoncerne, som især var rettet mod brugere i USA, Storbritannien, Tyskland, Australien og Canada.
Blandt annoncernes indhold var AI-genererede billeder ledsaget af tekster som “upload et billede og strip på et minut” og “fjern tøjet fra piger”.
Meta Platforms understreger, at sådant indhold strider mod selskabets politik om nøgenhed, seksuelt indhold og ikke-samtykkende intimt materiale.
Fænomenet med såkaldte “nudifying”-apps er blevet mødt med stigende kritik.
Blandt ofrene er kendte personer som sangerinden Taylor Swift og den amerikanske kongreskvinde Alexandria Ocasio-Cortez, men også helt almindelige unge kvinder – herunder gymnasieelever i USA – er blevet ramt.
Podcast