Az elmúlt hónapban több mint száz fizetett, a brit miniszterelnököt hamisan megszemélyesítő hirdetés bukkant fel a közösségi platformon, egy friss kutatás szerint.
Csak az elmúlt hónapban több mint száz, Rishi Sunak brit miniszterelnököt megszemélyesítő fizetett deepfake videohirdetés jelent meg a Facebookon egy kutatás szerint, amely riadalmat kelt a mesterséges intelligencia a parlamenti választások előtt jelentette kockázat miatt.
A hirdetések akár 400 ezer emberhez is eljuthattak – annak ellenére, hogy úgy tűnik, a Facebook számos irányelvét megszegték –, és ez az első alkalom, hogy a brit miniszterelnök képmását szisztematikusan és tömegesen manipulálták – írja a The Guardian.
Több mint 12 929 fontot költöttek 143 hirdetésre, amelyek 23 országból, köztük az Egyesült Államokból, Törökországból, Malajziából és a Fülöp-szigetekről érkeztek.
Ezek között van egy hamisított felvételt a BBC híradósáról, Sarah Campbellről is, aki látszólag a friss híreket olvassa fel, azzal a hamis állítással, hogy botrány tört ki Sunak körül, aki titokban „kolosszális összegeket keresett egy olyan projektből, amelyet eredetileg átlagpolgároknak szántak”.
A videó azt a valótlan állítást tartalmazza, hogy Elon Musk elindított egy olyan alkalmazást, amely képes „összegyűjteni” a tőzsdei tranzakciókat, majd egy hamisított klip következik, amelyben Sunak azt mondja, hogy a kormány úgy döntött, inkább teszteli az alkalmazást, minthogy kockáztassa az átlagemberek pénzét.
A klipek ezután egy hamisított BBC News oldalra vezetnek, amely egy átveréses befektetést népszerűsít.
A kutatást a Fenimore Harper kommunikációs cég végezte, amelyet Marcus Beard, a Downing Street egy volt tisztviselője alapított.
Figyelmeztetett, hogy a hirdetések, azt mutatják, hogy az idei választásokat a manipuláció veszélye fenyegeti a magas minőségű, mesterséges intelligenciával generált hamisítványok nagy mennyisége miatt.
„Az olcsó, könnyen használható hang- és arcklónozás megjelenésével csekély jártasság elegendő ahhoz, hogy valaki képmását rosszindulatú célokra használják fel”.
"Sajnos ezt a problémát súlyosbítja a fizetett hirdetések laza moderálási politikája. Ezek a hirdetések a Facebook több hirdetési irányelvével is ellentétesek. Azonban úgy tűnik, hogy az általunk tapasztalt hirdetések közül csak nagyon keveset távolítottak el"
– tette hozzá.
A brit kormány szóvivője azt mondta: „A kormányzaton belül széleskörűen dolgozunk annak érdekében, hogy a demokrácia védelmére létrehozott munkacsoportunk és a kormányzat erre a célra létrehozott csapatai révén készen álljunk a demokratikus folyamatokat fenyegető veszélyekre való gyors reagálásra.
A szabályozók aggódnak amiatt, hogy fogy az idő a novemberben esedékes következő parlamenti választások előtt, így nem marad idő megfelelő változtatásokat bevezetni annak érdekében, hogy a brit választási rendszer lépést tartson a mesterséges intelligencia fejlődésével.
A kormány megbeszéléseket folytatott a szabályozó hatóságokkal, köztük a Választási Bizottsággal, amely szerint a 2022-től a digitális kampányanyagokra vonatkozó új jogszabályi követelmények némileg hozzájárulnak ahhoz, hogy a választók láthassák, ki fizetett egy hirdetésért, vagy ki próbálja befolyásolni őket.
