AI’s skyggeide: Russisk fake news på programmet ved TechBBQ

AI er i nyere tid blevet det helt store buzzword for startups og etablerede virksomheder. Men kunstig intelligens har også mere dystre formål. Det er uundgåeligt at se bort fra kunstig intelligens’ indflydelse på valg rundt i verden, da teknologien for alvor har boostet muligheden for og omfanget af desinformation.

Det var emnet ved et af dagens TechBBQ-paneler med Zakhar Protsiuk, COOCOO betyder Chief Operating Officer og er den øverste leder ansvarlig for virksomhedens daglige drift og operationelle effektivitet. COO’en sikrer, at virkso... More for det ukrainske nyhedsmedie The Kyiv Independent, og Hind Ziane, CEOCEO betyder Chief Executive Officer og er den øverste leder i en virksomhed, ansvarlig for den overordnede strategi og ledelse. CEO’en rapporterer normalt ti... More og politisk strateg for Génération Politique i Paris.

Her nedbrød den ukrainske Zakhar Protsiuk blandt andet de trin, som Rusland gør brug af i deres desinformations-kampagner, og hvordan AI har forstærket politisk desinformation, der ellers længe har været en del af politiske valgkampe.

“I enhver desinformations-kampagne er der nogle trin. Man ønsker først og fremmest at skjule den oprindelige kilde og derefter få nogen med bare lidt troværdighed til at forstærke kampagnen. Til dette formål kan de oprette hjemmesider med værktøjer som ChatGPT og få de falske sider til at se troværdige ud. Derefter kan de masseproducere et stort antal falske sider, fordi det er meget billigere at gøre dette med AI, og så behøver man kun, at få af siderne når langt ud,” fortalte Zakhar Protsiuk ved panelet.

Kvalitetsjournalistik er vejen frem

Hind Ziane udvikler, sammen med Génération Politique, diverse Govtech-værktøjer til at bekæmpe AI-skabt desinformation og ved derfor også meget om, hvordan de typiske falske nyheder er opbygget, og hvordan AI har boostet desinformationen.

”Den største udfordring er falsk AI-indhold i video- og lyd-format. Meget af det falske indhold er meget langt ude, men det bliver bedre til at overbevise selv højtuddannede mennesker,” fortæller Hind Ziane.

Hun fortsætter med nylige eksempler i medierne som deepfake-opkald til vælgere i USA fra præsident Joe Biden og en falsk AI-persona i form af en ikke-eksisterende niece til Marie Le Pen i Frankrig.

Det er en farlig udvikling, men det er ikke et problem helt uden løsning.

”Effekten af AI’s fremkomst inden for nyheder er, at folk vender sig mod de brands, de kender. Derfor er løsningen grundig undersøgende journalistik med faktatjek, godkendte kilder og historier, der ikke bliver forhastet,” konkluder den ukrainske Zakhar Protsiuk.