TrueMedia.org, een non-profit, onpartijdig AI-project om desinformatie in politieke campagnes te bestrijden door gemanipuleerde media te identificeren. Het project wordt ondersteund door Camp.org en geleid door Oren Etzioni.

Desinformatie, die viraal via sociale netwerken wordt verspreid, is naar voren gekomen als de achilleshiel van de democratie in de 21e eeuw. Dit fenomeen beperkt zich niet tot een enkele gebeurtenis of regio, maar is wereldwijd waargenomen en heeft een impact op cruciale politieke beslissingen.

We verwachten dat deze uitdaging in 2024 explosief zal groeien als gevolg van de toegenomen beschikbaarheid van generatieve AI en bijbehorende tools die het manipuleren en vervalsen van video, audio, afbeeldingen en tekst vergemakkelijken. De kosten van op AI gebaseerde vervalsing (“deepfakes”) zijn scherp gedaald tijdens een van de belangrijkste politieke verkiezingen in de geschiedenis. Als gevolg hiervan verwachten we een tsunami aan desinformatie. In het verleden werd desinformatie verspreid door goed gefinancierde statelijke actoren, maar nu zien we, dankzij generatieve AI, het potentieel voor desinformatieterrorisme. Uit een recent Pew-onderzoek blijkt dat het percentage TikTok-gebruikers dat nieuws van het platform ontvangt, sinds 2020 is verdubbeld en nu 43% bedraagt.

Volgens Pew krijgt de helft van de Amerikaanse volwassenen op zijn minst af en toe nieuws via sociale media. Dit is een recept voor een ramp, en een recept dat we willen bestrijden door een vrij, onpartijdig en breed toegankelijk dashboard te creëren voor het identificeren van gemanipuleerde media op sociale mediaplatforms.