TrueMedia.org, ett icke-vinstdrivande, partipolitiskt AI-projekt för att bekämpa desinformation i politiska kampanjer genom att identifiera manipulerade medier. Projektet backas upp av Camp.org och leds av Oren Etzioni.

Desinformation, som överförs viralt över sociala nätverk, har dykt upp som demokratins akilleshäl under 2000-talet. Detta fenomen är inte begränsat till en enskild händelse eller region utan har observerats globalt, vilket påverkar kritiska politiska beslut.

Under 2024 förväntar vi oss att denna utmaning kommer att växa explosivt på grund av den ökade tillgängligheten av generativ AI och tillhörande verktyg som underlättar manipulering och förfalskning av video, ljud, bilder och text. Kostnaden för AI-baserad förfalskning ("deepfakes") har sjunkit kraftigt under ett av de viktigaste politiska valen i historien. Som ett resultat förutser vi en tsunami av desinformation. Tidigare spreds desinformation av välfinansierade statliga aktörer men nu, på grund av generativ AI, ser vi potentialen för desinformationsterrorism. En nyligen genomförd Pew-studie fann att andelen TikTok-användare som får nyheter från plattformen har fördubblats sedan 2020 och ligger nu på 43%.

Enligt Pew får hälften av amerikanska vuxna nyheter åtminstone ibland från sociala medier. Detta är ett recept på katastrof, och ett som vi är redo att bekämpa genom att skapa en gratis, partipolitiskt obunden och brett tillgänglig instrumentpanel för att identifiera manipulerade medier över sociala medieplattformar.