Oren Etzioni, een gerenommeerde AI-onderzoeker en oprichter van de non-profitorganisatie TrueMedia, waarschuwt voor de groeiende dreiging van door AI gegenereerde desinformatie. Hoewel velen vreesden dat de Amerikaanse verkiezingen van 2024 zouden worden beïnvloed door AI-gegenereerde desinformatie, bleek de impact minder groot dan verwacht. Echter, Etzioni benadrukt dat de dreiging reëel is, maar dat de meeste mensen niet de directe doelwitten zijn.
TrueMedia houdt zich bezig met het opsporen van deepfakes en andere vormen van nepnieuws. Etzioni legt uit dat er een grote diversiteit aan deepfakes bestaat, waarvan de meeste niet gericht zijn op het grote publiek. Veel van deze desinformatie circuleert in besloten groepen op platforms zoals Telegram en WhatsApp, waardoor ze moeilijk te detecteren zijn voor het algemene publiek.
De organisatie biedt een gratis dienst aan om beelden, video's en audio te identificeren als echt of nep. Dit proces is complex en kan niet volledig geautomatiseerd worden, maar TrueMedia bouwt langzaam een basis van betrouwbare gegevens op om de nauwkeurigheid te verbeteren.
Etzioni benadrukt drie belangrijke aspecten van het probleem: de hoeveelheid desinformatie die er is, hoeveel mensen het zien, en de impact die het heeft. Hoewel het moeilijk is om deze factoren nauwkeurig te meten, is het essentieel om hier beter in te worden, vooral met het oog op toekomstige verkiezingen en de invloed van desinformatiecampagnes.
Hoewel er technologische pogingen zijn om gegenereerde media herkenbaarder te maken, zoals het watermerken van beelden, bieden deze methoden weinig bescherming tegen kwaadwillende actoren. De uitdaging blijft groot, maar de recente verkiezingen laten zien dat, ondanks de dreiging, AI-gegenereerde desinformatie niet altijd de doorslaggevende factor hoeft te zijn.
En dan vragen wij ons af: Wie bepaalt dan welke content wordt geflagged als nepnieuws. A.I. gegenereerde audio- en video, prima om dat via een watermerk te herkennen en aangeven. Maar wat als "Big Tech" beslist dat artikelen over de invloed van de mens op klimaatverandering, als niet welgevallig, als nepnieuws worden bestempeld? We zijn er nog niet, de technologie gaat door, de politiek en het activisme blijft achter, of maakt bedenkelijke keuzes.
コメント