De opkomst van door AI gegenereerde inhoud heeft een nieuwe dimensie gegeven aan de aanhoudende gigantische verkiezingen in India.
Met ruim 800 miljoen internetgebruikers maken politieke partijen gebruik van kunstmatige intelligentie om op ongekende manieren in contact te komen met kiezers.
Van door AI gemaakte avatars die gepersonaliseerde berichten leveren tot door AI aangedreven chatbots die de stemmen van politieke leiders nabootsen, het doel is duidelijk: het gedrag van kiezers op grote schaal beïnvloeden.
Toen ik onlangs door de drukke straten van New Delhi reed, kon ik het niet helpen dat ik de digitale reclameborden zag met griezelig levensechte, door AI gegenereerde video’s van politici.
Technologie verandert het electorale landschap
Een populaire Indiase YouTuber, die niet bij naam genoemd wil worden, merkt op:
De integratie van AI in politieke campagnes transformeert de manier waarop partijen met kiezers communiceren, waardoor hun bereik directer en schijnbaar persoonlijker wordt.
Sociale media en communicatieplatforms staan klaar om de belangrijkste kanalen te worden voor misleidende, generatieve, op AI gebaseerde inhoud, ongeacht hun bedoelingen. Gezien de lage toetredingsdrempels en de grote afhankelijkheid van deze platforms is het onvermijdelijk dat ze zullen worden uitgebuit voor de verspreiding van misleidende informatie.
In omgevingen waar gemakkelijke toegang en wijdverbreid gebruik de boventoon voeren, is de verspreiding van door AI gegenereerde verkeerde informatie vrijwel zeker.
Deze trend onderstreept de dringende behoefte aan robuuste maatregelen om de integriteit van de Indiase algemene verkiezingen te beschermen tegen de dreigingen die uitgaan van deepfakes en desinformatie.
Maar desinformatie en de gevolgen ervan zijn nu al duidelijk
Ondanks het innovatieve gebruik van AI blijft desinformatie een grote uitdaging.
De Indiase verkiezingscommissie heeft gewaarschuwd voor het gebruik van AI om valse informatie te verspreiden, maar de regelgevende maatregelen zijn beperkt.
Deepfake-video’s waarin Bollywoodsterren Ranveer Singh en Aamir Khan kritiek uiten op de regering, gingen viraal voordat ze werden ontkracht.
In een andere video werd ten onrechte afgebeeld dat leider van de Congrespartij, Rahul Gandhi, aftrad, met behulp van zijn AI-gekloonde stem.
De YouTuber voegt eraan toe:
De snelheid waarmee door AI gegenereerde inhoud valse informatie kan verspreiden is alarmerend. Het is een krachtig instrument dat, als het wordt misbruikt, een aanzienlijke impact kan hebben op de publieke perceptie en het vertrouwen.
Religie in het spel
Begin maart werd een realistisch, door AI gegenereerd beeld van de Indiase premier Narendra Modi, vormgegeven als Bhishma Pitamah uit het oude hindoeïstische epos Mahabharata, als politieke advertentie op Instagram gepromoot.
Het beeld, met Modi met lang golvend grijs haar, een zonvormige vlek op zijn voorhoofd en een kogelvrij vest, beeldde hem af als een reïncarnatie van Bhishma, de opperbevelhebber die vocht tegen buitenlandse dreigingen.
Deze afbeelding, gemaakt door de rechtse pagina Hokage Modi Sama en voor het eerst geplaatst in 2023, werd in maart twee dagen lang gepromoot als politieke advertentie, met meer dan 35.000 impressies.
Het gemeenschappelijke thema in alle afbeeldingen die door Hokage Modi Sama werden gedeeld, was de valorisatie van Modi als hindoeïstische leider. Populaire AI-afbeeldingen, gestimuleerd door gesponsorde berichten, toonden Modi als een reïncarnatie van Bhishma, een kostuumdragende zoon van God, en de koning van de hindoe-Rashtra, die het hindoeïstische erfgoed omarmde en miljoenen likes en views vergaarde.
Hindu Rashtra is een controversiële ideologie die pleit voor een hindoe-meerderheidsheerschappij in India, die afwijkt van de seculiere grondbeginselen ervan.
Gepersonaliseerde AI-campagnes
In kiesdistricten met elk ongeveer twee miljoen kiezers worden gepersonaliseerde AI-campagnes steeds gebruikelijker.
AI-avatars die kiezers bij naam aanspreken en AI-chatbots die kiezers in de stem van politieke leiders aanspreken, zijn strategieën die worden gebruikt om een directe en persoonlijke verbinding met kiezers te creëren.
Deze methoden zijn bedoeld om de betrokkenheid van kiezers te vergroten en het stemgedrag te beïnvloeden.
India, met het grootste aantal YouTube- en Instagram-gebruikers ter wereld, ziet dat politieke partijen steeds meer beïnvloeders van sociale media mobiliseren om kiezers te beïnvloeden. De regerende Bharatiya Janata Partij (BJP) is bijzonder proactief geweest.
In maart heeft de premier tijdens de uitreiking van de National Creators Award een onderscheiding gegeven aan 24 prominente social media-beïnvloeders, waarmee het verhaal van de regering werd gepromoot.
De rol van YouTube-influencers
Een politiek commentator merkte op: “Het gebruik van beïnvloeders van sociale media in politieke campagnes vervaagt de grenzen tussen echt politiek discours en promotionele inhoud. Het roept vragen op over de authenticiteit van de boodschappen die aan het publiek worden overgebracht.”
Staatseenheden van de BJP organiseren bijeenkomsten van beïnvloeders om de prestaties van de regering te verspreiden. Prominente politici en ministers hebben deelgenomen aan interviews met influencers, waardoor deze persoonlijkheden verder zijn geïntegreerd in hun campagnestrategieën.
De impact van AI op kiezersgedrag
De cruciale vraag blijft: kunnen AI en deepfake-inhoud het kiezersgedrag aanzienlijk veranderen?
Prateek Waghre, uitvoerend directeur van de Internet Freedom Foundation, wijst erop dat politieke partijen in de Indiase context al sterk afhankelijk zijn van verhalen en misleidende berichten.
De aanvullende impact van synthetische inhoud is nog onzeker. Het potentieel van AI om jonge kiezers te beïnvloeden is echter opmerkelijk. Door AI gegenereerde inhoud, zoals video’s waarin premier Modi populaire Tamil-liedjes zingt, heeft ertoe bijgedragen dat zijn bereik is vergroot en hem als een beter benaderbare leider is neergezet.
De toekomst van AI bij verkiezingen
Naarmate AI-technologie zich blijft ontwikkelen, zal de rol ervan bij verkiezingen waarschijnlijk toenemen. De betaalbaarheid en toegankelijkheid van AI-instrumenten zorgen ervoor dat politieke campagnes op grote schaal gepersonaliseerde en overtuigende inhoud kunnen produceren. De ethische implicaties en het potentieel voor misbruik vormen echter aanzienlijke uitdagingen.
Het gebruik van AI, deepfakes en beïnvloeders van sociale media bij de Indiase verkiezingen vertegenwoordigt een aanzienlijke verschuiving in de politieke campagnes.
Hoewel deze instrumenten innovatieve manieren bieden om kiezers te betrekken, roepen ze ook zorgen op over desinformatie en ethische praktijken.
Narendra Modi zei in maart in een gesprek met Microsoft-medeoprichter Bill Gates:
Als iemand in een democratisch en groot land als India deepfake gebruikt, bijvoorbeeld mijn stem bij een vervelende video, zullen mensen in eerste instantie geloven dat dit tot een bosbrand zal leiden. Daarom is het belangrijk dat deepfake en door AI gegenereerde bronnen in het begin vermelden. We zullen serieus moeten nadenken over een aantal Do’s en Donts.
Terwijl India door dit digitale verkiezingslandschap navigeert, zal het evenwicht tussen innovatie en integriteit van cruciaal belang zijn om een eerlijk en democratisch proces te garanderen.
De gegevens suggereren dat de impact van AI op het gedrag van kiezers groeit, maar het volledige potentieel en de implicaties ervan moeten nog volledig worden begrepen.
The post AI, deepfakes en YouTube-beïnvloeders hervormen het Indiase verkiezingslandschap appeared first on Invezz