Op Facebook zijn duizenden plaatjes te vinden van een Jezus-figuur in de vorm van maiskolven, garnalen en zandsculpturen. Soms staat er een man met een gieter naast, die het gewas zogenaamd heeft geoogst. Het is natuurlijk allemaal nep, maar niet altijd onschuldig.

Een Jezus gemaakt van zand of trossen bananen. Of van eieren. Een garnaal met het hoofd van Jezus. En plaatjes van Jezus aan het kruis voor een gigantische Amerikaanse vlag en een groep soldaten. Op Facebook vind je duizenden van dit soort plaatjes die door AI zijn gemaakt.

De pagina’s waarop de afbeeldingen gedeeld worden, hebben duizenden volgers. Bij plaatjes waarop een sculptuur is te zien van een Jezus-figuur, bijvoorbeeld bestaande uit honderden plastic flessen, staan teksten als: “Gemaakt met mijn eigen handen!”

Bij andere plaatjes staan willekeurige hashtags zoals #MeganFox, #cabincrew en #ScarlettJohansson. In de reacties kom je steeds één woord tegen: amen.

Niet zo onschuldig als het lijkt

Wat gebeurt hier in hemelsnaam? Onderzoeker Renée DiResta van het Stanford Internet Observatory bekeek 120 Facebook-pagina’s waarop door AI-gegenereerde afbeeldingen stonden. Bij elkaar waren de plaatjes honderden miljoenen keren bekeken.

Helemaal onschuldig zijn de bizarre pagina’s niet, zegt DiResta. “Sommige pagina’s zijn gemaakt door oplichters die contact proberen te krijgen met mensen, om daarna informatie in handen te krijgen of producten te verkopen die helemaal niet bestaan.”

Andere pagina’s proberen mensen naar een externe site te lokken. Sommige pagina’s zijn gekoppeld aan groepen waar mensen naartoe gelokt worden, waarna ze reclame voor producten te zien krijgen.

Hoe gekker, hoe beter

De plaatjes zijn bewust bizar, zodat ze veel bekijks trekken. “Op sociale media wordt gehandeld in aandacht”, zegt hoogleraar Mediastudies Mark Deuze van de Universiteit van Amsterdam. “Het gaat om kliks en hits. Het lijkt erop dat veel van dit soort accounts snel veel aandacht zoeken, zodat ze doorverkocht kunnen worden.”

Dit soort afbeeldingen van Jezus kunnen daarbij helpen. Want hoe gekker het is, hoe groter de kans dat je het met anderen deelt. AI-expert Remy Gieling noemt de beelden vreemd en fascinerend, maar ergens ook te verwachten.

“Je kunt met kunstmatige intelligentie in een vingerknip duizenden plaatjes laten maken die binnen een specifieke niche vallen”, zegt hij. “Dus ook van Jezus als een aardappel op een veld in Afrika.”

Komt geen mens meer aan te pas

Het is überhaupt nog maar de vraag of er mensen aan te pas komen bij het vullen van de Facebook-pagina’s. Volgens Gieling is het vrij simpel om dat proces helemaal te automatiseren.

Zelfs de “amen”-reacties lijken uit de computer te komen, al is daar geen bewijs voor. “Maar we zien wel dat veel van die pagina’s ineens snel groeien”, zegt DiResta. “Dat wijst doorgaans op nepaccounts en clickfarms, dus we nemen aan dat in elk geval een deel van de reacties nep is.”

Een clickfarm is een vorm van fraude waarbij bedrijven worden ingehuurd om met allerlei accounts op berichten te reageren. Die berichten hebben dan meer kans om verder verspreid te worden via het algoritme van Facebook. Ook dit hoeven ze niet handmatig te doen, dat kan eveneens met de hulp van AI.

Zo krijg je nieuwe wijn in oude zakken, zegt Deuze. Menselijke influencers maken vaak deel uit van een netwerk van andere influencers. Ook zij delen elkaars berichten en laten reacties achter. “Voeg daar AI aan toe en je krijgt hetzelfde principe, maar dan on steroids.”

Meta komt (een beetje) in actie

Jezus is niet het enige onderwerp van de AI-afbeeldingen. Zo zijn er plaatjes van de natuur waarin je patronen kunt ontdekken. Of dieren die samen woorden lijken te vormen. Er zijn zelfs AI-plaatjes te vinden van ondervoede en misvormde kinderen.

Facebook reageerde niet op vragen van NU.nl. Het bedrijf is lastig bereikbaar sinds de woordvoering uit Nederland is vertrokken. Onderzoeker DiResta weet dat Facebook wel een aantal van de onderzochte pagina’s heeft verwijderd. Volgens haar waren die in strijd met de regels van Meta rondom spammers, oplichting en manipulatief gecoördineerd gedrag.

Meta gaf eerder aan AI-gegenereerd beeld als zodanig te gaan labelen. Dat moet vanaf deze maand gebeuren. Met de labels moet voor alle gebruikers duidelijk worden wanneer er met plaatjes is geknoeid.

Mensen slaan misschien weinig acht op zo’n label. Maar ze kunnen er volgens AI-expert Gieling wel voor zorgen dat het Facebook-algoritme de plaatjes minder snel in het overzicht van gebruikers toont.

Een prettige gedachte met het oog op de toekomst. Want de komende jaren komen er nog veel meer online berichten, plaatjes en video’s aan die met AI zijn gegenereerd, denkt Gieling. “Daardoor zullen we waarschijnlijk steeds meer verlangen naar media die door mensen zijn gemaakt.”

-nu.nl-