Wat zijn de specifieke gevaren van deepfakes | Stop Pesten NU
  • Oranje polsbandjes met de tekst Stop pesten nu!

Wat zijn de specifieke gevaren van deepfakes

Volgens dit rapport vormen deepfakes een specifiek en groeiend gevaar binnen cyberpesten, omdat ze door middel van kunstmatige intelligentie (AI) zeer overtuigend kunnen zijn.

De specifieke gevaren van deepfakes die in het rapport worden genoemd, zijn:

  • Het creëren van nepfoto's en -video's: Pesters gebruiken AI om beeldmateriaal te maken dat echt lijkt, maar volledig in scène is gezet.

  • Ongepaste manipulatie: Foto's kunnen worden aangepast om ze een ongepast of aanstootgevend karakter te geven, wat wordt gebruikt om kinderen te vernederen.

  • Stemvervalsing: AI kan worden ingezet om iemands stem te kopiëren (voice cloning), wat nieuwe manieren opent voor bedrog of pesterijen.

  • Emotionele schade en dreiging: Deze technologie wordt specifiek gebruikt als een 'truc' om kinderen te beschaam maken, te bedreigen of te kwetsen. Dit kan leiden tot ernstige emotionele schade en in sommige gevallen tot gevaarlijke situaties.

  • Overtuigendere oplichting: Deepfakes en andere AI-toepassingen maken nepprofielen en oplichting geloofwaardiger. Berichten die door AI zijn gemaakt, hebben zelfs drie keer meer kans om mensen te misleiden dan oudere vormen van oplichting.

In het rapport wordt een praktijkvoorbeeld gegeven waarbij een kind AI gebruikt om een foto van een klasgenoot te bewerken tot een beschamend beeld. Dit leidde ertoe dat de foto zich razendsnel verspreidde via sociale media en groepsapps, waardoor het slachtoffer zich zo vernederd voelde dat hij niet meer naar school durfde te gaan.