Ben je wel eens in de maling genomen door aangepaste foto’s, video’s of stemopnames?Het gebruik van kunstmatige intelligentie (AI) bij toezicht is een ethisch probleem. Het is een probleem waar wij moeten nadenken over wat goed of slecht is. Het is een probleem waar wij moeten nadenken over onze waarden en normen. AI kan namelijk erg veel informatie (data) over ons verzamelen. Dat verzamelen van informatie kan al een probleem zijn. Maar een nog groter probleem is: wat wordt er met die informatie gedaan?
Informatie kan gebruikt worden om jouw keuzes te beïnvloeden. Dit gebeurt ook zonder technologie. Wat als een van je vrienden weet dat je hebt gespiekt tijdens een toets? Dan kan die vriend jou later chanteren: jij moet een opdracht voor ze maken, anders dan klikken ze bij de leraar! Het beïnvloeden van gedrag op deze manier heet manipuleren. AI zorgt voor veel informatie over jou. AI kan dus ook voor veel manipulatie zorgen!
Manipulatie door technologie
Door AI technologie kan bijvoorbeeld bewijs voor misdaden worden aangepast. Sterker nog: er kan nep bewijs (deepfakes) worden gemaakt! Lang zijn foto’s en video’s gebruikt als bewijs voor (on)schuld. We leven ondertussen in een wereld waar foto’s en video’s goed kunnen worden bewerkt (gemanipuleerd). Misschien kun jij dit zelf ook al! We kunnen dus zelfs foto’s en video’s niet meer volledig vertrouwen als bewijs!
Technologie manipuleert je ook om zo veel mogelijk informatie te geven aan de diensten die je gebruikt. Het is in het voordeel van een gratis game, bijvoorbeeld, als je het zoveel mogelijk speelt. Het spel moet dus zo verslavend mogelijk zijn. Zo word je gemanipuleerd om het zo veel mogelijk te spelen. Door zo veel mogelijk te spelen, geef je zo veel mogelijk data. Die data kan dan weer verkocht en gebruikt worden.