Wie zijn foto’s laat bewerken door kunstmatige intelligentie staat vaak niet stil bij wat er met de onderliggende data gebeurt. Volgens technologiecriticus en privacy designer Tijmen Schep hebben mensen over het algemeen nog steeds geen idee welke gegevens dergelijke systemen uit een geüpload beeld afleiden.
Data-afleiding en server-side verwerking
AI-systemen maken openbaarmaking van de foto zelf naar andere gebruikers weliswaar niet direct zichtbaar, maar uit een enkele foto kan een AI-systeem wel allerlei persoonsgegevens afleiden. Zo kan de software inschatten in welke leeftijdscategorie iemand valt, wat het geslacht, de gezondheid en de etnische achtergrond zijn. Volgens Schep zien partijen die afgeleide data vaak als hun eigen eigendom.
Daarnaast vergt een AI-bewerking zoveel rekenkracht dat de verwerking vrijwel nooit lokaal op het eigen apparaat plaatsvindt. De foto wordt verstuurd naar een server van de aanbieder, die zich meestal in de Verenigde Staten of China bevindt. IT-jurist en Privacy First-bestuurslid Steven Derks wijst erop dat op die servers kan worden meegekeken door medewerkers, dat beelden bewaard kunnen blijven, en dat ze bij veel gratis profielen standaard worden ingezet om het AI-model te trainen.
Onuitwisbaarheid en eerdere incidenten
Wat eendatamodel of dataset eenmaal binnendringt, komt er volgens experts bijna niet meer uit. Het technisch ‘vergeten’ van een specifieke foto door een model te onttrainen is nauwelijks mogelijk. Datasets worden bovendien gebouwd door het open web af te schrapen en worden eindeloos gekopieerd en gedeeld, waardoor een verwijdering uit een officiële versie weinig uithaalt tegen kopieën die al in omloop zijn.
Dat dit risico verder reikt dan theorie alleen, bleek in 2023 en 2024. Onderzoekers troffen toen in de meest gebruikte trainingsdataset voor beeldgeneratoren duizenden kwetsbare beelden aan, waaronder kindermisbruik en persoonlijke privéfoto’s van blogs. Hoewel de dataset vervolgens offline werd gehaald, bleven de reeds getrainde modellen gewoon in gebruik.
Toekomstige onzekerheden en de positie van derden
Een bijkomend probleem is dat de personen die op de geüploade foto’s staan hier zelf vaak geen keuze in hebben gemaakt. Vrienden, collega’s of kinderen zijn zelf geen gebruiker van de tool, hebben geen voorwaarden geaccepteerd en weten dikwijls van niets. Juridisch is de gebruiker daar doorgaans niet op aan te spreken, omdat een grap onder bekenden vaak onder de uitzondering voor persoonlijk gebruik valt.
Het blijft ondanks deze risico’s onduidelijk hoe platforms in de toekomst zullen omgaan met de toestemming van afgebeelde derden en of hardnekkige trainingsdata ooit echt volledig uit oudere modellen kunnen worden gewist.
