Föräldrar bötfälls för AI-manipulerad bild på skolkamrat

SPANIEN RIKS Den spanska dataskyddsmyndigheten AEPD har för första gången utdömt ett bötesbelopp mot vårdnadshavare för en AI-genererad nakenbild på en minderårig. Flera flickor blev utsatta genom bruket av en nu stängd app.

AEPD har beslutat att bötfälla föräldrarna till en minderårig med 2.000 euro för att sonen använt artificiell intelligens för att skapa en falsk nakenbild av en kvinnlig skolkamrat. Boten, som är den första i sitt slag i Spanien, rör en incident som inträffade i Almendralejo (Extremadura) år 2023 och har skapat stor debatt kring integritet och teknikmissbruk bland unga.

Det rörde sig om en app vid namn ClothOff, som använder AI för att generera nakenbilder utifrån ansiktsbilder. Appen är numera stängd, men flera minderåriga flickor i samma skola upptäckte att deras ansikten hade använts i sådana montage som spreds bland klasskamrater via sociala medier och till och med på porrsidor. Tekniken utgick från offrets ansikte, hudton och kroppsform, skriver eldiario.es.

Utöver böterna från AEPD ledde ärendet även till rättsliga påföljder för de inblandade minderåriga, däribland ett års övervakad frihet och deltagande i ett utbildningsprogram. Då gärningspersonerna var mellan tolv och fjorton år vid tidpunkten, riktades böterna till deras juridiska företrädare, det vill säga föräldrarna, som valde att acceptera ansvaret och betala summan på 1.200 euro efter straffreducering.

Dataskyddsmyndigheten motiverade beslutet med att barns bilder är särskilt skyddsvärda personuppgifter. Samtidigt lyfter experter behovet av politiska åtgärder och tydligare skyddsmekanismer för att motverka vad som beskrivs som en växande form av digitalt könsrelaterat våld.