New Jersey High School brottas med skandal över AI-genererade bilder

Underhållning

En förfrågan från polisen och en motreaktion från föräldrar har utlösts av AI-genererade obscena bilder av kvinnliga elever på en gymnasieskola i New Jersey. Manliga klasskamrater producerade bilderna, som sedan delades, enligt en rapport.

Händelsen kretsar kring Westfield High School, som ligger i en rik enklav cirka 25 miles väster om Manhattan, enligt Forbes.

Studenter berättade för The Wall Street Journal att en eller flera av deras vänner skapade dessa pornografiska fotografier med hjälp av en AI-applikation på internet, som de sedan delade med sitt sociala medienätverk.

En orolig mamma sa att hennes dotter den 16 oktober hade observerat konstigt beteende bland skolans andra pojkar.

Den verkliga karaktären av dessa aktiviteter – skapande och spridning av pornografiska bilder skapade genom att ändra internetfoton av flickor och delas över gruppchattar – avslöjades inte förrän den 20 oktober av en studiekamrat.

Föräldrar uppgav också att administratörer på skolan berättade för några kvinnliga barn om deras umgänge med dessa falska, grafiska bilder. Skolan skulle dock inte bekräfta om någon personal såg dessa bilder i första hand.

Dorota Mani, en annan förälder, uttryckte sin oro angående sin 14-åriga dotter Francesca, vars bild användes för att göra en 'deepfake'. Avancerade förfalskningar som liknar riktiga foton kallas deepfakes. Mani lämnade in en polisanmälan efter att ha uttryckt oro över de möjliga effekterna på hennes dotters personliga och professionella liv.

Sensity, en visuell hotintelligence-verksamhet, hävdar att över 90 % av deepfake-bilderna är explicita till sin natur och innehåller ofta likheter med välkända personer.

Föräldrar till de cirka 1 900 eleverna på Westfield High School informerades om händelsen av rektor Mary Asfendis. Hon gav dem sitt ord att bilderna hade tagits bort och inte längre användes.

Asfendis betonade hur allvarlig situationen var och hur avgörande det var att eleverna förstår konsekvenserna av deras beteende. Hon lovade också att fortsätta att instruera eleverna om hur man använder tekniken på ett ansvarsfullt sätt.

Information om hur mycket av eleverna som var inblandade i att producera dessa fiktiva obscena bilder och om eventuella disciplinära åtgärder som vidtogs delas inte.

Den första kvinnliga borgmästaren i Westfield, Shelley Brindle, lovade att kämpa för kvinnors och flickors rättigheter och uttryckte sin djupa oro.