Napędzane przez SI Cyberprzemoc: Przeżycia nastolatka wywołują oburzenie

W wieku 14 lat, Francesca Mani została wezwana do gabinetu dyrektora w Westfield High School w New Jersey, gdzie odkryła, że jej zdjęcie zostało przerobione na obraz nagości za pomocą sztucznej inteligencji, jak donosi CBS News.

W ubiegłym październiku, w liceum Westfield rozprzestrzeniły się plotki o chłopcach posiadających wyraźne zdjęcia swoich koleżanek z klasy. Mani dowiedziała się, że ona i kilka innych dziewczyn stały się celem.

Według pozwu złożonego przez kolejną ofiarę, pewien chłopiec zamieścił swoje zdjęcia z Instagrama na Clothoff, popularnej stronie z AI-powered „nudify”. Strona, która w zeszłym miesiącu odnotowała ponad 3 miliony odwiedzin, tworzy realistyczne fałszywe akty w ciągu kilku sekund, jak donosi CBS.

Clothoff twierdzi, że zabrania przetwarzania zdjęć nieletnich, ale jej mechanizmy nie są zweryfikowane. Pomimo zastrzeżeń strony, co najmniej jeden AI akt ucznia został rzekomo udostępniony na Snapchat, jak donosi CBS.

Mani nigdy nie zobaczyła sfałszowanego zdjęcia samej siebie, ale była głęboko poruszona sposobem, w jaki szkoła poradziła sobie z sytuacją. Ofiary zostały publicznie wezwane do biura, podczas gdy chłopcy zaangażowani w incydent zostali prywatnie usunięci z zajęć.

„Mam wrażenie, że była to poważna naruszenie naszej prywatności, podczas gdy, jakby, złoczyńcy zostali prywatnie wycofani z zajęć” – powiedziała Mani, jak donosi CBS.

Tego samego dnia dyrektor szkoły wysłał e-mail do rodziców, potwierdzając, że uczniowie użyli AI do stworzenia eksplikacyjnych obrazów, informuje CBS. W wiadomości zapewniono rodziców, że obrazy zostały usunięte i nie są rozpowszechniane, ale matka Maniego, Dorota, pozostała sceptyczna.

„Nie można tego naprawdę wymazać,” powiedziała Dorota do CBS, wyrażając obawy o zrzuty ekranu lub pobrane pliki.

Dyrekcja szkoły odmówiła udzielenia szczegółów na temat incydentu oraz podjętych działań dyscyplinarnych, ale poinformowała, że zaktualizowała swoje procedury dotyczące przeciwdziałania nękania, aby poradzić sobie z nadużyciami AI – zmiana, którą rodzina Manis domagała się od miesięcy, jak podaje CBS.

Yiota Souras, główny prawnik w Narodowym Centrum ds. Zaginionych i Wykorzystywanych Dzieci, podkreśliła trwałe szkody, jakie takie obrazy powodują, nawet jeśli są fałszywe. Ofiary często doświadczają cierpienia psychicznego, szkód wizerunkowych oraz utraty zaufania, jak zauważa CBS.

CBS informuje, że w ciągu ostatnich 20 miesięcy, w szkołach w USA pojawiło się prawie 30 podobnych przypadków związanych z nagością generowaną przez AI, a dodatkowe incydenty zgłaszano na całym świecie.

Przynajmniej w trzech przypadkach, do rozpowszechniania obrazów użyto Snapchat. Jak informuje CBS, rodzice zgłaszali opóźnienia nawet do ośmiu miesięcy w usunięciu takiej treści z platformy.

Snapchat, w odpowiedzi na krytykę jednego z rodziców, stwierdził, że posiada „efektywne mechanizmy” do obsługi takich zgłoszeń i zapewniał, że ma „politykę zero tolerancji” dla takiej treści – informuje CBS.

Federalne prawo zabrania tworzenia dziecinnego pornografii za pomocą AI, jeśli przedstawia ona wyraźne zachowania seksualne, ale Souras ostrzega, że niektóre nagie zdjęcia generowane przez AI mogą nie wpadać pod legalną definicję, zauważa CBS.

Od czasu incydentu Francesca i Dorota Mani angażują się na rzecz polityki związanej z AI w szkołach i współpracują z Kongresem, aby poruszyć ten problem – informuje CBS.

Federalny projekt ustawy, Take It Down Act, współsponsorowany przez senatorów Teda Cruza i Amy Klobuchar, został uchwalony przez Senat w tym miesiącu i czeka na głosowanie w Izbie. Ustawa przewiduje kary kryminalne za udostępnianie nagości generowanej przez AI i nakazuje platformom mediów społecznościowych usunięcie zgłoszonych treści w ciągu 48 godzin – mówi CBS.