Google Aktualizuje Zasady, aby Zwalczyć Niezgodne z Wolą Eksplicytyne Deepfakes

Wczoraj Google ogłosił znaczące aktualizacje swojej polityki, mające na celu pomoc ludziom w kontrolowaniu explicit „deepfaków”. Są to generowane przez AI obrazy i filmy przedstawiające ludzi w seksualnie eksplicytnych kontekstach bez ich zgody.

Jedną z kluczowych aktualizacji jest możliwość zgłaszania do usunięcia niezgodnych z zasadami fałszywych zdjęć i filmów. Google uprościł ten proces i uczynił go bardziej efektywnym. Gdy prośba o usunięcie jest skuteczna, systemy Google również odfiltrują wszystkie explicit wyniki na podobne wyszukiwania i usuną duplikaty.

Dodatkowo, w celu zwalczania szkodliwych treści, Google zaktualizowało swoje systemy rankingu, aby priorytetowo traktować informacje o wysokiej jakości. Aktualizacje rankingu obniżą pozycję jawnie fałszywych treści w wynikach wyszukiwania. Dla wyszukiwań konkretnie poszukujących jawnych treści związanych z nazwiskami osób, priorytetem będą treści wysokiej jakości, nie-jawne. Spowodowało to zmniejszenie ekspozycji na jawnie treści o ponad 70%.

Google pracuje również nad lepszym rozróżnianiem prawdziwych, dobrowolnych jawnych treści od fałszywych jawnych treści. Strony z dużą liczbą usuniętych fałszywych jawnych obrazów będą degradowane.

Podkreślając pilność tych aktualizacji, niezależny badacz niedawno podzielił się z WIRED studium, ujawniając szeroki zasięg niezgody deepfake. Badanie pokazuje, że przynajmniej 244 625 filmów zostało przesłanych na 35 najpopularniejszych stron internetowych hostingujących deepfake porn w ciągu ostatnich siedmiu lat. Co warto zauważyć, 113 000 tych filmów zostało przesłanych tylko w pierwszych dziewięciu miesiącach 2023 roku – co stanowi wzrost o 54 procent w porównaniu z całkowitą liczbą filmów przesłanych w 2022 roku. Te alarmujące liczby podkreślają rosnącą powszechność tej szkodliwej treści.

Raport WIRED z marca wykazał, że Google otrzymał ponad 13 000 wniosków o usunięcie linków do eksplikacyjnych deepfake z kilkunastu popularnych stron internetowych. Gigant technologiczny zastosował się do około 82% tych żądań. Ta statystyka pokazuje znaczną ilość szkodliwych treści i zapotrzebowanie na ich usunięcie.

Osobiste historie ukazują drastyczne skutki deepfake’ów. Wczoraj New York Times opisał historię Sabriny Javellany, wschodzącej gwiazdy polityki na Florydzie, która odkryła krążące w internecie deepfake’i na swój temat. Stawiając czoła ciągłemu nękanie, Javellana zrezygnowała z polityki i wybrała mniej publiczną rolę.

W innym przypadku, BBC poinformowało w tym tygodniu, że rodzina twierdzi, iż policja West Yorkshire nie chroniła ich 12-letniej córki. Dręczyciele opublikowali w sieci Snapchat deepfake’owy, eksplicytny obrazek dziewczynki. Na początku, policja powiedziała rodzinie, że nic nie można zrobić, ponieważ Snapchat jest zarejestrowany w Stanach Zjednoczonych. Obrazek zszokował dziewczynkę i rozprzestrzenił się szeroko.

Aktualizacje polityki Google stanowią istotny krok w kierunku rozwiązania kryzysu związanego z deepfake. Niemniej jednak, złożoność tego problemu wymaga ciągłych starań i współpracy, aby w pełni poradzić sobie z tym zagadnieniem.