Google Otrzymuje Ponad 250 Skarg na Treści o Terroryzmie Generowane przez Sztuczną Inteligencję Deepfake

Google przekazało australijskim władzom raport, z którego wynika, że jego narzędzie oparte na sztucznej inteligencji, Gemini, otrzymało na całym świecie ponad 250 skarg z powodu jego wykorzystania do generowania tzw. „deepfake” w tematyce terroryzmu, a także ponad 80 skarg dotyczących materiałów z nadużyciami dzieci.

Informacje zostały przekazane australijskiemu organowi nadzorującemu bezpieczeństwo w Internecie, Komisji eSafety, po tym jak firmy technologiczne – w tym Meta, Telegram, Reddit, X i Google – musiały dostosować się do lokalnych przepisów i zgłaszać powiadomienia zgodnie z australijską ustawą o bezpieczeństwie online w marcu 2024 roku.

eSafety opublikowało w ten czwartek oficjalny dokument, wyrażając obawy dotyczące bezpieczeństwa AI. Raport Google’a uwzględniał zgłoszenia użytkowników od 1 kwietnia 2023 r. do 29 lutego 2024 r.

„Otrzymało (Google) 258 zgłoszeń od użytkowników dotyczących podejrzewanego o generowanie przez AI tzw. deepfake materiału terrorystycznego lub ekstremistycznego generowanego przez Gemini, własną generatywną AI firmy, oraz 86 zgłoszeń od użytkowników dotyczących podejrzewanego o generowanie przez AI materiału do wykorzystywania seksualnego i nadużywania dzieci”, powiedziała Komisarz eSafety, Julie Inman Grant. „To podkreśla, jak kluczowe jest dla firm rozwijających produkty AI, aby wbudować i przetestować skuteczność zabezpieczeń, aby zapobiec generowaniu tego typu materiałów.”

Zgodnie z informacjami na stronie Reuters, rzecznik Google powiedział, że nie dopuszczają do nielegalnych aktywności. „Liczba zgłoszeń od użytkowników Gemini, które przekazaliśmy do eSafety, reprezentuje globalny wolumen zgłoszeń od użytkowników, a nie potwierdzone naruszenia zasad” – powiedział rzecznik Google do Reutersa przez e-mail.

Inman Grant uznał raport za „pierwsze na świecie spostrzeżenia” na temat zrozumienia, jak firmy technologiczne radzą sobie z „online’owym rozprzestrzenianiem się materiałów terrorystycznych i ekstremistycznych”.

Komisarz podkreśliła również, jak platformy takie jak Facebook, WhatsApp i Telegram nie zdołały wykryć transmitowanych na żywo treści terrorystycznych. Inman Grant przywołała atak w Christchurch w 2019 roku – masową strzelaninę terrorystyczną, podczas której biały supremacista zaatakował dwie meczety w Christchurch w Nowej Zelandii, zabijając 51 osób w marcu 2019 roku – jako przykład na to, jak ekstremistyczne i śmiertelne ataki były transmitowane na żywo bez wykrywania lub usuwania treści.

Kilka dni temu, kolejny raport udostępniony przez ESafety ujawnił, że dzieci mogą łatwo obejść obecne systemy weryfikacji wieku używane przez najpopularniejsze platformy mediów społecznościowych.