Google DeepMind wprowadza narzędzie do znaków wodnych typu open-source, które pomoże wykryć tekst generowany przez AI

Google DeepMind uruchomiło w środę narzędzie do tworzenia znaków wodnych typu open-source o nazwie SynthID-Text, które ma na celu wykrywanie tekstu generowanego przez AI. Narzędzie jest dostępne dla firm i deweloperów za darmo i działa poprzez wbudowywanie niewidocznych znaków wodnych – niewykrywalnych dla ludzkiego oka – do tekstu podczas generacji, poprzez zmienianie prawdopodobieństwa słów.

„Tutaj opisujemy SynthID-Text, gotowy do produkcji schemat znaków wodnych dla tekstu, który zachowuje jakość tekstu i umożliwia wysoką dokładność wykrywania, z minimalnym opóźnieniem,” stwierdza streszczenie badania opublikowanego w Nature. „Aby umożliwić tworzenie znaków wodnych na dużą skalę, opracowaliśmy algorytm integrujący znaki wodne z próbkowaniem spekulacyjnym, techniką efektywności często stosowaną w systemach produkcyjnych.”

Jak podaje MIT Technology Review, laboratorium badań nad AI giganta technologicznego opracowało technologię SynthID, aby stworzyć wiele narzędzi do znakowania wodnego AI, które teraz mogą rozpoznawać tekst, muzykę, wideo i obrazy generowane przez AI. Google DeepMind udostępniło filmik, na którym wyjaśnia, jak działa ta technologia w różnych rodzajach mediów.

Oto, jak SynthID oznacza treści generowane przez AI w różnych modalnościach. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23 października 2024

SynthID jest dostępny za pośrednictwem zestawu narzędzi Google Responsible Generative AI Toolkit firmy, a badacze współpracują z Hugging Face — platformą współpracy dla programistów, która obsługuje inne projekty open-source, takie jak instrukcja LeRobota do budowania robotów sterowanych przez AI w domu — aby udostępnić go na swojej stronie.

„Teraz inni programiści [generatywni] AI będą mogli korzystać z tej technologii, aby pomóc im wykryć, czy wyniki tekstowe pochodzą od ich własnych [wielkich modeli językowych], co ułatwi większej liczbie programistów odpowiedzialne budowanie AI,” powiedział Pushmeet Kohli, wiceprezes ds. badań w Google DeepMind, dla MIT Technology Review.

SynthID został przetestowany w produktach Google Gemini, a miliony użytkowników nie były w stanie zauważyć różnicy między treścią z watermarkiem a bez. Niemniej jednak, badacze przyznają, że narzędzie ma ograniczenia, kiedy tekst jest edytowany lub tłumaczony, ale pozostają optymistyczni i wierzą, że narzędzie to może pomóc w walce z dezinformacją i poprawić bezpieczeństwo AI.

Kilka firm technologicznych ogłosiło strategie oznaczania AI w ciągu ostatnich kilku miesięcy. Meta ogłosiła w lutym system identyfikacji treści AI na Instagramie, Facebooku i Threads, Google wymagało od użytkowników oznaczania treści AI w marcu, a Tiktok dodał etykiety do treści generowanych przez AI w maju.