Policja Korzysta z Botów AI, Aby Udawać Ofiary Handlu Ludźmi w Internecie

Departamenty policji znajdujące się w pobliżu granicy USA-Meksyk wdrożyły boty AI, które udają cywilów w sieci, aby prowadzić śledztwa w sprawie przestępstw, co budzi obawy dotyczące praw obywatelskich.

Według obszernego raportu 404 Media, amerykańskie departamenty policji w pobliżu granicy z Meksykiem dyskretnie korzystają z botów AI, które udają protestujących, pracowników seksualnych, dzieci i przestępców, aby gromadzić informacje w internecie.

Technologia – zwana Overwatch – jest sprzedawana przez firmę z Nowego Jorku o nazwie Massive Blue. 404 Media twierdzi, że te boty są zaprojektowane, aby oszukać podejrzanych i skłonić ich do ujawnienia informacji za pośrednictwem mediów społecznościowych, tekstu lub aplikacji do komunikacji.

404 Media uzyskało dokumenty ujawniające, że departamenty policji korzystają z AI do śledzenia osób podejrzanych o handel ludźmi, handel narkotykami i osób określanych jako „radykalni aktywiści” oraz „studenci-protestujący”.

404 Media donosi informacje, że system monitoringu AI firmy Massive Blue działa na podstawie kontraktu wartego 360 000 dolarów z hrabstwem Pinal w Arizonie, finansowanego z grantu na rzecz zwalczania handlu ludźmi. Umowa przewiduje ciągły nadzór i pozwala na użycie do 50 sztucznych inteligencji. Inne hrabstwo, Yuma, przetestowało system, ale zdecydowało się nie odnawiać go, twierdząc: „Nie spełnił naszych oczekiwań.”

Boty AI są szokująco szczegółowe, jak zauważyło 404 Media. Na przykład, jedna z postaci to „Jason”, nieśmiały 14-latek z Los Angeles, który mówi po hiszpańsku i uwielbia anime. W rozmowie scenariuszowej dorosły pyta go:

„Czy twoi rodzice są w pobliżu? Czy masz trochę wspaniałego czasu dla siebie?”
„Po prostu sobie odpoczywam sama, facet. Moja mama jest w pracy, a mój tata poza miastem”, odpowiada Jason.

Kolejna postać AI to 25-letnia kobieta o korzeniach jemeńsko-amerykańskich, która mówi po arabsku i używa aplikacji takich jak Telegram i Signal. Jest też „radykalna persona protestująca”, udająca samotnego 36-letniego aktywistę zainteresowanego body positivity i pieczeniem.

„Pomysł, by AI udawało kogoś, młodzież szukającą pedofilów do rozmów w internecie, czy osobę udającą terrorystę, to pomysł, który ma długą historię,” powiedział Dave Maass z Electronic Frontier Foundation, jak donosi 404 Media.

„Problem z tym wszystkim polega na tym, że są to problemy źle zdefiniowane. Nie martwię się o eskorty. Nie martwię się o protestujących studentów. Więc tak naprawdę, do czego to jest skuteczne, naruszania praw pierwszej poprawki do konstytucji protestujących?” – dodał Dave.

Pomimo wszystkiego, 404 Media informuje, że hrabstwo Pinal potwierdza, że jak dotąd nie dokonano żadnych aresztowań. „Massive Blue dostarczyło wskazówki, które detektywi aktywnie śledzą” – powiedział rzecznik Sam Salzwedel. „Ale nie możemy ujawnić więcej szczegółów” – dodał.