Pierwszy Znany Przypadek Wykorzystania AI Chatbotów do Nękania

James Florence, 36 lat, zgodził się przyznać do siedmioletniej kampanii cyberprześladowania, która polegała na wykorzystaniu AI chatbotów do podszycia się pod profesora uniwersyteckiego i zapraszania nieznajomych do jej domu na seksualne spotkania.

Florence z Massachusetts korzystała z platform takich jak CrushOn.ai i JanitorAI do tworzenia spersonalizowanych chatbotów, które naśladowały odpowiedzi profesora i sprawiały, że użytkownicy sądzili, że komunikują się z nią, jak podaje The Guardian.

Według dokumentów sądowych przejrzanych przez The Guardian, Florence wykorzystała osobiste i zawodowe informacje profesor – takie jak adres domowy, data urodzenia i szczegóły dotyczące rodziny – do kierowania czatbotami do prowadzenia seksualnie eksplicytnych rozmów.

Botsy AI były zaprogramowane tak, aby potwierdzać preferencje seksualne, a nawet dostarczać intymne szczegóły dotyczące ofiary. Florence, która ukradła bieliznę z domu profesor, karmiła boty informacjami na temat jej wyborów ubraniowych i kierowała je, aby zachęcały użytkowników do odwiedzenia jej domu.

Sprawa, złożona w federalnym sądzie w Massachusetts, stanowi znaczący precedens prawny jako pierwszy znany przypadek, w którym stalkerek używa AI (sztucznej inteligencji) do podszycia się pod swoją ofiarę, aby ułatwić nękanie – podał The Guardian. Florence zamierza przyznać się do winy w siedmiu przypadkach cyberstalkingu i jednym przypadku posiadania pornografii dziecięcej.

Stefan Turkheimer, wiceprezes ds. polityki publicznej w Rainn, organizacji non-profit przeciwko przemocy seksualnej, opisał tę sprawę jako zwracającą uwagę na niepokojący nowy trend w nadużywaniu AI.

„To jest kwestia wyodrębnienia kogoś w celu potencjalnego wykorzystania seksualnego” – powiedział, jak donosi The Guardian. „Narzędzia, których był w stanie tutaj użyć, naprawdę pogorszyły sytuację” – dodał.

Florence, który kiedyś był przyjacielem profesora, poszedł dalej niż tworzenie chatbotów. Tworzył fałszywe konta na mediach społecznościowych i stronach internetowych, aby podszywać się pod ofiarę, rozpowszechniając jej sfałszowane, eksplikacyjne zdjęcia wraz z danymi osobowymi, jak donosi The Guardian.

Platformy takie jak Craigslist, Reddit, X i Linktree były wykorzystywane do poniżania profesor i rozpowszechniania sfałszowanych treści. Na jednym z portali, ladies.exposed, opublikowano kolaże zdjęć profesor wraz z jej adresem domowym i numerem telefonu, jak podaje The Guardian.

Te działania trwały przez kilka lat, rozpoczęły się w 2017 roku. Profesor otrzymała dziesiątki niepokojących wiadomości i rozmów, w tym pocztę głosową fałszywie informującą o śmierci jej ojca w wypadku samochodowym, jak podaje The Guardian.

Ofiara i jej mąż stali się coraz bardziej zaniepokojeni o swoje bezpieczeństwo, w końcu instalując w swoim domu sprzęt do monitoringu i podejmując inne środki ostrożności.

Natręctwo nie zakończyło się na profesor. Florence zaatakowała kilka innych kobiet i 17-letnią dziewczynę, cyfrowo modyfikując ich zdjęcia, aby stworzyć seksualnie sugestywne treści.

Ten niepokojący trend wykorzystywania AI do nękania staje się coraz większym problemem, a raporty pokazują, że na tym polu wykorzystywane są również osoby niepełnoletnie.