Ekspert z Stanford oskarżony o wykorzystanie AI do sfałszowania oświadczenia sądowego

Profesor z Stanford, Jeff Hancock, jest oskarżony o wykorzystanie sztucznej inteligencji do sfałszowania cytowań w deklaracji sądowej broniącej prawa stanu Minnesota dotyczącego tzw. deepfake.

Profesor komunikacji ze Stanfordu i ekspert od dezinformacji, Jeff Hancock, jest pod lupą po oskarżeniu o użycie sztucznej inteligencji (AI) do sfałszowania części oświadczenia sądowego, jak donosi The Stanford Daily.

Hancock, założycielka i dyrektor Laboratorium Mediów Społecznościowych na Uniwersytecie Stanforda, złożyła w listopadzie 12-stronicową deklarację w sądzie w Minnesocie w obronie ustawy stanu z 2023 roku, kryminalizującej wykorzystanie deepfake’ów do wpływania na wybory, co donosi The Daily.

Jej zeznanie popierało Prokuratora Generalnego Minnesoty, Keitha Ellisona, podkreślając niebezpieczeństwa związane z szerzeniem dezinformacji poprzez media generowane przez AI. Hancock argumentowała, że deepfake’i podważają tradycyjne metody weryfikacji faktów i zwiększają przekonujący charakter fałszywych informacji – informuje The Daily.

Deklaracja, która zawierała 15 cytatów, spotkała się z krytyką po tym, jak nie można było znaleźć dwóch cytowanych artykułów akademickich. Te prace były niewykrywalne za pomocą ich zgłoszonych identyfikatorów cyfrowych obiektów lub cytowanych czasopism, według The Daily.

Prawnika Franka Berdnarza, reprezentującego powodów, Republikańską Przedstawicielką Stanu Mary Franson i konserwatywnym satyrykiem mediów społecznościowych Christopherem Kohlsem, podważył integralność zeznań Hancocka, jak zauważył The Daily.

Berdnarz argumentowała, że wątpliwe cytaty przypominają „halucynacje” generowane przez AI i wezwała do wykluczenia dokumentu z rozważań sądowych.

Stwierdziła: „Istnienie fikcyjnego cytatu, w który Hancock (lub jego asystenci) nawet nie zadał sobie trudu kliknąć, podważa jakość i prawdziwość całego oświadczenia”, jak podaje The Daily.

Hancock, który otrzymał 600 dolarów za godzinę za swoje zeznanie, złożył swoje oświadczenie pod rygorem kary za krzywoprzysięstwo. Profesor nie skomentował oskarżeń, jak podał The Daily.

Hancock, który prowadzi kursy na temat komunikacji i technologii, był pokazany w dokumencie Netflix z 2024 roku, w którym razem z Billem Gatesem rozmawiał o przyszłości AI. Ma on prowadzić kurs Prawda, Zaufanie i Technologia wiosną 2025 roku, podczas którego będzie badał kłamstwa w mediach cyfrowych, zauważył The Daily.

Kohls, znany w sieci jako Mr. Reagan, wcześniej sprzeciwiał się kalifornijskim ustawom mającym na celu zwalczanie manipulujących mediów politycznych, w tym jednej dotyczącej sfałszowanego filmu kampanijnego wiceprezydent Kamali Harris, jak zauważono w The Daily.

Jeśli te zarzuty okażą się prawdziwe, rzucą one cień na wiarygodność ekspertyz akademickich w sprawach prawniczych o dużych stawkach, gdzie integralność jest najważniejsza.

Jeśli okażą się prawdziwe, zarzuty wobec Hancocka rzucają światło na głęboką sprzeczność: eksperta od dezinformacji, który potencjalnie fabrykuje dowody w prawnej deklaracji. Jego rola jako naukowca ostrzegającego przed niebezpieczeństwami oszustw generowanych przez sztuczną inteligencję, stoi w wyraźnym kontraście do oskarżenia, że użył właśnie tych narzędzi, które krytykuje, aby podkreślić swoje zeznanie.