Generatywne AI Budzi Niepokój w Nauce, Jako że Fałszywe Dane Zagrażają Wiarygodności

Obrazy generowane przez sztuczną inteligencję budzą duże obawy wśród badaczy i wydawców, ponieważ nowe generatywne narzędzia AI ułatwiają w alarmujący sposób tworzenie fałszywych danych i obrazów naukowych, jak zauważono w komunikacie prasowym Nature.

Ten postęp zagraża wiarygodności literatury akademickiej, a eksperci obawiają się wzrostu liczby fabrykowanych badań napędzanych przez AI, które mogą być trudne do zidentyfikowania.

Jana Christopher, analityk integralności obrazu w FEBS Press w Niemczech, podkreśla, że szybki rozwój generatywnej sztucznej inteligencji budzi coraz większe obawy o jej potencjalne nadużycia w nauce.

„Ludzie pracujący w mojej dziedzinie – integralność obrazu i etyka publikacyjna – coraz bardziej martwią się możliwościami, jakie ona oferuje,” powiedziała Jane, jak podaje Nature.

Zauważa, że chociaż niektóre czasopisma mogą akceptować teksty generowane przez AI zgodnie z pewnymi wytycznymi, obrazy i dane generowane przez AI są postrzegane jako przekroczenie granicy, które mogłoby głęboko wpłynąć na integralność badań, jak zauważa Nature.

Wykrywanie tych obrazów stworzonych przez AI stało się głównym wyzwaniem, mówi Nature. W przeciwieństwie do wcześniejszych manipulacji cyfrowych, obrazy generowane przez AI często nie wykazują typowych oznak fałszerstwa, co utrudnia udowodnienie jakiegokolwiek oszustwa.

Specjalistka od analizy obrazów, Elisabeth Bik, wraz z innymi naukowcami sugeruje, że figury wyprodukowane przez AI, szczególnie w biologii molekularnej i komórkowej, mogą już występować w opublikowanych pracach naukowych, jak donosi Nature.

Narzędzia takie jak ChatGPT są teraz regularnie używane do tworzenia szkiców artykułów, które można zidentyfikować dzięki typowym frazom czatbota pozostawionym bez edycji, ale obrazy generowane przez AI są znacznie trudniejsze do wykrycia. W odpowiedzi na te wyzwania, firmy technologiczne i instytucje badawcze rozwijają narzędzia do ich wykrywania, jak zauważa Nature.

Narzędzia oparte na sztucznej inteligencji, takie jak Imagetwin i Proofig, przodują w szkoleniu swoich algorytmów w identyfikacji treści generowanych przez AI. Współzałożyciel Proofig, Dror Kolodkin-Gal, informuje, że ich narzędzie skutecznie wykrywa obrazy AI w 98% przypadków, ale zauważa, że weryfikacja ludzka jest kluczowa do potwierdzenia wyników – jak podaje Nature.

W świecie wydawniczym, czasopisma takie jak Science korzystają z Proofig do wstępnych skanów nadesłanych materiałów, a wydawniczy gigant Springer Nature rozwija własne narzędzia, Geppetto i SnapShot, do identyfikacji nieprawidłowości w tekście i obrazach, jak donosi Nature.

Inne organizacje, takie jak Międzynarodowe Stowarzyszenie Wydawców Naukowych, Technicznych i Medycznych, również uruchamiają inicjatywy mające na celu zwalczanie fabryk artykułów naukowych i zapewnienie integralności badań, jak donosi Nature.

Jednak eksperci ostrzegają, że wydawcy muszą działać szybko. Specjalista od obrazów naukowych, Kevin Patrick, obawia się, że jeśli działania zostaną odroczone, treści generowane przez AI mogą stać się kolejnym nierozwiązanym problemem w literaturze naukowej, jak informuje Nature.

Pomimo tych obaw, wielu żywi nadzieję, że przyszłe technologie rozwiną się na tyle, by wykrywać dzisiejsze oszustwa generowane przez sztuczną inteligencję, oferując długoterminowe rozwiązanie mające na celu ochronę integralności badań naukowych.