Apple Zachęcane do Usunięcia Funkcji AI Po Kontrowersji z Fałszywym Nagłówkiem

Główny obrońca praw dziennikarstwa wezwał Apple do wycofania swojej funkcji generującej AI, po tym jak narzędzie błędnie przypisało nagłówek dotyczący głośnej sprawy morderstwa do BBC News.

W czwartek BBC poinformowała, że kontrowersje wybuchły po tym, jak nowa funkcja Apple, Apple Intelligence, niepoprawnie wygenerowała nagłówek. Sugerował on, że Luigi Mangione, podejrzany o zabójstwo prezesa firmy ubezpieczeniowej Brian’a Thompsona, zastrzelił się. BBC nie opublikowało takiego artykułu.

Reporters Without Borders (RSF), międzynarodowa organizacja walcząca o wolność prasy, skrytykowała Apple, twierdząc, że incydent ten podkreśla ryzyko, jakie niedojrzałe narzędzia AI stwarzają dla wiarygodności mediów i zaufania publicznego.

Vincent Berthier, szef działu technologii i dziennikarstwa RSF, potępił ten faux pas, nazywając go „ciosem dla wiarygodności medium” i zagrożeniem dla publicznego dostępu do wiarygodnych informacji. RSF domagało się, aby Apple natychmiast usunął tę funkcję.

„Akt Europejski dotyczący AI – mimo że jest to najbardziej zaawansowane prawo na świecie w tej dziedzinie – nie zaklasyfikował systemów generujących informacje przez AI jako systemów o wysokim ryzyku, pozostawiając krytyczną lukę prawną. Tę lukę trzeba natychmiast wypełnić,” powiedziała Berthier.

BBC potwierdziło, że złożyło formalną skargę do giganta technologicznego i zażądało rozwiązania, ale nie jest jasne, czy Apple odpowiedziało.

Niepoprawne podsumowanie przez AI nie ograniczało się do BBC News. 21 listopada, funkcja ta nieprecyzyjnie streściła artykuł z New York Times, fałszywie sugerując, że izraelski premier Benjamin Netanyahu został aresztowany, jak donosił artykuł BBC.

To powiadomienie, później podkreślone przez dziennikarza Kena Schwencke, faktycznie odnosiło się do nakazu Międzynarodowego Trybunału Karnego przeciwko Netanyahu.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence ma na celu zredukowanie przerw spowodowanych powiadomieniami, podsumowując je i grupując. Dostępne na iPhone’ach z systemem iOS 18.1 i nowszych modelach, a także niektórych iPadach i Macach, narzędzie spotkało się z krytyką za przekłamywanie informacji pochodzących z renomowanych mediów.

Rzecznik BBC podkreślił, że chociaż niektóre pogrupowane powiadomienia dokładnie podsumowywały wiadomości o globalnych wydarzeniach, dezinformacja dotycząca Mangione pokazała, jak technologia może zaszkodzić zarówno mediom, jak i zrozumieniu publicznemu.

RSF ostrzegło, że „Ten wypadek pokazuje, że generatywne usługi AI są jeszcze zbyt niedojrzałe, aby dostarczać wiarygodne informacje dla społeczeństwa i nie powinny być dopuszczane na rynek do takich zastosowań.”

Ars Technica recenzowała podsumowania powiadomień Apple, zauważając kilka problemów, które często występują. Po pierwsze, choć niektóre podsumowania są faktycznie poprawne, brzmią one sztucznie i niezręcznie, zwłaszcza w delikatnych tematach, takich jak relacje czy zdrowie psychiczne. Inne nie rozumieją sarkazmu, slangu czy idiomatycznych wyrażeń, często interpretując je zbyt dosłownie.

Utrata kontekstu to kolejny poważny problem, szczególnie gdy podsumowania pomijają wcześniejsze wiadomości w wątku lub nie uwzględniają treści multimedialnych. W grupowych czatach z wieloma tematami podsumowania mogą stać się przeciążone, mieszając tematy i prowadząc do nieścisłości.

W końcu, niektóre podsumowania są po prostu błędne, często z powodu próby upchnięcia zbyt dużej ilości informacji w zbyt małej ilości słów, co prowadzi do zniekształconych relacji. Ogólnie, te problemy, które wpływają na użyteczność i dokładność tej funkcji, są częste w codziennym użytkowaniu.

Mangione, obecnie oskarżony o morderstwo pierwszego stopnia, stał się punktem centralnym w debacie na temat ryzyka związanego z AI w dziennikarstwie. Wiarygodność wiadomości, na której polega społeczeństwo, pozostaje zagrożona, ponieważ Apple jest pod coraz większą presją, aby poradzić sobie z tym problemem.