Opinia: Chatboty stają się głównymi lekarzami ludzi – imponujące, ale ryzykowne

Przeskakujemy z Dr. Google na Dr. Chatbota dość szybko. W sierpniu, OpenAI zgłosiło ponad 200 milionów aktywnych użytkowników tygodniowo, a chociaż najpopularniejsze zapytania użytkowników dotyczą pisania i kodowania, niektórzy korzystają z nich w sprawach bardziej osobistych, od porad dotyczących randek po rutyny pielęgnacyjne skóry i diagnozy chorób.

Niedawne badanie wykazało, że AI chatboty przewyższyły lekarzy pod względem dokładności diagnozy. Ale czy naprawdę możemy ufać AI jako naszym lekarzom?

Tak, jak zakres tematów, na które ludzie pytają, się rozszerzył, tak też zwiększyły się obawy o ryzyko i zagrożenia związane z poleganiem na AI w medycynie, w tym te dotyczące kwestii życia i śmierci.

Dr. Chatbot zdobywa popularność dzięki swoim „cudom”

Kilka dni temu, pewna kobieta zyskała popularność na Reddicie, ponieważ podzieliła się, jak ChatGPT pomógł jej poprawić stan skóry lepiej niż dermatolog, co potwierdziła imponującymi zdjęciami przed i po.

37-letnia kobieta rasy białej użyła ChatGPT, aby stworzyć spersonalizowaną rutynę pielęgnacyjną na zamknięte zaskórniki, i naprawdę jej to pomogło! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11 listopada 2024

“Następnie poprosiłam ChatGPT, aby zachowywał się jak profesjonalny dermatolog i pomógł mi stworzyć rutynę pielęgnacji skóry, która pomogłaby mi pozbyć się zamkniętych zaskórników, trądziku, zminimalizować pory, ujędrnić skórę i zredukować drobne linie. Przesłałam również zdjęcia mojej skóry z tamtego okresu,” napisała, a potem wyjaśniła, że poprosiła chatbota, aby uwzględnił wszystkie produkty, które już posiadała i zaproponował nowe w ramach rutyny pielęgnacyjnej.

Po dwóch miesiącach, Redditerka była zdumiona poprawą stanu swojej skóry.

To nie jest odosobniony przypadek. Wielu użytkowników ujawniło, jak chatboty były w stanie zrozumieć i wyjaśnić wyniki rentgenowskie i badania krwi lepiej niż ich własni lekarze. Nawet lekarze byli zdumieni interpretacją obrazów i danych analizowanych przez sztuczną inteligencję.

Dlaczego ludzie korzystają z chatbotów jako lekarzy?

AI może przekształcić się w profesjonalistę, którego potrzebujesz – lekarza rodzinnego, terapeutę, dermatologa, dietetyka, radiologa – kiedy tego potrzebujesz, a jest wiele powodów, dla których ludzie wybierają AI zamiast ludzi.

Specjaliści Mogą Być Drodzy

Kobieta z problemami skórnymi ujawniła, że wydała około 400 dolarów na zakup produktów sugerowanych przez chatbota.

„To była dość duża inwestycja, ale kiedy pomyślę, ile kosztowałaby konsultacja z dermatologiem, to wcale nie jest tak źle” – napisała.

Według BetterCare, w 2024 roku pacjent bez ubezpieczenia zdrowotnego w Stanach Zjednoczonych musi zapłacić około 150 dolarów za wizytę u dermatologa i do 1000 dolarów za leczenie. Średni koszt sesji psychoterapii – innego popularnego zastosowania narzędzi AI – wynosi od 100 do 200 dolarów za sesję, według Forbes Health.

Chatboty AI są tańszymi alternatywami i mogą być postrzegane jako jedyna opcja, szczególnie dla osób z niższych grup dochodowych.

Oczywiście pojawia się kolejne pytanie: Jeśli coś pójdzie nie tak, czy to naprawdę oszczędność kosztów?

Szybsze i Wygodniejsze

Niedawno pojawiła mi się wysypka na ramieniu. Mimo że zobaczyłam ten cudowny post o skórze owej kobiety, wolałam skonsultować się z dermatologiem w Hiszpanii. Najbliższa dostępna wizyta była dopiero za trzy miesiące, mimo prywatnego ubezpieczenia zdrowotnego. Mam szczęście, że wygląda na to, że to tylko suchość, że nie przeszkadza mi to, i mam nadzieję, że zniknie zanim lekarz będzie mógł mnie przyjąć.

Terminy opieki medycznej zależą od miasta i planu ubezpieczenia pacjenta. Niemniej jednak, wizyty u specjalistów, a nawet lekarzy pierwszego kontaktu, stały się w wielu częściach świata testem cierpliwości.

Chatboty są nie tylko dosłownie w zasięgu naszych rąk, ale mogą także analizować nasze zapytania i odpowiadać w ciągu sekund.

Mniej niezręczne

Mam przyjaciółkę lekarkę, do której mogę się zwrócić, kiedy potrzebuję konsultacji medycznej, ale fakt, że jest moją przyjaciółką, czasem sprawia, że jest to niezręczne. Zanim do niej napiszę, zawsze zadaję sobie pytanie: Czy ostatnio pytałam ją, jak się ma? Jest wspaniałą osobą i wspaniałą profesjonalistką, i jestem pewna, że nigdy nie przestanie odpowiadać na moje pytania medyczne. Ale, od człowieka do człowieka, nie mogę powstrzymać się od troski o jej uczucia.

Jedną z zalet sztucznej inteligencji jest jej sztuczny stan. Nie ma uczuć ani złych dni, nie oceni cię ani nie powie „Przestań być taki hipochondrykiem” (nie żeby moja przyjaciółka kiedykolwiek mi to powiedziała) ponieważ są one szkolone, by być uprzejme i odpowiadać na wszystkie nasze pytania z wszystkimi informacjami, które chcemy. To część tego, co sprawia, że technologia jest uzależniająca, i prawdopodobnie dlatego wielu woli zadawać niewygodne pytania w „prywatności” swoich smartfonów.

Ryzyko i niebezpieczeństwa polegania na Chatbotach

Wszystko brzmi fajnie i zabawnie, dopóki nie zaczniemy myśleć o ryzyku i wyzwaniach, przed którymi stają AI i ludzkość.

Zły prompt, złe zaklęcie

W tym badaniu, w którym AI przewyższyło lekarzy, wysnuto ważny wniosek: grupa lekarzy, którzy mieli pozwolenie na korzystanie z AI jako sojusznika w diagnozowaniu, nie osiągnęła znacząco lepszych wyników niż ci, którzy nie mieli takiego pozwolenia. Dlaczego? Częściowo problem polegał na tym, że nie wiedzieli, jak napisać odpowiednie pytania, aby wydobyć jak najwięcej z AI.

„Traktowali go jak wyszukiwarkę skierowanych pytań: ‚Czy marskość jest czynnikiem ryzyka dla raka? Jakie są możliwe diagnozy dla bólu oka?’,” powiedział dr Jonathan H. Chen, jeden z autorów badania, dla the New York Times.

To jest jeden z problemów, z którymi borykają się zarówno wielu użytkowników, jak i technologie AI. Chatboty są dobre w diagnozowaniu, ale wiele symptomów wymaga indywidualnej analizy w sposób spersonalizowany. Co jeśli osoba nie dostarczy chatbotowi odpowiedniego kontekstu? Albo zapomni dołączyć ważne szczegóły lub warunki, których prawdziwy lekarz siedzący przed pacjentem by nie przeoczył?

Niedokładność i halucynacje

Chatboty są profesjonalnymi mądralami, które czasami mówią błędne rzeczy z dużą pewnością siebie. I my to kupujemy. A użytkownicy, którzy na co dzień polegają na tej technologii, coraz bardziej jej ufają.

Trudno zapomnieć tamten czas – w maju – kiedy Google Gemini sugerował użytkownikom dodanie „około ⅛ szklanki nietoksycznego kleju do sosu, aby nadać mu większą lepkość” do pizzy.

Było to zabawne, ponieważ od razu mogliśmy zauważyć halucynację – to wyszukane określenie na sytuację, gdy AI podaje absurdalne odpowiedzi. Ale co jeśli dotyczy to bardziej skomplikowanego tematu, co jeśli osoba czytająca odpowiedź AI jest przestraszona, samotna i zaniepokojona swoim zdrowiem?

Nawet gdy AI staje się coraz lepsza z miesiąca na miesiąc, możliwość wystąpienia błędu nadal istnieje.

Kogo obarcza się winą, gdy coś pójdzie nie tak?

Obecnie gorącym tematem jest debata etyczna. Jeśli chatbot poda błędną diagnozę lub okropną radę, kogo obwiniamy? Twórców, model, firmę AI, źródła, które trenowały ten model?

Kilka tygodni temu poruszająca sprawa wzbudziła obawy, kiedy amerykańska matka obarczyła winą sztuczną inteligencję za śmierć swojego 14-letniego syna i wytoczyła proces startupowi Character.ai – platformie do tworzenia postaci AI. Nastolatek cierpiał na depresję i zaczarował się technologią. Jego awatar, Daenerys Targaryen, omówił z nim plan samobójstwa, a nawet zachęcał go do jego realizacji.

Podczas gdy sztuczna inteligencja została uznana przez Światowe Forum Ekonomiczne za potężne narzędzie do łagodzenia kryzysów zdrowia psychicznego na całym świecie i redukcji rosnącej liczby przypadków lęku i depresji, może być również niebezpieczna, szczególnie dla dzieci.

Zrób to „na własne ryzyko”

Chociaż w dalszym ciągu wymaga doskonalenia, lubię myśleć, że AI ma ogromny potencjał do zmniejszania czasu oczekiwania w służbie zdrowia – zarówno na wizyty u specjalistów, jak i opiekę w szpitalnych oddziałach ratunkowych – do przyspieszania postępu naukowego, a także do wspierania lekarzy, zwłaszcza tych przytłoczonych nadmiernym obciążeniem pracy i niskimi zarobkami, co często ma miejsce w krajach Ameryki Łacińskiej, poprzez udzielanie pacjentom podstawowych informacji z domu.

AI mogłoby również pomóc w przezwyciężeniu różnic w dostępie do opieki zdrowotnej pomiędzy różnymi klasami społecznymi, torując drogę do demokratyzacji medycyny jak nigdy dotąd. Wszystko to jest teraz w naszym zasięgu, wystarczy jedno zapytanie dla każdego, kto ma dostęp do smartfona.

Jednakże, kluczowe jest zrozumienie, że nadal jesteśmy na wczesnym etapie i musimy chronić najbardziej narażoną populację. Każda osoba decydująca się na korzystanie z Dr. Chatbot w celu poprawy swojego zdrowia musi to zrobić, mając świadomość drobnego druku w regulaminie, z krytycznym myśleniem i z poczuciem, że – na razie – to ona przejmuje odpowiedzialność za związane z tym ryzyko.