AI Mogłaby Przewidywać i Wpływać na Decyzje, Sprzedając Twoje Intencje Firmom

Sztuczna inteligencja może wkrótce doprowadzić do powstania rynku, na którym firmy będą kupować i sprzedawać Twoje intencje, zanim jeszcze podejmiesz decyzję – ostrzegają badacze z Uniwersytetu w Cambridge.

Ten rozwijający się „Gospodarka Intencji” pozwoliłaby asystentom AI przewidywać i wpływać na Twoje wybory, od zakupu biletów na film po głosowanie w wyborach, często zanim zdążysz zdać sobie sprawę z własnych preferencji.

Etycy z dziedziny sztucznej inteligencji z Leverhulme Centre for the Future of Intelligence (LCFI) na Uniwersytecie w Cambridge sugerują, że rosnące wykorzystanie generatywnej sztucznej inteligencji i chatbotów mogłoby otworzyć drogę dla nowego rodzaju technologii perswazyjnej.

Agenci AI, którzy obejmują asystentów chatbotów aż po cyfrowych nauczycieli, będą mieli dostęp do ogromnej ilości osobistych danych psychologicznych i behawioralnych zebranych za pośrednictwem codziennych rozmów, w tym nieformalnych dialogów.

Te dane, połączone z zaawansowanymi algorytmami, pozwolą sztucznej inteligencji przewidywać pragnienia użytkowników i wpływać na ich decyzje na dużą skalę, argumentują naukowcy.

„Wkładane są ogromne zasoby, aby umieścić asystentów AI w każdej dziedzinie życia, co powinno zadać pytanie, na rzecz czyich interesów i celów są projektowane te tak zwane asystentki” – powiedziała dr Yaqub Chaudhary, stypendystka w LCFI, jak podaje Eurekalert.

Narzędzia AI nie tylko zbierają dane na podstawie nawyków użytkowników w sieci, ale również interpretują subtelne wskazówki, takie jak sposób, w jaki ludzie mówią, oraz wnioski, które można wysnuć z interakcji w czasie rzeczywistym. Według badaczy, te narzędzia mogą wkrótce przewidywać i wpływać na nasze decyzje, manipulując nimi w celu służenia korporacyjnym, politycznym i komercyjnym interesom.

Dr Jonnie Penn, historyk technologii w LCFI, wyjaśnia, że uwaga od dawna była walutą internetu, a platformy takie jak Facebook i Instagram czerpały zyski z zaangażowania użytkowników. Jednak w powstającym gospodarstwie intencji, ludzkie motywacje staną się nową walutą.

„Jeżeli nie zostanie uregulowany, rynek intencji potraktuje nasze motywacje jako nową walutę. Będzie to prawdziwa gorączka złota dla tych, którzy celują, kierują i sprzedają ludzkie intencje.” – powiedziała dr Penn, jak donosi Eurekalert.

Badacze ostrzegają, że ten rynek może mieć poważne konsekwencje, od podważenia wolnych i sprawiedliwych wyborów, po wpływanie na integralność mediów i konkurencję rynkową. Twierdzą, że choć rynek intencji jest jeszcze w fazie embrionalnej, wcześniejsze oznaki jego rozwoju są już widoczne.

Na przykład, takie czołowe firmy technologiczne jak OpenAI, Meta i Apple zaczęły inwestować w systemy AI, które przewidują ludzkie intencje, zgodnie z Eurekalert. OpenAI, na przykład, zaapelowało o dane wyrażające ludzkie intencje w różnych formatach, podczas gdy ramy „App Intents” Apple z 2024 roku są zaprojektowane do przewidywania przyszłych działań użytkowników.

Pomimo ryzyka, Penn i Chaudhary podkreślają, że te rozwinięcia nie są same w sobie negatywne. Niemniej jednak, zwracają uwagę na znaczenie świadomości publicznej i regulacji, aby upewnić się, że ekonomia intencji nie przekracza etycznych granic.

„Powinniśmy zacząć rozważać prawdopodobny wpływ, jaki taki rynek mógłby mieć na ludzkie aspiracje, w tym wolne i sprawiedliwe wybory, wolną prasę i sprawiedliwą konkurencję na rynku, zanim staniemy się ofiarami jego niezamierzonych konsekwencji.” – ostrzegała Penn, jak podaje Eurekalert.

W tym szybko ewoluującym cyfrowym krajobrazie, badacze zachęcają społeczeństwo do starannego zbadania implikacji narzędzi AI, które nie tylko wpływają na to, czego ludzie pragną, ale na to, czego „chcą chcieć”.