Badanie Wykazało, że 84% Liderów IT Ufają Agentom AI Tak Samo Jak Ludziom

SnapLogic przedstawił nowy raport, „AI Agents: The Final Frontier of the Enterprise„, który bada, jak liderzy IT przygotowują się do adopcji agentów AI.

Na podstawie odpowiedzi ponad 1000 decydentów IT z takich krajów jak Stany Zjednoczone, Wielka Brytania, Niemcy i Australia, raport podkreśla, jak firmy przyjmują agentów AI, aby zoptymalizować operacje i poprawić produktywność.

Agenci AI, działający samodzielnie i wykonujący skomplikowane zadania, stają się nieodłączną częścią procesów biznesowych w przedsiębiorstwach. Ten raport podąża za prezentacją przez OpenAI Operatora, agenta AI do zadań autonomicznych, oraz wprowadzeniem przez Google darmowego Gemini Code Assist dla programistów.

„Technologia GenAI jest w szybkim tempie ewolucji. Umiejętność umożliwienia tworzenia agentów AI, które są w stanie działać samodzielnie, rozumować i wykonywać określone czynności w celu osiągnięcia celu, jest kluczowym momentem w zdolności GenAI do dostarczania znaczącej wartości biznesowej” – zauważa raport.

Według wyników badań, liderzy IT coraz bardziej ufają agentom AI w kwestii realizacji kluczowych zadań biznesowych. Znaczących 84% respondentów ufa agentom AI przynajmniej tak samo jak ludziom, a 40% wyraża większe zaufanie do agentów AI niż do pracowników ludzkich.

To rosnące zaufanie jest napędzane przez potencjał AI do zwiększania efektywności, jako że obecnie zespoły IT spędzają średnio 16 godzin tygodniowo na zarządzaniu technologiami AI. Respondenci przewidują, że agenci AI pomogą odzyskać 19 godzin tygodniowo, zwalniając cenny czas na bardziej strategiczną pracę.

Prezes Klarny, Sebastian Siemiatkowski, który otwarcie mówi o transformacyjnym wpływie sztucznej inteligencji na biznes, zwłaszcza w zakresie automatyzacji zadań tradycyjnie wykonywanych przez ludzi, odzwierciedla ten trend. Wykorzystanie AI przez Klarnę pozwoliło zaoszczędzić 10 milionów dolarów rocznie, z AI zastępującym 700 agentów obsługi klienta i wykonywaniem zadań szybciej niż ludzie.

Ponadto, niedawna ankieta ujawniła, że ponad połowa brytyjskich liderów biznesu planuje inwestować w AI kosztem zatrudnienia nowych pracowników, napędzane rosnącymi kosztami zatrudnienia i reformami związanymi z pracą.

Entuzjazm związany z wprowadzaniem agentów AI jest oczywisty, a 79% liderów IT stawia na priorytet ich implementację w ciągu najbliższego roku. Co więcej, 92% uważa, że te systemy przyniosą znaczące wyniki biznesowe w ciągu najbliższych 12 do 18 miesięcy.

Inwestycje w AI również przyspieszają, ponieważ prawie 80% organizacji planuje przeznaczyć ponad milion dolarów na agentów AI w nadchodzącym roku. Pomimo dużego zainteresowania, nadal istnieją bariery. Obawy dotyczące bezpieczeństwa danych, przestarzałej technologii i wyzwań związanych z integracją utrzymują się, przy czym 60% uznaje ryzyko związane z prywatnością za główną przeszkodę.

Rzeczywiście, NIST wyjaśnia, jak agenci AI są podatni na ataki typu hijacking, gdzie złośliwe instrukcje wstawiane do danych powodują, że agenci wykonują szkodliwe zadania. Ryzyko to wynika z braku rozdzielności między zaufanymi instrukcjami wewnętrznymi a danymi zewnętrznymi.

Kluczowe zagrożenia dla cyberbezpieczeństwa obejmują zdalne wykonanie kodu, ekstrakcję bazy danych i zautomatyzowane phishingi. Te ataki wykorzystują zależność agentów AI od danych zewnętrznych, co potencjalnie prowadzi do nieautoryzowanych działań, takich jak wykonanie szkodliwych skryptów, kradzież danych użytkownika lub rozprzestrzenianie złośliwego oprogramowania.

Dodatkowo, raport wskazuje, że sceptycyzm pracowników i obawy przed halucynacjami AI przyczyniają się do wahania w przyjmowaniu tej technologii. Niemniej jednak, w miarę jak agenci AI nadal się rozwijają, organizacje są chętne do wykorzystania ich możliwości do prowadzenia transformacji w różnych branżach.

Tymczasem, Uniwersytet w Cambridge niedawno ostrzegał przed potencjalnie dystopijną przyszłością, w której asystenci AI mogliby przewidywać i sprzedawać intencje użytkowników w czasie rzeczywistym. Ta „Ekonomia Intencji”, napędzana przez AI, mogłaby wykorzystywać intymne dane psychologiczne do wpływania na decyzje na dużą skalę, włączając w to tak osobiste czynności jak głosowanie czy wybory zakupowe.

Badacze argumentują, że ta technologia mogłaby manipulować ludzkim zachowaniem dla zysku komercyjnego, politycznego lub korporacyjnego, co budzi poważne obawy dotyczące jej etycznych implikacji.

Czołowe firmy technologiczne, takie jak OpenAI i Apple, już inwestują w systemy AI, które przewidują ludzkie intencje, co może dodatkowo napędzać ten rozwijający się rynek.