Dezinformacja AI Mogłaby Prowadzić do Masowych Wypłat z Banku

Nowe brytyjskie badanie ostrzega, że dezinformacja generowana przez sztuczną inteligencję, krążąca w mediach społecznościowych, zwiększa ryzyko paniki bankowej. Instytucje finansowe są zachęcane do zwiększenia swoich wysiłków monitorujących, jak pierwotnie poinformował Reuters.

Badanie, opublikowane przez brytyjską organizację Say No to Disinfo oraz firmę zajmującą się komunikacją, Fenimore Harper, pokazuje, jak sztuczna inteligencja sprawia, że dezinformacja staje się tańsza, szybsza i bardziej skuteczna. Szerokie spektrum podmiotów – w tym te motywowane finansowo, ideologicznie czy politycznie – mogłoby wykorzystać tę podatność.

Łatwość bankowości internetowej i szybkie przelewy pieniężne zwiększają narażenie banków na takie ryzyko.

Aby przeanalizować potencjalny wpływ, badacze stworzyli sztuczną kampanię dezinformacyjną generowaną przez AI, mającą na celu destabilizację finansową banków. Fałszywe nagłówki zostały zaprojektowane tak, aby wykorzystać istniejące obawy, używając doppelgangerowych stron internetowych i treści w mediach społecznościowych generowanych przez AI.

Badacze przeprowadzili symulację na dużą skalę, generując 1000 tweetów na minutę przy minimalnych kosztach. Ankieta przeprowadzona wśród 500 klientów z Wielkiej Brytanii pokazała, że po zetknięciu się z dezinformacją, 33,6% było bardzo prawdopodobne, a 27,2% dość prawdopodobne, że przemieści swoje pieniądze, przy czym 60% było skłonnych do udostępnienia treści.

Na podstawie średnich sald na kontach bankowych w Wielkiej Brytanii, pojedyncza kampania dezinformacyjna mogłaby przemieścić 10 milionów funtów, przy koszcie przesunięcia 150 milionów funtów wynoszącym zaledwie 90-150 dolarów.

Pomimo szybkości i łatwości takich ataków, badacze twierdzą, że instytucje finansowe nie są na nie przygotowane. Bankom brakuje specjalistów od dezinformacji, proaktywnego monitoringu i planów reagowania na kryzysy. Obecne środki bezpieczeństwa koncentrują się na zagrożeniach cybernetycznych, zaniedbując operacje wpływu sterowane przez AI.

AI-potęgowana dezinformacja ma potencjał do destabilizacji sektora finansowego poprzez podważanie zaufania i wywoływanie masowych wypłat. Bez proaktywnych środków, badacze twierdzą, że te kampanie mogą spowodować rozległe szkody gospodarcze.

Reuters zauważa, że obawy związane z dezinformacją napędzaną przez sztuczną inteligencję pojawiły się po upadku Silicon Valley Bank w 2023 roku, kiedy deponenci wypłacili 42 miliardy dolarów w ciągu jednego dnia.

Organizacje regulacyjne, w tym Rada Stabilności Finansowej G20, ostrzegły od tamtego czasu, że generatywna sztuczna inteligencja mogłaby pogłębić niestabilność finansową. W listopadzie ostrzegły, że „mogłoby to umożliwić szkodliwym podmiotom generowanie i rozpowszechnianie dezinformacji, które powodują ostre kryzysy”, takie jak gwałtowne spadki na giełdzie i masowe wypłaty z banków, jak donosi Reuters.

Podczas gdy niektóre banki odmówiły komentarza dla agencji Reuters, UK Finance oświadczyło, że instytucje finansowe aktywnie zarządzają ryzykiem związanym z AI.

Publikacja badania zbiega się w czasie z szczytem AI we Francji, gdzie liderzy skupiają się na promowaniu adopcji AI, zamiast na ryzyku związanym z jej wykorzystaniem.