Rząd UK nie Ujawnia Wykorzystania AI, Naruszając Mandat Transparentności

Rząd Wielkiej Brytanii jest krytykowany za brak dokumentowania wykorzystania AI w obowiązkowym rejestrze, co budzi obawy o przejrzystość i odpowiedzialność wobec rosnącego przyjęcia.

Rząd Wielkiej Brytanii jest krytykowany za niezarejestrowanie swojego korzystania z systemów AI w obowiązkowym publicznym rejestrze, co budzi obawy dotyczące przejrzystości i nadzoru nad technologiami, które potencjalnie mogą wpływać na życie milionów osób, jak donosi w czwartek The Guardian.

Mimo ogłoszenia w lutym 2024 roku, że wszystkie departamenty Whitehall muszą dokumentować swoje wykorzystanie AI, żaden z nich nie zastosował się do tego, pozostawiając sektor publiczny „na ślepo” w kwestii adopcji technologii algorytmicznej, jak zauważył The Guardian.

AI jest już głęboko zakorzenione w procesie podejmowania decyzji przez rząd, wpływając na obszary takie jak płatności związane z opieką społeczną, egzekwowanie przepisów imigracyjnych i policję.

Jednakże, jak zauważa The Guardian, zarejestrowano tylko dziewięć systemów algorytmicznych, nie uwzględniając głównych programów używanych przez Home Office, Departament ds. Pracy i Emerytur (DWP) oraz siły policyjne.

Ten brak ujawnienia utrzymuje się, mimo że kontrakty na usługi AI i algorytmiczne gwałtownie rosną. Na przykład, The Guardian zauważa, że ciało zakupów policyjnych niedawno ogłosiło kontrakt na 20 milionów funtów na technologię rozpoznawania twarzy, co wywołuje obawy związane z neregulowanym nadzorem biometrycznym.

Sekretarz ds. Nauki i Technologii, Peter Kyle, uznał problem, stwierdzając, że departamenty rządowe nie potraktowały kwestii przejrzystości „na tyle poważnie”, jak donosił The Guardian.

Podkreślił prawo społeczeństwa do zrozumienia, w jaki sposób wykorzystywane są algorytmy, dodając, że zaufanie można zbudować jedynie poprzez otwartość.

The Guardian zauważa, że krytycy argumentują, iż tajemniczość niesie ze sobą znaczne ryzyko. Madeleine Stone, główna oficer ds. promocji w grupie zajmującej się ochroną prywatności Big Brother Watch, ostrzegła,

„Tajemnicze korzystanie z AI i algorytmów, które wpływają na życie ludzi, stawia pod ryzyko prawa wszystkich do danych. Departamenty rządowe muszą być otwarte i szczere w odniesieniu do tego, jak korzystają z tej technologii,” jak donosi The Guardian.

Instytut Ada Lovelace podzielił te obawy, zwracając uwagę, że nieujawnione systemy AI mogą podważać zaufanie publiczne i prowadzić do dyskryminacyjnych lub nieskutecznych rezultatów, jak informuje The Guardian.

Od wprowadzenia rejestru AI, tylko trzy systemy zostały na nim umieszczone, w tym narzędzie do monitorowania pieszych w Cambridge i system analizy recenzji NHS. Tymczasem, samodzielnie w 2024 roku, organy publiczne podpisały 164 kontrakty związane z AI, według firmy zajmującej się danymi, Tussell, jak podaje The Guardian.

Wysokiej rangi kontrakty obejmują partnerstwo NHS z Palantirem na platformę danych o wartości 330 milionów funtów oraz inicjatywę transformacji AI Rady Miasta Derby o wartości 7 milionów funtów, jak podaje The Guardian.

Home Office, który wykorzystuje AI w egzekwowaniu przepisów imigracyjnych, oraz inne departamenty odmówiły komentarza na temat swojej nieobecności w rejestrze. Jednak Departament Nauki i Technologii twierdzi, że więcej rekordów ma „zostać opublikowanych wkrótce”, jak donosi The Guardian.

Sytuacja ta ponownie rozpaliła debaty na temat roli AI w zarządzaniu, z adwokatami domagającymi się przejrzystości w celu zminimalizowania szkód i zapewnienia odpowiedzialności publicznej w dobie szybko postępującej technologii.