Wpływ gigantów technologicznych na standardy AI w UE budzi obawy

Duże firmy technologiczne mają znaczny wpływ na rozwój norm UE dla AI, według raportu grupy kampanii Corporate Europe Observatory (CEO).

Raport wyraża obawy dotyczące inkluzywności i sprawiedliwości procesu ustalania standardów, który stanowi podstawę niedawno zatwierdzonego przez Unię Europejską Aktu AI.

Ustawa o AI, która stała się prawem w sierpniu 2024 roku, przyjmuje podejście oparte na ryzyku, kategoryzując systemy AI według poziomów ryzyka. Podczas gdy systemy o wysokim ryzyku, takie jak te wykorzystywane w ochronie zdrowia i aplikacjach sądowych, podlegają ostrzejszym wymaganiom, konkretne wytyczne pozostają niezdefiniowane, jak zauważył dyrektor generalny.

Ponad połowa (55%) z 143 członków Wspólnego Komitetu Technicznego ds. AI (JTC21), utworzonego przez europejskie ciała normalizacyjne CEN i CENELEC, reprezentuje interesy korporacyjne lub konsultacyjne.

Raport krytykuje większość organizacji ustanawiających standardy, takich jak CEN i CENELEC, za to, że są prywatne i brakuje im demokratycznej odpowiedzialności. Te ciała często pobierają wysokie opłaty i działają z ograniczoną przejrzystością, co utrudnia udział społeczeństwa obywatelskiego.

Tymczasem społeczeństwo obywatelskie napotyka na logistyczne i finansowe bariery udziału. Tylko 23 przedstawicieli (16%) w próbce Corporate Europe Observatory pochodziło ze świata akademickiego, a zaledwie 13 (9%) reprezentowało społeczeństwo obywatelskie.

Chociaż organizacje należące do Załącznika III UE działają na rzecz interesów społecznych, nie mają praw wyborczych i zasobów w porównaniu z uczestnikami korporacyjnymi. Oracle, duża korporacja technologiczna, publicznie chwali się swoim udziałem w standaryzacji AI, twierdząc, że jej wysiłki zapewniają „etyczne, godne zaufania i dostępne” standardy, jak poinformował CEO.

Raport jednak argumentuje, że korporacje takie jak Oracle, które mają powiązania z globalnymi systemami nadzoru, priorytetowo traktują luźne regulacje, które są zgodne z ich interesami, zamiast zająć się podstawowymi prawami. Podobne zaangażowanie ze strony firm takich jak Microsoft, Amazon i Google budzi obawy o osłabienie zabezpieczeń w ramach Aktu AI.

Bram Vranken, badacz z CEO, wyraził zaniepokojenie tą delegacją tworzenia polityki publicznej.

„Decyzja Komisji Europejskiej o delegowaniu tworzenia polityki publicznej dotyczącej AI do prywatnego organu jest głęboko problematyczna. Po raz pierwszy, ustanawianie standardów jest wykorzystywane do wprowadzania wymagań związanych z prawami podstawowymi, sprawiedliwością, wiarygodnością i stronniczością” – powiedział, jak podaje Euro News.

CEN i CENELEC nie ujawnili uczestników swojego procesu tworzenia standardów AI. Prośby CEO o listy uczestników z komitetu JTC21 spotkały się z milczeniem, a ich Kodeks Postępowania wymusza zachowanie w tajemnicy tożsamości uczestników i ich przynależności.

CEO opisała te zasady jako zbyt restrykcyjne, uniemożliwiające otwartą dyskusję na temat członkostwa w komitecie.

W odpowiedzi na raport, Komisja Europejska oświadczyła, że zharmonizowane standardy zostaną poddane ocenie, aby upewnić się, że są zgodne z celami Ustawy o AI. Państwa Członkowskie i Parlament Europejski zachowują również prawo do kwestionowania tych standardów, jak podał Euro News.

Podsumowując, legislatorzy delegowali zadanie operacyjnego wdrażania tych standardów do organizacji prywatnych. Grupy społeczeństwa obywatelskiego i niezależni eksperci, często niedofinansowani i przeważeni, walczą o przeciwwagę dla dominacji korporacyjnej.

To nierównowaga zagraża podważeniu ochrony przed dyskryminacją, naruszeniami prywatności i innymi podstawowymi prawami, pozostawiając kształtowanie europejskiego zarządzania AI w dużej mierze w rękach interesów przemysłowych.