Kalifornijski projekt ustawy wprowadza nowe zasady dotyczące AI

Zgromadzenie Stanowe Kalifornii zatwierdziło Ustawę o Bezpiecznym i Zabezpieczonym Rozwoju Nowoczesnych Modeli Sztucznej Inteligencji (SB 1047) po wielu poprawkach, które wprowadzono wcześniej w tym miesiącu.

Projekt został przedstawiony przez senatora stanowego Scotta Wienera, SB 1047 ma na celu zmniejszenie ryzyka związanego z zaawansowaną SI, jak na przykład autonomiczne broń czy ataki cybernetyczne na dużą skalę. Co więcej, jak podaje Business Insider (BI), ustawa wymaga od firm rozwijających modele SI wdrożenia środków bezpieczeństwa, w tym wyłączników awaryjnych oraz testowania przez strony trzecie.

Kluczowe postanowienia SB 1047 obejmują surowe protokoły bezpieczeństwa dla twórców „modeli objętych”, które są dużymi modelami AI, wymagającymi znacznej mocy obliczeniowej do szkolenia, i mają potencjał powodowania znacznych szkód.

Te protokoły wymagają od programistów wdrożenia kompleksowych środków bezpieczeństwa, aby zminimalizować ryzyko takie jak niezamierzone konsekwencje czy złośliwe użycie. Ponadto, deweloperzy muszą przechodzić coroczne niezależne audyty, aby zapewnić zgodność i zgłosić wszelkie incydenty dotyczące bezpieczeństwa AI do Prokuratora Generalnego w ciągu 72 godzin.

Rachunek również nakłada obowiązki na operatorów klastrów komputerowych, wymagając od nich identyfikacji klientów szkolących te wysokiego ryzyka modele i podjęcia kroków w celu zminimalizowania potencjalnych zagrożeń.

SB 1047 wywołał znaczne kontrowersje w branży technologicznej. Podczas gdy zwolennicy argumentują, że jest niezbędne do ochrony publiczności przed potencjalnymi zagrożeniami zaawansowanego AI, przeciwnicy wyrażają obawy dotyczące jego potencjalnego wpływu na innowacje.

Krytycy argumentują również, że regulacje mogą obciążać firmy, ograniczając ich zdolność do konkurowania z większymi gigantami technologicznymi. Niemniej jednak, senator Wiener bronił ustawodawstwa, podkreślając, że dotyczy ono firm wydających ponad 100 milionów dolarów na rozwój AI, zwalniając z tego obowiązku mniejsze startupy, jak informuje Fortune.

Elon Musk, dyrektor generalny X i założyciel xAI, wyraził swoje poparcie dla tego projektu ustawy. Przyznał, że może on niepokoić niektórych, ale podkreślił konieczność regulacji w celu zapobiegania zagrożeniom publicznym.

Jednakże, inne czołowe firmy i eksperci zajmujący się sztuczną inteligencją wyrażają sprzeciw. Na przykład, LA Times informuje, że główny strateg OpenAI, Jason Kwon, napisał w liście do Wienera: „Zestaw polityk dotyczących SI wyznaczonych przez rząd federalny, a nie mnóstwo prawa stanowego, będzie sprzyjać innowacjom i da Stanom Zjednoczonym pozycję lidera w tworzeniu globalnych standardów.”

Dodatkowo, profesorka ze Stanford, ekspertka od SI, Fei-Fei Li, zakwestionowała, że choć ustawodawstwo jest dobrze intencjonowane, mogłoby mieć znaczne niezamierzone konsekwencje, w tym szkodzenie społeczności open-source i ograniczanie dostępu naukowców do niezbędnych modeli SI.

Pomimo kontrowersji, SB 1047 proponuje również stworzenie CalCompute, publicznego klastra obliczeniowego w chmurze, aby wspierać odpowiedzialny rozwój AI i zapewnić naukowcom i deweloperom dostęp do niezbędnych zasobów.

Chociaż projekt ustawy stanowi istotny krok ku regulacji AI w Kalifornii, zarówno krytycy, jak i zwolennicy przyznają, że dynamicznie rozwijający się krajobraz AI może wymagać dalszych poprawek do prawa w celu sprostania nowym wyzwaniom i możliwościom.