Firmy AI zeznawały pod przysięgą przed radą Nowego Jorku

Kto zeznawał przed radą Nowego Jorku

Przesłuchanie odbyło się w rzadkiej formule Council Committee of the Whole, czyli komisji całej rady z udziałem wszystkich 51 radnych. Anthropic reprezentował Logan Graham, szef zespołu Frontier Red Team, który testuje modele pod kątem groźnych zastosowań. OpenAI wysłało Morgan Dwyer, szefową rozwoju i realizacji polityk, Google - Alice Friend, dyrektorkę ds. polityki AI i nowych technologii, a Meta - Shane'a Cahilla, dyrektora ds. polityki AI w obszarze legislacji.

Drugą grupę świadków stanowili byli pracownicy laboratoriów AI. Jacob Coxon odszedł niedawno z Anthropic i publicznie zarzucił tej firmie oraz OpenAI hazard z bezpieczeństwem ludzi. Daniel Kokotajlo pracował wcześniej w OpenAI, a Alex Turner w Google DeepMind.

Według CNBC Meta potwierdziła udział pod koniec września, a Anthropic, OpenAI i Google zgodziły się przyjść dopiero po zapowiedzi wezwań. Przedstawiciele firm zeznawali pod przysięgą.

Co powiedziały firmy i byli badacze

Najwięcej napięcia wywołało pytanie o odpowiedzialność prawną za poważne szkody finansowe albo śmierć spowodowaną przez model AI. Menin oceniła odpowiedzi jako w najlepszym razie niepokojące. Na koniec tej części stwierdziła, że żadna z czterech firm nie potrafi oszacować ryzyka katastrofalnego zdarzenia.

Alice Friend z Google odpowiadała, że istniejące ramy prawne obejmują AI, a czyn nielegalny bez AI pozostaje nielegalny także z jej użyciem. Zaapelowała przy tym o kompleksowe przepisy federalne, powołując się na względy bezpieczeństwa narodowego.

Byli badacze mówili ostrzej. Coxon określił podejście branży jako skrajnie lekkomyślne i ocenił, że na obecnej ścieżce ludzkość prawdopodobnie straci kontrolę nad systemami AI. Kokotajlo wezwał firmy do większej przejrzystości i spowolnienia prac nad najbardziej zaawansowanymi modelami. Turner ostrzegał, że niedostosowana AI może okazać się groźniejszym przeciwnikiem niż Chiny. Są to opinie świadków, a nie ustalenia rady ani firm.

Jakie przepisy przygotowuje rada miasta

Przesłuchanie ma pomóc w pracach nad pakietem projektów, który rada przedstawiła pod koniec września. Według amNY obejmuje on trzy główne rozwiązania:

• Sygnaliści z firm AI mogliby otrzymywać część kar lub odszkodowań odzyskanych dzięki ich zgłoszeniom.
• Osoby poszkodowane przez systemy AI mogłyby pozywać firmy.
• Systemy AI oferowane lub wdrażane w mieście musiałyby przejść niezależną walidację i mieć wyłącznik awaryjny obsługiwany przez człowieka.

SpaceXAI nie przyszło. Rada zapowiada sąd

Jedyną wezwaną firmą, która się nie stawiła, było SpaceXAI, czyli dział AI w spółce Elona Muska. Rada wydała wezwanie po tym, jak firma nie odpowiedziała na zaproszenie. Menin oceniła nieobecność jako bezpośrednie naruszenie wezwania i zapowiedziała, że rada będzie dochodzić sprawy w sądzie. Do chwili publikacji SpaceXAI nie skomentowało decyzji.

Menin otworzyła posiedzenie krytyką federalnego podejścia do AI. Prezydent Donald Trump podpisał w ubiegłym tygodniu z firmami technologicznymi dobrowolne porozumienie, a przewodnicząca rady uznała pomysł samoregulacji branży za sprzeczny ze zdrowym rozsądkiem.

Dlaczego to ważne także w Europie

Rada Nowego Jorku nie ma kompetencji do regulowania modeli w skali kraju, ale może ustalać zasady dla systemów wdrażanych w mieście i w urzędach miejskich. Przesłuchanie pod przysięgą pokazuje jednak, że samorządy w USA próbują wypełnić lukę po braku ustawy federalnej.

W Unii Europejskiej część tych pytań rozstrzyga już AI Act. Dostawcy modeli ogólnego przeznaczenia o ryzyku systemowym muszą oceniać i ograniczać to ryzyko oraz zgłaszać poważne incydenty Urzędowi ds. AI. Art. 87 rozporządzenia obejmuje osoby zgłaszające naruszenia AI Act ochroną dyrektywy o sygnalistach, którą w Polsce wdrożyła ustawa o ochronie sygnalistów stosowana od 25 września 2024 roku.

Pomysł nagród dla sygnalistów z odzyskanych kar nie ma odpowiednika w AI Act. W naszej ocenie warto śledzić, czy nowojorskie projekty zostaną przyjęte, bo mogą stać się wzorem dla innych miast i dla debaty o odpowiedzialności za szkody spowodowane przez AI.

Czego jeszcze nie wiadomo

Rada nie opublikowała jeszcze pełnego zapisu zeznań ani harmonogramu głosowań nad projektami. Nie wiadomo, czy firmy przedstawią pisemne stanowiska wobec konkretnych przepisów i jak sąd oceni odmowę SpaceXAI. Relacje z przesłuchania pochodzą z mediów, głównie z CNBC.