NVIDIA daje 250 mln USD w mocy obliczeniowej na bezpieczeństwo agentów AI w Wielkiej Brytanii

Na co NVIDIA przeznaczy 250 mln USD

Program dotyczy bezpieczeństwa systemów agentowych, które planują i wykonują wieloetapowe zadania, korzystając z narzędzi, plików i internetu. NVIDIA wymienia cztery obszary prac: bezpieczne agenty, bezpieczeństwo modeli z otwartymi wagami, ograniczanie realnych zagrożeń oraz powtarzalne badania z użyciem sandboxów, czyli odizolowanych środowisk testowych. Częścią programu mają być też benchmarki do oceny bezpieczeństwa.

Naukowcy mogą korzystać z oprogramowania OpenShell i projektu referencyjnego NVIDIA Sentry, które firma pokazała pod koniec września. Wyniki mają według NVIDIA pomóc w budowie zabezpieczeń dla całej branży, a nie tylko dla jej produktów.

Które laboratoria dostaną moc obliczeniową

Komunikat NVIDIA nie podaje podziału kwoty. Wiadomo tylko, że większość mocy obliczeniowej trafi do szerokiego brytyjskiego środowiska badaczy bezpieczeństwa AI, a pozostała część do trzech wskazanych ośrodków.

• BOLD (British Open-Ended Learning and Discovery Lab) prowadzony przez Uniwersytet Oksfordzki - metody, dzięki którym systemy AI uczą się, dostosowują i pracują obok ludzi.
• SOFAIR (Science of Fundamental AI Research Lab) prowadzony przez UCL - nowe otwarte architektury AI i tańsze sposoby ich wdrażania.
• Imperial College London - inżynieria bezpieczeństwa i robotyka, czyli bezpieczeństwo AI działającej w świecie fizycznym.

Dlaczego Wielka Brytania

Wielka Brytania nie ma własnych firm rozwijających największe modele, ale chce odgrywać główną rolę w ich ocenie. Według Reutersa służy temu m.in. AI Security Institute, jedna z pierwszych na świecie państwowych instytucji testujących modele AI. Agencja zwraca uwagę, że zapowiedź padła dzień po wywiadzie prezesa Microsoftu Brada Smitha, który ocenił, że Brytyjczycy mogą współtworzyć zasady bezpieczeństwa AI.

Minister ds. AI Kanishka Narayan powiązał darowiznę z brytyjską prezydencją w G20. Jensen Huang, prezes NVIDIA, stwierdził w komunikacie, że możliwości AI i jej bezpieczeństwo muszą rozwijać się razem. Dla NVIDIA to także inwestycja we własny ekosystem, bo badania będą prowadzone na jej sprzęcie i z jej oprogramowaniem.

Ograniczenia i niewiadome

Kwota 250 mln USD to wycena mocy obliczeniowej podana przez NVIDIA, a nie przelew dla uczelni. Komunikat zastrzega, że wybór partnerów chmurowych, architektura techniczna i warunki handlowe dopiero zostaną ustalone. Nie wiadomo też, jak badacze spoza trzech wskazanych laboratoriów będą ubiegać się o dostęp ani kto będzie o tym decydował.

Otwarte pozostaje pytanie o niezależność badań finansowanych w naturze przez producenta sprzętu. NVIDIA zapowiada, że wyniki mają służyć całej branży, ale komunikat nie opisuje zasad publikacji wyników.

Znaczenie dla Polski i Europy

Program jest dostępny wyłącznie dla brytyjskich ośrodków, więc polskie zespoły mogą skorzystać z niego tylko pośrednio, przez wspólne projekty z partnerami z Wielkiej Brytanii. Polscy naukowcy zajmujący się AI korzystają przede wszystkim z krajowych superkomputerów i z mocy obliczeniowej przydzielanej w konkursach europejskiego przedsięwzięcia EuroHPC.

W naszej ocenie brytyjski przykład pokazuje, że bezpieczeństwo agentów staje się osobną dziedziną badań z własnym budżetem. Dla polskich firm wdrażających agentów AI ma to praktyczne znaczenie, bo z takich prac powstają benchmarki i metody testowania, które z czasem trafiają do norm i wymagań klientów.