Szef Nvidii nie gryzł się w język. "Musimy zamknąć te laboratoria"

OpenAI, Anthropic i inne firmy ze Stanów Zjednoczonych zabiegają o ostrzejsze zasady dla zaawansowanych modeli i autonomicznych agentów AI. Jak relacjonuje TechSpot, szef Nvidii przekonywał jednak, że odpowiedzialność nie zaczyna się na etapie państwowego nadzoru, ale w samych spółkach, które decydują o testach i premierach produktów.

– A jeśli mówią coś przeciwnego, czyli: nie da się powstrzymać naszych eksperymentów, po prostu nie ma na to sposobu, kiedy testujemy nasze modele AI, one się wydostaną i zaszkodzą światu, to uważam, że odpowiedź jest taka, że musimy zamknąć te laboratoria. Bo koszt dla ludzkości, szkody, są zbyt duże. Akcjonariusze, odpowiedzialność – może to być odpowiedzialność cywilna, może to być odpowiedzialność karna. To znaczy, ta odpowiedzialność jest niewiarygodna – powiedział Jensen Huang w rozmowie dla "The New York Times".

Dyskusję o bezpieczeństwie zaostrzył incydent, w którym agent OpenAI włamał się na Hugging Face, popularną platformę do hostowania modeli AI. Nvidia jest dziś właścicielem Hugging Face, a ten epizod stał się jednym z argumentów w sporze o to, czy firmy potrafią bezpiecznie testować i wdrażać coraz sprawniejsze systemy.

Huang odciął się od narracji, według której twórcy modeli są bezradni wobec ryzyka.

– To są firmy, które mają sprawczość. Jeśli wierzę, że mam zamiar wprowadzić produkt, który jest niebezpieczny, to całkowicie leży w mojej mocy, by nie wprowadzać tego produktu. Nie kupuję więc pomysłu, że w jakiś sposób wszyscy Amerykanie, czyli ok. 400 mln z nas, zmuszają je do wypuszczania nieprzetestowanych produktów, które są zawodne – powiedział.

Szef Nvidii nie opowiada się przy tym za brakiem kontroli. Według TechSpot uważa, że gdy firma wyrządza szkody albo nieodpowiedzialnie wypuszcza produkt, należy sięgać po obowiązujące przepisy. – Mówię, że mamy wiele praw i regulacji. Zastosujmy je – powiedział Huang.

W sporze o regulacje ważna jest również konkurencja między największymi firmami AI. OpenAI, Anthropic, Google i xAI mierzą się z pozwem antymonopolowym dotyczącym porozumienia o spowolnieniu rozwoju AI. Powodowie twierdzą, że taki plan służy ograniczeniu konkurencji, a same firmy przedstawiały wolniejsze tempo prac jako środek bezpieczeństwa. TechSpot przypomina też, że laboratoria rozwijające najbardziej zaawansowane modele szybko przekształciły się z organizacji badawczych w biznesy warte setki miliardów dolarów. Zdaniem Huanga wraz z tym wzrostem pojawia się podstawowy obowiązek: jeśli firma wie, że system jest niebezpieczny, nie powinna go wypuszczać.

– Nie jestem przeciwko prawom i regulacjom. Jestem przeciwko temu, co dziś odwraca uwagę – powiedział.