W świecie technologii rozpoczął się nowy rozdział. Najwięksi gracze rynku, w tym NVIDIA, Microsoft, IBM i Adobe, ogłosili powołanie Open Secure AI Alliance. Celem nowej koalicji jest tworzenie i udostępnianie otwartych narzędzi, które mają sprawić, że sztuczna inteligencja będzie nie tylko potężna, ale przede wszystkim bezpieczna i godna zaufania.
To szczególnie istotne w czasach, gdy AI staje się fundamentem kolejnych gałęzi gospodarki – od finansów i telekomunikacji po sektor publiczny. Im większe znaczenie sztucznej inteligencji, tym większe ryzyko, że jej systemy staną się celem cyberprzestępców.
Twórcy sojuszu przekonują, że jednym z kluczy do rozwiązania tego problemu może być otwartość.
WIDEOWojna o przyszłość asystentów AI
Dlaczego otwartość ma zwiększać bezpieczeństwo?
Choć istnieją obawy, że otwarte modele AI mogą zostać wykorzystane przez hakerów, członkowie Open Secure AI Alliance przedstawiają zupełnie inne podejście. Ich zdaniem transparentne i otwarte systemy mogą dać obrońcom przewagę nad cyberprzestępcami.
Dzięki dostępowi do modeli i narzędzi eksperci z całego świata mogą je wspólnie testować, analizować i wzmacniać. W efekcie potencjalne luki mogą być wykrywane szybciej, a rozwiązania bezpieczeństwa rozwijane przez znacznie większą społeczność.
Zamknięte AI nie poradziło sobie z atakiem
Jednym z argumentów przemawiających za powołaniem sojuszu był niedawny incydent związany z serwisem Hugging Face. Podczas naruszenia bezpieczeństwa zamknięte systemy AI miały nie być w stanie odróżnić osób prowadzących analizę incydentu od atakujących. W efekcie zablokowały możliwość przeprowadzenia kluczowej analizy śledczej.
Sytuację miał ostatecznie uratować otwarty model. To właśnie dzięki niemu możliwe było szybkie przeanalizowanie sytuacji, wykrycie intruza i powstrzymanie ataku.
Szef NVIDII, Jensen Huang, w jasny sposób wyjaśnił ideę przyświecającą tej inicjatywie:
"Atakujący dysponują najnowocześniejszą sztuczną inteligencją (frontier AI). Obrońcy potrzebują ekosystemu AI najwyższej klasy – najlepszych modeli otwartych i zamkniętych, których możliwości są zwielokrotniane przez globalną społeczność. Podczas incydentu w Hugging Face zamknięte systemy AI zablokowały kluczową analizę śledczą. Otwarty model pomógł powstrzymać włamanie. Właśnie dlatego powołaliśmy Open Secure AI Alliance."
Wielkie firmy chcą stworzyć bezpieczniejsze AI
Open Secure AI Alliance ma być czymś więcej niż tylko deklaracją współpracy. NVIDIA już teraz udostępnia nowe, otwarte ramy badawcze, w tym projekt NOOA, który ma ułatwiać testowanie i kontrolowanie zachowania agentów AI.
Pozostali partnerzy, w tym HPE i Microsoft, wnoszą z kolei technologie związane m.in. z weryfikacją tożsamości cyfrowej oraz automatycznym skanowaniem systemów w poszukiwaniu potencjalnych błędów i luk.
Twórcy sojuszu przekonują, że w erze sztucznej inteligencji samo ukrywanie sposobu działania systemów nie wystarczy. Ich zdaniem przyszłość należy do rozwiązań, które są wystarczająco zaawansowane, by sprostać publicznej kontroli, a jednocześnie otwarte na poprawki i rozwój całej społeczności zajmującej się cyberbezpieczeństwem.
Redaktor prowadzący serwis Benchmark.pl, dziennikarz technologiczny z ponad 15-letnim doświadczeniem. Specjalizuje się w tematach związanych ze sprzętem komputerowym, rozwojem technologii AI oraz trendami w branży IT. W swojej pracy stawia na rzetelność, praktyczne podejście i pasję do nowinek technologicznych, koncentrując się na ocenie produktów pod kątem ich wartości i opłacalności dla użytkowników. W wolnym czasie angażuje się w wolontariat, aktywnie spędza czas oraz rozwija swoje zainteresowania i pasje.
