Wiele osób uważa, że modele o otwartych wagach są dobrem publicznym – są dostępne dla szerokiego grona użytkowników i pozwalają programistom na całym świecie tworzyć nowe rozwiązania. Niedawno giganci technologiczni powołali sojusz Open Secure AI Alliance. Dario Amodei przyznaje, że takie narzędzia mają ogromną wartość zarówno dla biznesu, jak i nauki.
Jego zdaniem wprowadzanie zakazów wyłącznie po to, by chronić amerykańskie firmy przed konkurencją nigdy nie było celem Anthropic. Problem jest jednak znacznie poważniejszy i wykracza poza zwykłą rywalizację rynkową.
WIDEOCzy ten obiekt to pierwszy odkryty egzoksiężyc? Jest pewien problem
Scenariusze rodem z horroru: broń biologiczna i dyktatury
Szef Anthropic w swoim oświadczeniu ostrzega przed dwoma "koszmarnymi scenariuszami". Po pierwsze, obawia się, że autorytarne rządy (w tym Chiny) mogą zbudować modele potężniejsze niż te w USA i wykorzystać je do uzyskania trwałej przewagi militarnej lub inwigilacji własnych obywateli. Co ciekawe, Amodei uważa, że nie ma znaczenia, czy takie modele będą "otwarte" – najgroźniejsze mogą być te budowane w ścisłej tajemnicy dla armii.
Drugim zagrożeniem jest ryzyko, że potężne AI wpadnie w ręce przestępców. Modele "otwarte" są trudniejsze do kontrolowania – raz wypuszczonego kodu nie da się cofnąć, a zabezpieczenia można z nich usunąć . Amodei szczególnie obawia się asymetrii w biologii: AI może pomóc komuś stworzyć niebezpiecznego wirusa w kilka dni, podczas gdy opracowanie obrony przed nim zajmuje lata.
Zamiast zakazów – inteligentna kontrola
Skoro banowanie otwartych modeli nie jest rozwiązaniem, to co należy zrobić? Anthropic proponuje trzy konkretne działania.
Blokada czipów: USA powinny rygorystycznie kontrolować eksport najnowocześniejszych procesorów AI, aby ograniczyć możliwość budowania przez Chiny jeszcze potężniejszych modeli.
Walka z "destylacją": Chiny mogą wykorzystywać możliwości zaawansowanych modeli rozwijanych w USA do trenowania własnych, tańszych systemów. Proces ten, określany jako destylacja, pozwala tworzyć konkurencyjne modele bez ponoszenia takich samych kosztów i może częściowo niwelować skuteczność amerykańskich sankcji.
Obowiązkowe testy bezpieczeństwa: Każdy zaawansowany model – niezależnie od tego, czy jest otwarty, czy zamknięty – powinien przed publikacją przejść rygorystyczne testy pod kątem potencjalnych zagrożeń, w tym cyberbezpieczeństwa i zastosowań biologicznych.
Podsumowując, Anthropic nie chce zamykać internetu przed nowymi technologiami z Chin ani rozwiązaniami tworzonymi przez niezależnych programistów. Firma chce jednak, aby rozwój najbardziej zaawansowanych systemów AI odbywał się pod odpowiednim nadzorem. Stawka jest bowiem zbyt wysoka, by bezpieczeństwo globalne opierać wyłącznie na optymistycznych założeniach.
Redaktor prowadzący serwis Benchmark.pl, dziennikarz technologiczny z ponad 15-letnim doświadczeniem. Specjalizuje się w tematach związanych ze sprzętem komputerowym, rozwojem technologii AI oraz trendami w branży IT. W swojej pracy stawia na rzetelność, praktyczne podejście i pasję do nowinek technologicznych, koncentrując się na ocenie produktów pod kątem ich wartości i opłacalności dla użytkowników. W wolnym czasie angażuje się w wolontariat, aktywnie spędza czas oraz rozwija swoje zainteresowania i pasje.
