Cichy monitoring wokół AI. Anthropic nadzoruje aktywistów

Oferty pracy oraz rozmowy z wysokimi rangą przedstawicielami działu bezpieczeństwa Anthropic wskazują, że firma buduje system obserwacji aktywistów sprzeciwiających się rozwojowi sztucznej inteligencji. Według "The American Prospect" monitoring obejmuje demonstracje organizowane w pobliżu obiektów Anthropic, a także aktywność osób znajdujących się w sąsiedztwie członków kierownictwa przedsiębiorstwa.

Firma wykorzystuje przy tym podejście określane jako "pre-crime", czyli próbę przewidywania incydentów, zanim do nich dojdzie. W niektórych przypadkach może to oznaczać przekazywanie policji informacji o podejrzanych jeszcze przed wystąpieniem przestępstwa.

W ubiegłym roku Keon Ellison i Zach Melvin, którzy w Anthropic zajmują się bezpieczeństwem, rozmawiali w podcaście z Jamesem Neufeldem, dyrektorem generalnym Samdesk. Anthropic korzysta z usług tej firmy przy wykrywaniu zagrożeń.

– W ubiegłym roku jeden z naszych członków kierownictwa podróżował do dużego miasta, gdy otrzymaliśmy od Samdesk informacje o planowanym proteście – powiedział Ellison. Jak wyjaśnił, organizatorzy przyspieszyli demonstrację z powodu problemów z uzyskaniem zgody na jej przeprowadzenie. – Samdesk powiadomiło nas z około godzinnym wyprzedzeniem, że organizatorzy zmienili termin. Ta dodatkowa godzina miała kluczowe znaczenie. Bez niej nasi menedżerowie wyszliby ze spotkań i trafili w sam środek zakłóceń – dodał.

Ellison relacjonował, że gdy jeden z członków kierownictwa był w podróży do dużego miasta, Samdesk dało ostrzeżenie, że protest odbędzie się wcześniej, bo organizatorzy mieli trudności z uzyskaniem zgody. Dzięki tym danym Anthropic miał godzinę, by wyznaczyć przedstawicielowi firmy alternatywną trasę oraz skierować go do hotelowego wejścia dla pracowników. Ellison ocenił, że wczesne wykrycie zagrożenia pozwoliło ograniczyć napięcie i odpowiednio zareagować.

Anthropic zaczęło też regularnie przekazywać amerykańskim departamentom policji informacje o potencjalnych zagrożeniach. W ubiegłym miesiącu "The San Francisco Standard" opisał przypadek mężczyzny zgłoszonego policji w San Francisco. Użytkownik miał powiedzieć Claude'owi, że kupił samopowtarzalny karabin AR-15 i że ma na celowniku dyrektora generalnego Anthropic Dario Amodeiego. Gdy dziennikarze skontaktowali się z mężczyzną, ten stwierdził, że tylko się wygłupiał.

Według "The San Francisco Standard" Anthropic odmówiło jednak przekazania policji treści rozmów. Firma powołała się na wewnętrzne zasady. Zgłosiła więc policji wypowiedź użytkownika zamieszczoną na platformie, a następnie nie udostępniła dowodów wskazujących na rzeczywiste naruszenie prawa.

– Chcemy przejść od reaktywnego gromadzenia informacji do proaktywnego, predykcyjnego i prewencyjnego reagowania na zagrożenia oraz zarządzania nimi – powiedział w podcaście menedżer programu. – Taka dojrzałość operacyjna ma sens przy ochronie celów o wysokiej wartości w każdej branży – dodał.

Plany Anthropic wykraczają poza ochronę zarządu. Z opublikowanego w ubiegłym miesiącu ogłoszenia wynika, że zespół Global Safety, Intelligence, and Security poszukuje specjalisty do spraw wywiadu gospodarczego. Osoba zatrudniona na tym stanowisku ma badać konkretne zagrożenia, osoby i wydarzenia, przygotowywać analizy oraz pomagać pracownikom firmy reagować na szybko zmieniającą się sytuację.Wynagrodzenie na tym stanowisku określono na 180–230 tys. dolarów.

Zakres obowiązków obejmuje między innymi:

• identyfikowanie, ocenianie, śledzenie i badanie globalnych zagrożeń;
• analizowanie niestabilności geopolitycznej, terroryzmu, przestępczości i aktywizmu;
• monitorowanie działań państw wymierzonych w sektor sztucznej inteligencji;
• prowadzenie pogłębionych analiz oraz gromadzenie informacji z otwartych źródeł;
• obserwowanie pojawiających się trendów w dziedzinie bezpieczeństwa.

Rozwój działalności wywiadowczej Anthropic wiąże się z debatą nad uznaniem sztucznej inteligencji i infrastruktury niezbędnej do jej działania, m.in. centrów danych i dostaw energii, za infrastrukturę krytyczną . Sztuczna inteligencja zostałaby więc postawiona niemal na równi z wodą, prądem i internetem. Americans for Responsible Innovation (ARI) apeluje o takie rozwiązanie, argumentując, że awaria lub zniszczenie systemów AI mogłoby poważnie zagrozić bezpieczeństwu państwa, gospodarce i zdrowiu publicznemu.

Włączenie laboratoriów rozwijających zaawansowane modele AI do obszaru bezpieczeństwa narodowego zapewniłoby Anthropic, OpenAI i Google szerszy dostęp do informacji tworzonych przez federalne organy ścigania oraz służby wywiadowcze. Jednocześnie firmy mogłyby zyskać większy wpływ na sposób, w jaki agencje państwowe oceniają zagrożenia dla ich działalności. "The American Prospect" zwraca uwagę, że obywatele sprzeciwiający się centrom danych mogliby z czasem zostać określeni jako ekstremiści, a nawet terroryści.

Dario Amodei, dyrektor generalny Anthropic, przyznał w ubiegłym miesiącu w serwisie Twitter, że opinia publiczna postrzega AI negatywnie. "Zgadzam się, że społeczeństwo ma negatywny pogląd na AI i że jest to poważny problem, ale nie sądzę, by wynikał on przede wszystkim ze mnie lub z innych liderów AI ostrzegających przed zagrożeniami związanymi ze sztuczną inteligencją" – napisał. "Moim zdaniem to zasadniczo kryzys zaufania. Zwykli ludzie nie ufają firmom, rządom ani branży technologicznej i zawsze podejrzewają, że przygotowujemy kolejny sposób, by ich wykorzystać" – dodał.