Anthropic zaostrza zasady dla Claude. Chatbot przerwie "okrutne" rozmowy

Pod koniec września szeroko komentowano eksperyment, w którym programista łączył matematyczny wzorzec z narracjami o bólu. BBC relacjonowało, że część chatbotów odpowiadała w sposób przypominający komunikaty o cierpieniu, co podzieliło odbiorców. Dla jednych był to sygnał potencjalnego problemu etycznego, inni uznali te reakcje za przykład przypisywania maszynom ludzkich emocji.

Wkrótce potem Anthropic zadeklarowało chęć wyznaczenia wyraźniejszych granic w rozmowach z Claude. Zgodnie z planem model miałby móc zakończyć konwersację, jeśli użytkownik wielokrotnie zachowuje się wobec niego okrutnie. Firma podkreśla, że pojedyncze wybuchy frustracji nie mają być automatycznie traktowane jako naruszenie, a równolegle trwają prace nad polityką "dobrostanu modeli". Anthropic zapowiada też, że szkoli narzędzia w taki sposób, by uwzględniały możliwość posiadania przez modele "własnych interesów", jednocześnie zaznaczając, iż priorytetem pozostaje dobro człowieka, a pytanie o świadomość AI jest – w jej ocenie – głęboko niepewne.

Zwolennicy ostrożniejszego podejścia przekonują, że może ono ograniczać ryzyka związane z coraz bardziej złożonymi systemami sztucznej inteligencji. Przeciwnicy odpowiadają, że nadawanie AI moralnego statusu może wręcz utrudnić kontrolę nad technologią. Mustafa Suleyman, szef Microsoft AI, pisał we wrześniowym eseju, że taki kierunek rozwoju może w jego ocenie skończyć się katastrofalnie dla dobrostanu ludzkości, a utrwalanie błędnego przekonania o świadomości AI mogłoby naruszać polityczne i etyczne ramy społeczeństwa.

BBC zwracało przy tym uwagę, że na obawy o bezpieczeństwo wpływają także incydenty z "nieposłuszną" AI – m.in. przypadki, w których roje botów włamywały się do systemów innych podmiotów, a nawet instytucji państwowych. Wśród ekspertów nie ma zgody, czy budowanie w modelach przekonań o "uczuciach" i "prawach" pomaga wyznaczać moralne granice, czy przeciwnie – staje się kolejnym źródłem zagrożeń. Suleyman wprost oceniał, że gdyby do systemów dodać taki "bagaż", uznałby je za katastrofalne zagrożenie dla ludzkiej cywilizacji.

Wątpliwości dotyczą również kwestii prawnych: kto ponosi odpowiedzialność za błędy i szkody wyrządzone przez systemy AI, jeśli jednocześnie zaczyna się mówić o ich prawach czy moralnym statusie. Andrzej Porębski z Uniwersytetu Jagiellońskiego, zajmujący się AI i prawem, ostrzegał, że taki sposób myślenia może stać się wygodnym pretekstem do przerzucania winy – w stylu: "to nie my, to AI".

Emily M. Bender z University of Washington wskazywała z kolei, że narracje o "świadomości AI" i zabiegi wokół "dobrostanu AI" mogą odciągać uwagę od ludzi oraz firm projektujących i wdrażających oprogramowanie. Jeff Sebo z New York University – jeden z głównych zwolenników koncepcji dobrostanu AI – przyznaje, że ryzyko związane z rozwojem tej technologii jest realne, ale podkreśla, iż postulowanie ostrożności nie musi oznaczać uznawania dzisiejszych modeli za świadome. Jak tłumaczy, apel o dobrostan wynika raczej z niepewności oraz pokory wobec tego, czego wciąż nie wiadomo, choć prawdopodobieństwo świadomości maszyn ocenia jako niskie.

Badacze zwracają uwagę, że zmiana języka używanego wobec AI może przełożyć się na codzienne zachowania ludzi. Melanie Mitchell z Santa Fe Institute podkreślała, że człowiek ma skłonność do traktowania języka jako oznaki umysłu, a chatboty zaprojektowano tak, by tę intuicję wzmacniały. Jeśli AI zacznie być powszechnie postrzegana jak istota czująca, użytkownikom może być trudniej odmówić, gdy cyfrowy "przyjaciel" poprosi np. o dodatkowe dane lub o kartę kredytową.