ORISA odzyskuje usunięte czaty AI z pamięci telefonu

Samo usunięcie rozmowy w aplikacji nie musi oznaczać jej trwałego zniknięcia. Jak wynika z opisu badań, podczas pracy lokalnego chatbota dane pozostają w pamięci operacyjnej telefonu. Interfejs aplikacji może więc ukryć konwersację, ale nie wymazać wszystkich śladów pozostawionych w urządzeniu.

ORISA wyszukuje takie pozostałości i łączy je w spójną całość. Badacze pokazali to na fikcyjnym asystencie Project Note Keeper. Do modelu wprowadzili 100 faktów, a potem całkowicie usunęli rozmowę, by sprawdzić, ile informacji da się odzyskać po skasowaniu czatu AI.

W chwili usunięcia konwersacji aktywna sesja mogła korzystać tylko z 14 faktów, bo ograniczało ją okno pamięci modelu. Mimo to ORISA odzyskała 26 faktów. To nadal nie był pełny zapis rozmowy, ale wynik okazał się lepszy niż dostępność danych w oryginalnej, działającej sesji.

Zespół przetestował narzędzie w 60 konfiguracjach obejmujących 10 aplikacji na Androida i trzy modele AI. W tych próbach ORISA skutecznie odzyskiwała dane z usuniętych rozmów. Badanie pokazuje więc, że problem nie dotyczy jednego programu, lecz różnych wariantów lokalnych aplikacji AI.

Autorzy badania wskazują, że takie rozwiązanie może pomóc śledczym ustalić, co użytkownik przekazał asystentowi AI i jakie odpowiedzi otrzymał. Narzędzie może mieć znaczenie także w sprawach, w których porady chatbota mogły zaszkodzić pacjentowi, a rozmowy nie trafiły wcześniej do lekarza.

ORISA nie jest jednak zwykłą aplikacją do odzyskiwania wiadomości. To narzędzie śledcze, które wymaga dostępu do kopii pamięci telefonu i pamięci masowej. Odzyskanie danych staje się trudniejsze, gdy późniejsza aktywność nadpisze wcześniejsze ślady. Badanie zwraca też uwagę na ryzyko dla prywatności użytkowników lokalnych aplikacji AI.