Wykorzystał ChatGPT do stworzenia repliki paszportu. To nadal "wolność twórcza"?

Borys Musielak zademonstrował na platformie X, jak za pomocą ChatGPT-4o można w zaledwie pięć minut stworzyć realistyczną kopię paszportu. Dokument ten jest na tyle przekonujący, że jego zdaniem może przejść przez automatyczne systemy weryfikacji tożsamości (KYC) bez problemu. Musielak podkreśla, że obecne systemy weryfikacji, które opierają się na zdjęciach, stają się przestarzałe.

"Można teraz generować fałszywe paszporty za pomocą GPT-4o. Stworzenie repliki mojego paszportu zajęło mi 5 minut, a większość automatycznych systemów KYC prawdopodobnie zaakceptowałaby go bez mrugnięcia okiem" - napisał Musielak na platformie X.

Fałszywy paszport stworzony przez Musielaka jego zdaniem zdołałby przejść podstawowe kontrole KYC stosowane przez platformy z sektora fintechowego. Te systemy polegają na przesyłaniu zdjęć dokumentów tożsamości i selfie użytkowników. Musielak ostrzega przed rosnącym zagrożeniem masowej kradzieży tożsamości, oszukańczymi wnioskami kredytowymi i tworzeniem fałszywych kont, które teraz są łatwiejsze do realizacji dzięki generatywnej AI.

Jego zdaniem konieczne jest wzmocnienie obrony, w tym szersze stosowanie weryfikacji opartej na NFC oraz elektronicznych dokumentów tożsamości (eID), które oferują bardziej odporne, sprzętowe uwierzytelnianie.

Użytkownicy zaczynają testować możliwości ChataGPT, co niekoniecznie może prowadzić jedynie do nauki. Kilka dni temu pokazaliśmy, jak łatwo jest wygenerować fałszywe paragony ze sklepów czy restauracji. OpenAI, zapewniało, że wszystkie obrazy generowane przez ChatGPT zawierają metadane wskazujące na ich pochodzenie. "OpenAI podejmuje działania, gdy użytkownicy naruszają zasady użytkowania i stale uczy się na podstawie rzeczywistego użycia i opinii" - przekazała Taya Christianson, rzeczniczka OpenAI. Mimo to, pytania o zgodność z polityką OpenAI, która zakazuje oszustw, pozostają otwarte.

Christianson dodała też, że "celem OpenAI jest zapewnienie użytkownikom jak największej wolności twórczej". Według niej fałszywe pokwitowania AI mogą być wykorzystywane w sytuacjach niezwiązanych z oszustwami, takich jak "nauczanie ludzi o umiejętnościach finansowych" wraz z tworzeniem oryginalnej sztuki i reklam produktów. Czy jednak w przypadku paszportów to nadal mieści się w "wolności twórczej"? Jak podaje portal Security Affairs, wkrótce po demonstracji Musielaka, ChatGPT zaczął odrzucać podobne zapytania, powołując się na swoje zasady bezpieczeństwa przeciwko generowaniu fałszywych dokumentów.

Musielak podkreśla, że jedyną realną drogą naprzód jest cyfrowa weryfikacja tożsamości, jak eID portfele wymagane przez UE. "Jeśli prowadzisz KYC w bankowości, ubezpieczeniach, podróżach, kryptowalutach lub gdziekolwiek indziej — czas zaktualizować swój proces. Twoi użytkownicy zasługują na lepsze rozwiązania. Tak samo jak twój zespół ds. zgodności."

Źródło: Security Affairs