След касовите бележки: ChatGPT е особено добър и в създаването на фалшиви паспорти
След като през вчерашния ден стана ясно, че вграденият в ChatGPT генератор на изображения е плашещо добър в основаването на подправени касови бележки, през днешния ден консуматор на LinkedIn показва по какъв начин подправен паспорт, основан благодарение на ChatGPT сполучливо минава инспекция на цифровата идентичност. Експериментът провокира вълна от полемики измежду експертите в региона на осведомителните технологии и сложи под въпрос смисъла на обичайните KYC (Know Your Customer) процедури за инспекция на самоличността.
Технологичният бизнесмен и вложител в рисков капитал Борис Муселяк генерира подправен паспорт единствено за няколко минути и разгласява резултата в профилите си в LinkedIn и X. Генерираният документ беше толкоз достоверен, че провокира разгорещена полемика за това до каква степен актуалните системи за инспекция на самоличността са готови за офанзиви с генеративен изкуствен интелект.
You can now generate fake passports with GPT-4o.
— Borys Musielak @ Warsaw (@michuk) April 1, 2025
It took me 5 minutes to create a replica of my own passport that most automated KYC systems would likely accept without blinking.
The implications are obvious –any verification flow relying on images as “proof ” is now officially… pic.twitter.com/SNnH8zYMGq
Обикновено фалшификатите на документи благодарение на изкуствен интелект са лесни за разкриване заради неточности във форматирането, неприятна типография или нередности в структурата на текста. В случая на Муселяк обаче фалшификатът изглеждал съвсем еднакъв с същински паспорт. Потребителите означиха, че подправянето на документи в този момент е доста по-лесно и бързо, в сравнение с посредством обичайни принадлежности като Adobe Photoshop.
Макар че основаният паспорт евентуално няма да премине инспекция заради неналичието на вграден чип, той беше задоволителен, с цел да се заобиколят обикновените KYC процедури, употребявани от някои финтех компании.
Например, услуги като Revolut или Binance се лимитират до искане на паспортна фотография и селфи на потребителя. При такива условия потреблението на дийпфейкове може да се трансформира в ефикасен инструмент за измамниците.
Муселяк акцентира, че рисковете от всеобща кражба на идентичност за приемане на заеми или вписване на подправени банкови сметки са се нараснали доста. Използването на генеративен изкуствен интелект разрешава на измамниците да мащабират офанзивите си, получавайки достъп до банкови, криптовалутни и други финансови системи.
В отговор на този проблем специалистите оферират по-активно използване на способи за инспекция, учредени на технологията NFC, както и на електронни документи за идентичност (eID). Такива способи включват инспекция на данните на хардуерно равнище, което ги прави по-малко уязвими на генеративни офанзиви. Интересно е, че 16 часа след обявата на Муселяк опитът за повтаряне на опита към този момент е несполучлив. ChatGPT отхвърли да генерира подправен паспорт, като се базира на разпоредбите за сигурност и възбраната за основаване на подправени документи.
Ситуацията демонстрира, че реакциите на евентуалните злоупотреби с генеративния ИИ се ползват, въпреки и със забавяне. Въпреки това тази историята за следващ път сподели какъв брой бързо технологията може да се трансформира в опасност, в случай че не е съпроводена от строги механизми за надзор.
