Платформата ZeroGPT за откриване на генериран от ИИ текст реши, че Библията и Конституцията на САЩ са написани от невронна мрежа
Един от най-забавните образци за детекторите на текст с изкуствен интелект е направеното неотдавна изобретение. Оказа се, че истинският текст на Конституцията на Съединени американски щати, зареден в детектора ZeroGPT без промени е разпознат като генериран от невронна мрежа, освен това с 96,21% акуратност. И в случай че Джеймс Мадисън, един от основните създатели на истинската американска конституция, не е бил странник във времето, то тогава очевидно има съществени неточности в работата на тези детектори.
Едуард Тиан, основателят на инструмента GPTZero, се опита да изясни феномена с Конституцията. Според разработчика текстът на Конституцията на Съединени американски щати е бил толкоз постоянно въвеждан в данните за образование на огромните езикови модели, че с течение на времето те почнали да се стремят да генерират текст, сходен на Конституцията. Между другото, обстановката с Библията е сходна – ZeroGPT я разпознава като генерирана от изкуствен интелект с акуратност 88,2%.
Като цяло генеративните детектори на текст се базират на два съществени индикатора: „ комплициране “ (perplexity) и „ вариативност “ (variability).
Перплексията е мярка за това, до каква степен дадена част от текста се разграничава от това, което моделът на изкуствения разсъдък е научил по време на образованието си. Хората пишат доста по-хаотично, в сравнение с моделите на ИИ, тъй че перплексията на невронната мрежа от човешки текст ще бъде по-висока.
Вариативността от своя страна мери разликите в дължината и структурата на изреченията в текста. Текстът, генериран от човек, нормално е по-хаотичен и динамичен заради другата дължина на изреченията и хетерогенната конструкция, в сравнение с текста, генериран от невронна мрежа.
Но и двата индикатора не са задоволително надеждни за разкриване на текста, генериран от изкуствен интелект. В края на краищата човек може да написа в мощно структуриран жанр, в случай че желае, което ще докара до невисок показател на периплексия и надлежно до висока степен на разкриване на ролята на изкуствения разсъдък при писането на текста.
В последна сметка не съществува магическа формула, която може да разграничи текста, написан от човек, от текста, написан от машина, със 100-процентова акуратност. Детекторите за писане благодарение на изкуствен интелект могат да създадат обосновано съмнение, само че допустимата неточност е прекомерно огромна, с цел да се разчита на тях за прецизен резултат.
Експертите оферират да се употребяват по-всеобхватни способи за разкриване, които регистрират, наред с други неща, семантичното и контекстуалното значение на написаното, както и задачата и аудиторията на текста. Методите от сходен жанр могат да бъдат по-точни и устойчиви на фалшификации.
Изкуственият разсъдък може да бъде потребен инструмент за основаване на текстове по разнообразни тематики, само че може да се употребява и за операция и дезинформация. Ето за какво е от решаващо значение да се разработят способи за разкриване на изкуствения разсъдък, които евентуално могат да ни предпазят от искрено подправена информация и да ни оказват помощ да разграничим истината от измислицата.
