Все повече текст в мрежата се генерира от AI, което

Все повече текст в мрежата се генерира от AI, което подтиква появяването на принадлежности за идентифицирането му (снимка: CC0 Public Domain)

Гугъл внедрява технология за маркиране и различаване на текстове, основани от генеративни AI модели. Инструментът, наименуван SynthID Text, няма да повлияе на качеството и скоростта на генериране на наличие и ще бъде наличен изцяло гратис за разработчици и компании.

SynthID Text работи по следния метод. Когато генерира текст, моделът предвижда кой е идващият “токен ” (символ или дума) въз основа на вероятността за появяване на всеки токен и прибавя спомагателна информация към разпределението на тези вероятности посредством модулиране на поправените знаци. В последна сметка те образуват воден знак, който оказва помощ да се дефинира дали текстът е основан от AI.

„ Окончателният модел на вероятностите за думи, определен от модела, смесен с модифицираните оценки на вероятността, ще се смята за воден знак ”, изяснява компанията в блог обява.

Гугъл твърди, че SynthID Text, който беше интегриран в AI модела Gemini напролет, не въздейства на качеството, точността или скоростта на генериране на текст. Въпреки това текстът, който е бил скъсен, перифразиран или изменен, може да бъде обработен малко по-лошо, отбелязва TechCrunch.

Що се отнася до обстоятелствата, „ отговорите на въпроси, които са прекомерно съответни и недвусмислени, дават по-малко благоприятни условия за поправяне на разпределението на токените, без да се компрометира фактическата акуратност ”, разясняват разработчиците.

Гугъл не е единствената компания, която работи върху технологията за воден знак на текст, генериран от AI. Например OpenAI също разработваше способи за използване на водни знаци, само че забави стартирането им заради механически спънки и търговски съображения.

Ако технологията бъде необятно възприета, тя може да преобърне обстановката с неточните, само че все по-популярни „ AI детектори ”, които неправилно разпознават студентски работи или есета като генерирани от невронна мрежа.

Някои страни към този момент подхващат дейности по маркиране на AI наличието. Например, китайското държавно управление вкара наложително етикетиране на наличие, генерирано от AI, а американският щат Калифорния е на път да последва този образец.