OpenAI заяви, че няма да използва водни знаци в текстовете на ChatGPT
OpenAI разгласи, че няма да употребява водни знаци върху текстовете на ChatGPT.
Тъй като някои консуматори на ChatGPT обявиха, че ще употребяват ChatGPT по-малко, в случай че водните знаци са задействани върху текстовете на ChatGPT, компанията отговори.
Водните знаци в ChatGPT
OpenAI има система за воден знак на текста, генериран от ChatGPT, и инструмент за откриването им от към година, съгласно The Wall Street Journal. Но компанията е разграничена вътрешно дали да ги пусне.
От една страна, това наподобява като отговорно решение; въпреки това, това може да повлияе отрицателно върху облагите на компанията.
Водните знаци на OpenAI се разказват като конфигурация на метода, по който моделът планува най-вероятните думи и изречения, които ще последват предходните, като по този метод основават откриваем модел.
Запитване: Кой има потребност от водни знаци в ChatGPT
Осигуряването на какъвто и да е метод за разкриване на написания с AI материал е евентуална изгода за учителите, които се пробват да обезсърчат учениците да употребяват AI за писмени задания.
The Wall Street Journal оповестява, че компанията е открила, че водните знаци не са повлияли върху качеството на изходния текст от чатбота. В изследване, поръчано от компанията, „ хората по света поддържаха концепцията за инструмент за разкриване на изкуствен интелект с разлика четири към едно “ — написа вестникът.
След публикуването на публикацията от изданието, OpenAI удостовери, че работи върху текстов воден знак в своя блог обява през днешния ден, която беше видяна от TechCrunch.
В нея компанията споделя, че методът ѝ е доста прецизен („ 99,9% ефикасен “, съгласно документите, забелязани от изданието) и резистентен на „ деформиране, като перифразиране “. Но тя отбелязва, че техники като преразказване с различен модел го вършат „ банално за заобикаляне от страна на нападателите “.
Компанията също по този начин отбелязва, че е загрижена за стигматизирането на полезността на AI инструментите за хората, които не приказват езика.
Вълнението на OpenAI
Въпреки това OpenAI също наподобява угрижен, че потреблението на водни знаци може да отблъсне интервюираните консуматори на ChatGPT, близо 30% от които явно са споделили на компанията, че биха употребявали софтуера по-малко, в случай че водните знаци бъдат внедрени.
Въпреки това някои от респондентите към момента имат вяра, че водните знаци са ефикасни.
В днешната блог обява, компанията споделя, че е „ в ранните стадии “ на проучването по отношение на вграждането на метаданни. Тя отбелязва, че е „ прекомерно рано “ да се каже какъв брой добре ще работи.
В подтекста на тази публикация бихме желали да ви напомним какви са опасенията на някогашен чиновник на OpenAI по отношение на развиването и внедряването на изкуствения разсъдък. Той има вяра, че развиването на изкуствения разсъдък става доста бързо и хората не са готови за това. Според него, общият изкуствен интелект (AGI) до 2026 година безпроблемно по просветеност ще превъзхожда всеки един човек.
