Една авторка вдига тревога тази седмица, след като откри, че нови книги се продават в Amazon под нейно име - само че тя не ги е написала; те изглежда са генерирани от изкуствен интелект.
Джейн Фридман, която е автор на множество книги и консултант относно работата в писателската и издателската индустрия, каза пред CNN, че читател с орлови очи, търсещ повече от нейната работа, е купил едно от фалшивите заглавия на Amazon. Книгите имаха заглавия, подобни на темите, за които тя обикновено пише, но текстът се четеше така, сякаш някой е използвал генеративен AI модел, за да имитира нейния стил.
„Когато започнах да разглеждам тези книги, да разглеждам началните страници, да разглеждам биографията, за мен беше очевидно, че е било предимно, ако не и изцяло, генерирано от AI... Имам толкова много съдържание, достъпно онлайн безплатно, тъй като водя блог завинаги, така че няма да е трудно да накарам AI да ме имитира“, каза Фридман.
С AI инструменти като ChatGPT, които сега могат бързо и евтино да изпомпват огромни обеми убедителен текст, някои писатели и автори вдигнаха тревога за загуба на работа заради новата технология. Други казаха, че не искат работата им да се използва за обучение на AI модели, които след това могат да бъдат използвани за тяхното имитиране.
skynesher/E+/Getty Images „Генеративният AI се използва, за да замени писателите – вземане на тяхната работа без разрешение, включване на тези произведения в тъканта на тези модели на AI и след това предлагане на тези модели на AI на обществеността, на други компании, които да се използват за заместване на писатели“, Мери Расенбергер, Главен изпълнителен директор на групата за защита на авторите с нестопанска цел Гилдията на авторите, каза пред CNN. „Така че можете да си представите, че писателите са малко разстроени от това.“
Миналия месец американски законодатели се срещнаха с представители на творческите индустрии, включително Гилдията на авторите, за да обсъдят последиците от изкуствения интелект. В изслушване в подкомисия на Сената Расенбергер призова за създаването на законодателство за защита на писателите от AI, включително правила, които ще изискват от компаниите за AI да бъдат прозрачни относно това как обучават своите модели. Повече от 10 000 автори - включително Джеймс Патерсън, Роксан Гей и Маргарет Атууд - също подписаха отворено писмо, призоваващо лидерите в AI индустрията като Microsoft и създателя на ChatGPT OpenAI да получат съгласие от авторите, когато използват работата им за обучение на AI модели, и да ги компенсират справедливо, когато го правят.
Разрастващ се проблем
В понеделник Фридман публикува добре прочетена тема в X, известна преди като Twitter, и публикация в блог за проблема. Няколко автори отговориха, че са имали подобни преживявания.
„Хората продължават да ми казват, че са купили най-новата ми книга – в нея има моето име, но не съм го написал“, каза един автор в отговор.
Amazon премахна фалшивите книги, продавани под името на Фридман, и заяви, че нейните политики забраняват подобно имитиране.
„Имаме ясни насоки за съдържанието, уреждащи кои книги могат да бъдат обявени за продажба и незабавно проучваме всяка книга, когато бъде повдигнато безпокойство“, каза говорителят на Amazon Ашли Ваничек в изявление, добавяйки, че компанията приема отзиви от автори за потенциални проблеми. „Ние инвестираме много, за да осигурим надеждно пазаруване и да защитим клиентите и авторите от злоупотреба с нашата услуга.“
Amazon също каза на Фридман, че „разследва какво се е случило с обработката на вашите искове, за да стимулира подобренията на нашите процеси“, според имейл, прегледан от CNN.
Авторката Джейн Фридман откри, че няколко книги се продават под нейно име в Amazon, но тя не ги е написала - тя подозира, че изкуственият интелект ги е направил. Amazon премахна книгите, след като тя предупреди компанията за проблема. Джейн Фридман Фалшивите книги, използващи името на Фридман, също бяха добавени към нейния профил в литературната социална мрежа Goodreads и премахнати едва след като тя разгласи проблема.
„Имаме ясни насоки за това кои книги са включени в Goodreads и бързо ще проучим, когато възникне притеснение, премахвайки книги, когато е необходимо“, каза говорителят на Goodreads Сузан Скайвара в изявление за CNN.
Фридман каза, че се притеснява, че авторите ще останат да играят на whack-a-mole, за да идентифицират фалшификати, генерирани от AI.
„Това, което е плашещо, е, че това може да се случи на всеки с име, което има репутация, статус, търсене, от което някой вижда начин да спечели“, каза тя.
Гилдията на авторите работи с Amazon от миналата зима, за да се справи с проблема с книгите, написани от AI, каза Расенбергер.
Тя каза, че компанията е била отзивчива, когато Гилдията на авторите маркира фалшиви книги от името на автори, но може да бъде труден проблем за откриване, като се има предвид, че е възможно двама законни автори да имат едно и също име.
Групата също така се надява компаниите за изкуствен интелект да се съгласят да позволят на авторите да се откажат от използването на работата им за обучение на модели на изкуствен интелект – така че е по-трудно да се създават имитатори – и да намерят начини за прозрачно етикетиране на изкуствено генериран текст. И, каза тя, компаниите и издателите трябва да продължат да инвестират в творческа работа, направена от хора, дори ако AI изглежда по-удобен.
„Използването на AI за генериране на съдържание е толкова лесно, толкова е евтино, че се притеснявам, че ще има този вид низходяща конкуренция за използване на AI, за да замени човешките творци“, каза тя. „И никога няма да получите същото качество с AI като човешките създатели.“
