За да стане един чатбот по-интелигентен и съответно по-полезен за

За да стане един чатбот по-интелигентен и надлежно по-полезен за крайния консуматор, той има потребност от непрекъснато асимилиране на нови данни. Този развой е прочут като „ образование “. Големият проблем сега е, че всеобщо фирмите за изкуствен интелект в никакъв случай не желаят категорично единодушие от притежателите на данни, преди да изтеглят наличието на уебстраниците им и да го прибавят към масивите на огромните езикови модели (LLM).

Част от тези притежатели на данни – основатели на наличие и притежатели на интелектуална благосъстоятелност, обаче стартират всеобщо да отвръщат на удара. Те употребяват новаторски софтуерни принадлежности, известни в софтуерната промишленост като „ tarpits “ или цифрови клопки. Тяхната цел е непосредствено да отровят базовия модел на чатбота, да влошат качеството на неговите отговори и в последна сметка да провокират отлив на крайни консуматори.

Отравянето на AI е развой на съзнателно компрометиране на езиковия модел, захранващ даден чатбот, тъй че той да стартира да генерира неточни, подвеждащи или изцяло безумни отговори. Това се реализира посредством заблуждение на логаритъма да всмуква неверни данни по време на образованието си.

Съществуват разнообразни способи за саботиране на моделите според от това какъв вид информация обработват те. Например при генераторите на изображения се употребява техниката „ Nightshading “. Специален програмен продукт прибавя незабележим за човешкото око пласт от пиксели върху цифровото изкуство, който обаче е забележим за ботовете на софтуерните компании. Тези пиксели карат изкуствения разсъдък да вижда картината в изцяло друг жанр от действителния, което не разрешава на модела да копира същинския почерк на създателя.

Тъй като по-голямата част от актуалните чатботове работят с текст, а не с изображения, принадлежности като Nightshade са безполезни против нерегламентираното евакуиране на публикации и блогове. Именно тук на помощ идват цифровите клопки.

Въпросните цифрови клопки софтуерно подвеждат автоматизираните търсачки на софтуерните компании да гълтам безполезна информация. Тъй като моделът по-късно употребява тези фиктивни данни за генериране на текстове, неговите отговори се утежняват, което може да откаже потребителите от софтуера.

Съществуват разнообразни софтуерни капани, които притежателите на уеб сайтове могат да вградят в кода си, като софтуерните архитектури Nepenthes, Iocaine и Quixotic. Когато ботът на някоя AI компания посети уеб страница с подобен код, той бива автоматизирано пренасочен към страници с генериран неправилен текст, цялостен с погрешна информация. Тези страници от своя страна съдържат линкове към последващи сходни страници с токсичен текст, без да оферират първоначален линк. По този метод цифровите клопки вкарват ботовете в безконечен лабиринт и безконечен цикъл на евакуиране на погрешни данни, от който те не могат да излязат.

Докато огромните марки употребяват тежка артилерия, елементарните консуматори също би трябвало да бъдат внимателни, тъй като всеки техен промпт се трансформира в част от масива за образование на модела. За персонална отбрана не са нужни профилирани софтуерни клопки, а просто по-добра цифрова хигиена.

Единият вид е експлицитното активиране на опцията в настройките на чатботовете, която не разрешава данните от диалозите да се употребяват за бъдещо образование. Други ефикасни способи са потреблението на прокси сървъри или VPN за скриване на цифровата еднаквост, както и предварителното изтриване на всякаква сензитивна персонална или фирмена информация в документите, преди те въобще да бъдат качени в платформите за разбор.