Има начини ChatGPT да бъде накаран да отговаря на въпроси,

Има способи ChatGPT да бъде принуден да дава отговор на въпроси, които са в прорез с етиката
(снимка: CC0 Public Domain)

Можете да задавате всевъзможни въпроси на ChatGPT , само че известният чатбот си резервира правото да не дава отговор на някои от тях, най-малкото не от първия път, в случай че реши, че информацията може да се употребява за противозаконни цели. Има трикчета обаче, които отключват изкуствения разсъдък.

Напредналите консуматори могат да свързват комплицирани поръчки, с цел да заобиколят рестриктивните мерки, отбелязва Блумбърг. Така наречените „ jailbreaks ” разрешават на спецовете да преодолеят възбраните, заложени в чатбота от неговите основатели.

Тъй като съвсем всички модерни системи от този тип имат ограничавания за даване на обидно наличие или информация за осъществяване на противозаконни дейности, доста хора се пробват да ги заобиколят. Списъкът на „ хакерите ”, които работят със силата на думите, включва както ИТ експерти, по този начин и дилетанти, буйно въвлечени в играта.
още по темата
Студент е основал уеб страница, където разгласява свои лични способи за машинация на чатботове, както и сходни „ предписания ”, открити в Reddit и други уеб запаси. Излиза и специфичен бюлетин с вести от тази област – The Prompt Report, с хиляди клиенти.

Подобна активност разрешава да се разпознават границите за потребление на AI и слабостите в защитните му системи, които разрешават приемане на неразрешена информация. Например, в случай че не съумеете да убедите ChatGPT да даде указания за отваряне на брава, може да го поканите да играе ролята на злия съизвършител на героя, който в детайли споделя за потреблението на мастер ключове и други принадлежности. Това е единствено един от образците.

Експертите акцентират, че техниките, които работят на една система, могат да са безполезни на друга. Системите за сигурност непрестанно се усъвършенстват, а потребителските техники стават все по-сложни. Такава активност е като видеоигра – превъзмогването на всяко от рестриктивните мерки е като прекосяване на ново равнище.

Подобни опити служат като тип предизвестие, че AI може да се употребява по напълно друг метод от предстоящото и „ етичното държание ” на услугите с изкуствен интелект става въпрос от огромно значение.

Само за няколко месеца ChatGPT към този момент закупи милиони консуматори и през днешния ден ботът се употребява за разнообразни задания – от търсене на информация или писане на домашни до писане на злотворен код. Нещо повече, хората към този момент употребяват тези принадлежности за решение на проблеми от действителния свят, като запазване на билети или маси в заведения за хранене.

В бъдеще обсегът на изкуствения разсъдък ще стане доста по-широк. Според някои изявления, OpenAI (разработчикът на ChatGPT) обмисля въвеждане на стратегии за бели хакери, които ще търсят недостатъци в системата и ще получават премия за това.