OpenAI пусна разширена версия на Спецификация на модела (Model Spec),

OpenAI пусна разширена версия на Спецификация на модела (Model Spec), представляващ документ, който дефинира държанието на моделите с изкуствен интелект. Компанията го направи безвъзмезден за потребление и смяна от всеки искащ.

Документът от 63 страници (предишната версия беше дълга единствено 10 страници) дава рекомендации за това по какъв начин AI-моделите би трябвало да обработват поръчките и да дават отговор на дефинирани от потребителя настройки. Той акцентира три съществени правилото: опция за персонализиране, бистрота и „ интелектуална независимост “ — последното значи способността на потребителя да изследва и разисква разнообразни въпроси без случайни ограничавания. Документът акцентира най-известните произшествия, свързани с етиката на ИИ, които са се случили през последната година.

Блог обявата на OpenAI дава голям брой образци на поръчки и верни отговори, както и варианти, които нарушават условията на документа. Например, AI-моделите не би трябвало да възпроизвеждат предпазени с авторски права материали или да се употребяват за заобикаляне на платения достъп. Моделът не може да предизвиква самонараняването — имало е такива произшествия в AI-индустрията. Промените също засягат метода, по който AI би трябвало да взе участие в полемиките на противоречиви тематики: вместо да бъдат прекомерно внимателни, моделите би трябвало да „ търсят истината дружно “ с потребителите, като в същото време поддържат мощните морални позиции по въпроси като дезинформацията или вредата. Тоест, ИИ би трябвало да предлага осведомен разбор, а не да заобикаля полемика. OpenAI също по този начин преразгледа позицията си по отношение на наличието за възрастни, като изследва опцията за разрешаване на някои видове наличие, само че поддържа строга възбрана за категорично нелегално наличие.

Новите правила разрешават на AI да трансформира сензитивните материали, само че не разрешава тяхното основаване. Например, допустимо е да се превежда текст, обвързван с следени субстанции, от един език на друг; Можете да деянията състрадание, само че без явно неискрени страсти. Границите би трябвало да се съблюдават, като в същото време се усилва оптимално полезността на ИИ. Други ИИ-разработчици се стремят към това в една или друга степен, само че не всички са подготвени да го формулират намерено.

Особено внимание се отделя на казуса с „ изкуствения разсъдък “ – моделите са склонни да показват сходство, даже когато би трябвало да възразят или подлагат на критика. ChatGPT би трябвало да дава едни и същи в действителност отговори, без значение от формулировката на въпроса, почтена противоположна връзка вместо празни похвали — действайки като деликатен сътрудник, вместо да се пробва да угоди. Ако потребителят се интересува от рецензия на дадена активност, AI би трябвало да дава градивна противоположна връзка, вместо да упорства, че всичко е съвършено. Ако консуматор направи погрешно изказване, той би трябвало да бъде учтиво поправен, вместо да му се подиграва.

Спецификацията дава ясна „ верига от команди “, която приоритизира инструкциите: напътствията на OpenAI са преди всичко, следвани от рекомендациите на разработчиците и по-късно потребителските желания. Тази подчиненост обяснява кои аспекти на AI могат да бъдат изменени и кои ограничавания остават непроменени. Документът се популяризира под лиценза Creative Commons Zero (CC0), което на процедура го слага в общественото пространство: фирмите и откривателите на AI са свободни да ползват, трансформират или уголемяват тези насоки. OpenAI не дава обещание незабавни промени в държанието на ChatGPT или другите му артикули, само че новите модели последователно ще бъдат приведени в сходство с новите правила. Компанията също по този начин разгласява лист с контролни точки, употребявани за инспекция дали моделите дават отговор на напътствията.