OpenAI подготвя правила за поведение на AI
Изкуственият разсъдък (AI) занапред ще разпростира своя капацитет, а с това и рисковете. Компании и институции по целия свят разискват по какъв начин да се понижат рисковите последствия от AI и да се подсигурява, че технологията ще се употребява за положително и самата тя няма един ден да реши, че хората са проблем.
Създателят на ChatGPT, OpenAI, подхваща нова стъпка в тази посока, оповестява VentureBeat. Компанията показа своята нова рамка Model Spec, която има за цел да предложи и вкара съответни правила и условия за AI логаритмите, които създава и предлага.
Model Spec е отворена за обзор и мнения от всички, като изпълнителният шеф на OpenAI Сам Алтман споделя, че компанията ще се " вслушва, дебатира и приспособява с течение на времето ". Според него рамката ще е от изгода и в обстановките, когато би трябвало да се реши дали става дума за бъг или би трябвало да се създадат по-големи промени.
" Дори и даден модел да е умислен да бъде от изгода за хората и да им оказва помощ, тези планове може да не се осъществят на процедура. Например, компания за сигурност може да желае да генерира фишинг имейли, с цел да тренира и усъвършенства системите си за отбрана, само че същата функционалност ще бъде нездравословна за хората, в случай че се употребява от измамници ", разяснява OpenAI.
Затова Model Spec ще има сложната задача да очертае другите действия и съответните правила за държание на логаритмите. Рамката има три съществени категории - цели, правила и държание.
Тя обгръща другите изгоди и дефекти на AI, както и правила - етични, морални, механически, закони, регулации и така нататък На базата на това дефинира и какво да бъде държанието на логаритмите. То би трябвало да е в интерес на хората, да оказва помощ, без да се натрапва и да се приспособява съгласно другите консуматори и обстановки.
Постигането на всичко това на процедура няма да е елементарно. Но ясното дефиниране по какъв начин да се държат AI моделите е доста значима стъпка за тяхната по-нататъшна разработка и за построяването на доверие към тях от страна на бизнеса, институциите и обществото като цяло.
Не пропускайте най-важните вести - последвайте ни в
Създателят на ChatGPT, OpenAI, подхваща нова стъпка в тази посока, оповестява VentureBeat. Компанията показа своята нова рамка Model Spec, която има за цел да предложи и вкара съответни правила и условия за AI логаритмите, които създава и предлага.
Model Spec е отворена за обзор и мнения от всички, като изпълнителният шеф на OpenAI Сам Алтман споделя, че компанията ще се " вслушва, дебатира и приспособява с течение на времето ". Според него рамката ще е от изгода и в обстановките, когато би трябвало да се реши дали става дума за бъг или би трябвало да се създадат по-големи промени.
" Дори и даден модел да е умислен да бъде от изгода за хората и да им оказва помощ, тези планове може да не се осъществят на процедура. Например, компания за сигурност може да желае да генерира фишинг имейли, с цел да тренира и усъвършенства системите си за отбрана, само че същата функционалност ще бъде нездравословна за хората, в случай че се употребява от измамници ", разяснява OpenAI.
Затова Model Spec ще има сложната задача да очертае другите действия и съответните правила за държание на логаритмите. Рамката има три съществени категории - цели, правила и държание.
Тя обгръща другите изгоди и дефекти на AI, както и правила - етични, морални, механически, закони, регулации и така нататък На базата на това дефинира и какво да бъде държанието на логаритмите. То би трябвало да е в интерес на хората, да оказва помощ, без да се натрапва и да се приспособява съгласно другите консуматори и обстановки.
Постигането на всичко това на процедура няма да е елементарно. Но ясното дефиниране по какъв начин да се държат AI моделите е доста значима стъпка за тяхната по-нататъшна разработка и за построяването на доверие към тях от страна на бизнеса, институциите и обществото като цяло.
Не пропускайте най-важните вести - последвайте ни в
Източник: vesti.bg
КОМЕНТАРИ