Илон Мъск стартира нов изкуствен интелект, за да се конкурира с ChatGPT
Милиардерът бизнесмен Илон Мъск разгласи проекти тази седмица за основаване на инструмент за диалози, ръководен от AI, наименуван „ TruthGPT “ (ИстинатаGPT), откакто подлага на критика известния AI чатбот ChatGPT, че е „ политически правилен “.
„ Със сигурност има път към AI антиутопия, който е да се образова AI да бъде лъжец “, предизвести Мъск, основен изпълнителен шеф на Tesla и притежател на Twitter, в изявление с водещия на Fox News Тъкър Карлсън в понеделник.
AI чат ботовете крият обилни опасности, свързани с политически пристрастия, защото моделите могат да генерират големи количества тирада, евентуално оформяйки публичното мнение и позволявайки разпространяването на дезинформация, споделят специалисти. Коментарите на Мъск обаче акцентират тежкото предизвикателство, повдигнато от казуса, защото самото модериране на наличието се трансформира в поляризираща тематика и Мъск изрази отзиви, които показват метода му в този парещ политически подтекст, прибавят специалисти.
„ Мъск е прав, че в случай че не можем да разгадаем казуса с истинността и казуса с надеждността, това съставлява риск за сигурността на изкуствения разсъдък “, споделя Гари Маркъс, почетен професор по логика на психиката и неврология в Нюйоркския университет, който специализира в региона на изкуствения разсъдък. „ Но обвързването на този въпрос с политическата уместност в действителност може да е неточност. Трябва да отделите истината от политиката, в случай че желаете да бъдете надеждни по въпроса за истината. Грешка е да се пробвате да свържете двете дружно. “
ChatGPT употребява логаритъм, който избира думи въз основа на уроците, научени от сканирането на милиарди части текст в интернет. Инструментът закупи известност с изявления, които показват, че основава Шекспирова лирика или разпознава неточности в компютърен код. Но технологията също провокира несъгласия с някои притеснителни резултати. Дизайнерите на ChatGPT са програмирали защитни ограничения, които не разрешават приемането на спорни отзиви или изразяването на тирада на омразата.
Модерирането на наличието на AI слага законни провокации за дизайнерите, които би трябвало да дефинират кои известия са задоволително обидни или омразни, с цел да оправдаят интервенция, споделят специалисти.
„ Ако даден артикул се употребява от милиони хора, защитните ограничения са нещо, което дизайнерите би трябвало да вкарат “, споделя Руслан Салахутдинов, професор по компютърни науки в университета Карнеги Мелън. „ Въпросът е: Как да го извършите обективен или безпристрастен? Това е малко преценка на дизайнерите ", прибавя той. „ Можете да си визиите GPT, който е политически привързан. “
Освен това, отговорите от AI инструментите за диалог зависят мощно от текста, с който е подготвен моделът, споделя Катлийн Карли, различен професор по компютърни науки в университета Карнеги Мелън.
„ Съществува мнение, че по-голямата част от информацията, върху която е обучаван, е по-ляво насочена и има избрани политически пристрастия и избрани политически стратегии, вградени в нея “, споделя Карли.
Мъск, който е съосновател на OpenAI, само че напуща организацията през 2018 година, в декемврийски туит упрекна OpenAI, че „ образова AI да бъде " безсънен " (woke) “.
Въпреки че чатботовете с изкуствен интелект заслужават деликатно разглеждане поради политически пристрастия, Мъск е посредствен представител на такава рецензия заради личните си високопоставени политически възгледи, споделят някои специалисти. През последните месеци Мъск зае редица консервативни позиции, в това число изложение на поддръжка за републиканските претенденти на междинните избори предходната година и многократни рецензии към „ събудената “ (woke) политика.
„ Мисля, че това, което той има поради под „ истина “, е „ склонен с мен “, споделя Орен Ециони, основен изпълнителен шеф на Allen Institute for AI и професор по компютърни науки във Вашингтонския университет. Все отново поляризираната политическа среда съставлява предизвикателство за всеки разработчик на чат ботове с изкуствен интелект, който се пробва да смекчи отговорите, кават специалисти.
„ Политиката, каквато съществува през днешния ден, не обрисува толкоз фини линии “, споделя Елиезер Юдковски, теоретик на решенията в Изследователския институт за машинен разсъдък, пред ABC News. „ Трябва да знаете къде да начертаете линията на рационално място, с цел да накарате AI да начертае линията на рационално място. “
„ Със сигурност има път към AI антиутопия, който е да се образова AI да бъде лъжец “, предизвести Мъск, основен изпълнителен шеф на Tesla и притежател на Twitter, в изявление с водещия на Fox News Тъкър Карлсън в понеделник.
AI чат ботовете крият обилни опасности, свързани с политически пристрастия, защото моделите могат да генерират големи количества тирада, евентуално оформяйки публичното мнение и позволявайки разпространяването на дезинформация, споделят специалисти. Коментарите на Мъск обаче акцентират тежкото предизвикателство, повдигнато от казуса, защото самото модериране на наличието се трансформира в поляризираща тематика и Мъск изрази отзиви, които показват метода му в този парещ политически подтекст, прибавят специалисти.
„ Мъск е прав, че в случай че не можем да разгадаем казуса с истинността и казуса с надеждността, това съставлява риск за сигурността на изкуствения разсъдък “, споделя Гари Маркъс, почетен професор по логика на психиката и неврология в Нюйоркския университет, който специализира в региона на изкуствения разсъдък. „ Но обвързването на този въпрос с политическата уместност в действителност може да е неточност. Трябва да отделите истината от политиката, в случай че желаете да бъдете надеждни по въпроса за истината. Грешка е да се пробвате да свържете двете дружно. “
ChatGPT употребява логаритъм, който избира думи въз основа на уроците, научени от сканирането на милиарди части текст в интернет. Инструментът закупи известност с изявления, които показват, че основава Шекспирова лирика или разпознава неточности в компютърен код. Но технологията също провокира несъгласия с някои притеснителни резултати. Дизайнерите на ChatGPT са програмирали защитни ограничения, които не разрешават приемането на спорни отзиви или изразяването на тирада на омразата.
Модерирането на наличието на AI слага законни провокации за дизайнерите, които би трябвало да дефинират кои известия са задоволително обидни или омразни, с цел да оправдаят интервенция, споделят специалисти.
„ Ако даден артикул се употребява от милиони хора, защитните ограничения са нещо, което дизайнерите би трябвало да вкарат “, споделя Руслан Салахутдинов, професор по компютърни науки в университета Карнеги Мелън. „ Въпросът е: Как да го извършите обективен или безпристрастен? Това е малко преценка на дизайнерите ", прибавя той. „ Можете да си визиите GPT, който е политически привързан. “
Освен това, отговорите от AI инструментите за диалог зависят мощно от текста, с който е подготвен моделът, споделя Катлийн Карли, различен професор по компютърни науки в университета Карнеги Мелън.
„ Съществува мнение, че по-голямата част от информацията, върху която е обучаван, е по-ляво насочена и има избрани политически пристрастия и избрани политически стратегии, вградени в нея “, споделя Карли.
Мъск, който е съосновател на OpenAI, само че напуща организацията през 2018 година, в декемврийски туит упрекна OpenAI, че „ образова AI да бъде " безсънен " (woke) “.
Въпреки че чатботовете с изкуствен интелект заслужават деликатно разглеждане поради политически пристрастия, Мъск е посредствен представител на такава рецензия заради личните си високопоставени политически възгледи, споделят някои специалисти. През последните месеци Мъск зае редица консервативни позиции, в това число изложение на поддръжка за републиканските претенденти на междинните избори предходната година и многократни рецензии към „ събудената “ (woke) политика.
„ Мисля, че това, което той има поради под „ истина “, е „ склонен с мен “, споделя Орен Ециони, основен изпълнителен шеф на Allen Institute for AI и професор по компютърни науки във Вашингтонския университет. Все отново поляризираната политическа среда съставлява предизвикателство за всеки разработчик на чат ботове с изкуствен интелект, който се пробва да смекчи отговорите, кават специалисти.
„ Политиката, каквато съществува през днешния ден, не обрисува толкоз фини линии “, споделя Елиезер Юдковски, теоретик на решенията в Изследователския институт за машинен разсъдък, пред ABC News. „ Трябва да знаете къде да начертаете линията на рационално място, с цел да накарате AI да начертае линията на рационално място. “
Източник: darik.bg
КОМЕНТАРИ