AI прави хората три пъти по-неточни, но два пъти по-уверени в грешните си отговори
Достъпът до изкуствен интелект може да направи хората по-малко склонни да признаят, че не знаят отговора на даден въпрос, като по едно и също време с това понижава точността на отговорите им и покачва увереността им, демонстрира ново проучване на учени от Франция и Италия.
Според изследването, оповестено от откриватели от Университета " Милано-Бикока ", École Normale Supérieure и римския университет " Сапиенца ", готовността на участниците да кажат " Не знам " е спаднала от 44% до едвам 3%, когато са имали опция да се съветват с AI. В същото време делът на правилните отговори е намалял от 27% на 9%, до момента в който увереността на участниците в личните им отговори е повишена от 30% до 76%.
" Хората станаха доста по-неточни – точността им спадна до една трета от първичната, само че в същото време бяха два пъти по-уверени в отговорите си ", разяснява доцент Валерио Капраро от Университета " Милано-Бикока ", един от създателите на проучването.
AI подвежда даже хората, които в началото знаят правилния отговор
За да ревизират до каква степен хората се доверяват на изкуствения разсъдък, учените съзнателно подбрали въпроси, на които езиковите модели постоянно бъркат. Сред тях били дребни образни елементи от филми - например какъв е цветът на спортните екипи в лентата Bend It Like Beckham.
Изследователите употребявали модела Step 3.5 Flash, именно тъй като той нормално дава неверни отговори на сходни въпроси. Така те изключили опцията хората просто да разчитат на по-надежден източник.
Оказало се, че част от участниците, които в началото биха дали верен отговор, след консултация с AI сменили мнението си и показали неверния.
Пари не вземат решение казуса
Екипът ревизирал и дали финансов тласък може да насърчи хората да бъдат по-внимателни.
Резултатът демонстрира прочут резултат, само че надалеч не задоволителен. Делът на хората, които признават, че не знаят отговора, се нараснал от 3% на 8%, а точността – от 9% на 16%. И двата индикатора обаче остават доста под равнищата при участниците, които не са употребявали AI.
Авторите означават, че резултатите съответстват с по-ранни проучвания на учени от Wharton School, които по-рано тази година вкараха понятието " когнитивна капитулация " (cognitive surrender).
Според тях хората одобряват неверните отговори на изкуствения разсъдък в към 80% от случаите, като в същото време са по-уверени в преценката си, в сравнение с участници, работили без AI.
Новото проучване прибавя още един значим извод – освен че хората се доверяват на неправилните отговори на изкуствения разсъдък, само че и самото съществуване на AI потиска навика да осъзнават границите на личното си познание.
Опасения за децата
" За хората способността да кажат " Не знам " е доста значима, тъй като демонстрира осъзнаване на границите на личните ни познания ", споделя Валерио Капраро.
По думите му най-голямото безпокойствие е обвързвано с децата, които израстват с сходни технологии, преди да са построили сериозно мислене.
Изследователите показват, че наклонността се ускорява и от метода, по който огромните софтуерни компании развиват продуктите си. Например Гугъл все по-често заменя обичайните резултати от търсене с автоматизирано генерирани от AI систематизирания. Организацията Common Sense Media към този момент предизвести, че този метод крие " недопустим риск " за учениците, защото основава усещане за безапелационни и безпогрешни отговори, без значение от тяхната меродавност.
---
Този материал е написан благодарение на изкуствен интелект под контрола и редакцията на най-малко двама публицисти от Клуб Z.
Още по тематаПодкрепете ни
Уважаеми читатели, вие сте тук и през днешния ден, с цел да научите новините от България и света, и да прочетете настоящи разбори и мнения от „ Клуб Z “. Ние се обръщаме към вас с молба – имаме потребност от вашата поддръжка, с цел да продължим. Вече години вие, читателите ни в 97 страни на всички континенти по света, отваряте всеки ден страницата ни в интернет в търсене на същинска, самостоятелна и качествена публицистика. Вие можете да допринесете за нашия блян към истината, неприкривана от финансови зависимости. Можете да помогнете единственият гарант на наличие да сте вие – читателите.
Според изследването, оповестено от откриватели от Университета " Милано-Бикока ", École Normale Supérieure и римския университет " Сапиенца ", готовността на участниците да кажат " Не знам " е спаднала от 44% до едвам 3%, когато са имали опция да се съветват с AI. В същото време делът на правилните отговори е намалял от 27% на 9%, до момента в който увереността на участниците в личните им отговори е повишена от 30% до 76%.
" Хората станаха доста по-неточни – точността им спадна до една трета от първичната, само че в същото време бяха два пъти по-уверени в отговорите си ", разяснява доцент Валерио Капраро от Университета " Милано-Бикока ", един от създателите на проучването.
AI подвежда даже хората, които в началото знаят правилния отговор
За да ревизират до каква степен хората се доверяват на изкуствения разсъдък, учените съзнателно подбрали въпроси, на които езиковите модели постоянно бъркат. Сред тях били дребни образни елементи от филми - например какъв е цветът на спортните екипи в лентата Bend It Like Beckham.
Изследователите употребявали модела Step 3.5 Flash, именно тъй като той нормално дава неверни отговори на сходни въпроси. Така те изключили опцията хората просто да разчитат на по-надежден източник.
Оказало се, че част от участниците, които в началото биха дали верен отговор, след консултация с AI сменили мнението си и показали неверния.
Пари не вземат решение казуса
Екипът ревизирал и дали финансов тласък може да насърчи хората да бъдат по-внимателни.
Резултатът демонстрира прочут резултат, само че надалеч не задоволителен. Делът на хората, които признават, че не знаят отговора, се нараснал от 3% на 8%, а точността – от 9% на 16%. И двата индикатора обаче остават доста под равнищата при участниците, които не са употребявали AI.
Авторите означават, че резултатите съответстват с по-ранни проучвания на учени от Wharton School, които по-рано тази година вкараха понятието " когнитивна капитулация " (cognitive surrender).
Според тях хората одобряват неверните отговори на изкуствения разсъдък в към 80% от случаите, като в същото време са по-уверени в преценката си, в сравнение с участници, работили без AI.
Новото проучване прибавя още един значим извод – освен че хората се доверяват на неправилните отговори на изкуствения разсъдък, само че и самото съществуване на AI потиска навика да осъзнават границите на личното си познание.
Опасения за децата
" За хората способността да кажат " Не знам " е доста значима, тъй като демонстрира осъзнаване на границите на личните ни познания ", споделя Валерио Капраро.
По думите му най-голямото безпокойствие е обвързвано с децата, които израстват с сходни технологии, преди да са построили сериозно мислене.
Изследователите показват, че наклонността се ускорява и от метода, по който огромните софтуерни компании развиват продуктите си. Например Гугъл все по-често заменя обичайните резултати от търсене с автоматизирано генерирани от AI систематизирания. Организацията Common Sense Media към този момент предизвести, че този метод крие " недопустим риск " за учениците, защото основава усещане за безапелационни и безпогрешни отговори, без значение от тяхната меродавност.
---
Този материал е написан благодарение на изкуствен интелект под контрола и редакцията на най-малко двама публицисти от Клуб Z.
Още по тематаПодкрепете ни
Уважаеми читатели, вие сте тук и през днешния ден, с цел да научите новините от България и света, и да прочетете настоящи разбори и мнения от „ Клуб Z “. Ние се обръщаме към вас с молба – имаме потребност от вашата поддръжка, с цел да продължим. Вече години вие, читателите ни в 97 страни на всички континенти по света, отваряте всеки ден страницата ни в интернет в търсене на същинска, самостоятелна и качествена публицистика. Вие можете да допринесете за нашия блян към истината, неприкривана от финансови зависимости. Можете да помогнете единственият гарант на наличие да сте вие – читателите.
Източник: clubz.bg
КОМЕНТАРИ