Може ли изкуственият интелект да чувства вина?
Някои научнофантастични сюжети изобразяват роботите като безсърдечни, безмилостни създания, подготвени да манипулират хората като марионетки. Но това не е единственият вероятен път за развиването на изкуствения разсъдък. Ново проучване предлага опция: изкуствен интелект, който „ изпитва виновност “ – не от съчувствие, а от логичност, оптимизираща съдействието.
Хората са развили страсти като яд, горест и признателност, с цел да улеснят мисленето, взаимоотношението и построяването на доверие. Учените допускат, че същите механизми могат да бъдат програмирани и в изкуствения разсъдък. Изследване, оповестено в Journal of the Royal Society Interface, демонстрира, че даже при опростени софтуерни сътрудници, нещо като „ виновност “ може да се окаже еволюционно стабилно и даже потребно.
Изследователите употребявали симулации с елементарни сътрудници – наподобяващи герои от игра като The Sims, само че надалеч по-примитивни – които вземат участие в стратегическа игра, наречена повтаряща се алтернатива на пандизчията. Всеки сътрудник можел да избира сред съдействие и измяна. Егоизмът носел краткосрочни облаги, само че дълготрайно водел до загуба на доверие и точки.
В една от шестте тактики, тествани в симулациите, сътрудниците изпитвали нещо като „ виновност “ след измяна – губели точки, до момента в който не възстановят доверието посредством съдействие. Но имало измама: виновността се задействала единствено в случай че сътрудникът научи, че и сътрудникът му страда от виновност. Това спирало злоупотребата с „ жертвена “ позиция и създавало по-устойчиви условия за взаимно съдействие.
При избрани условия – изключително когато виновността не е прекомерно скъпа и сътрудниците поддържат връзка в лимитирани мрежи – тактиката на виновността (наречена DGCS) се оказала преобладаваща. Повечето взаимоотношения ставали кооперативни, а деструктивното държание намалявало.
„ Може би е по-лесно да се довериш, когато имаш чувството, че сътрудникът мисли като теб “, споделя Теодор Чимпеану, компютърен академик от Университета на Стърлинг и водещ създател на проучването. Според него, в случай че изкуствените интелекти могат да се приспособяват или самопрограмират, те биха могли да „ открият “ функционални страсти като виновност даже без човешка интервенция.
Но не всички са уверени. Философът Сарита Розенсток от Университета в Мелбърн предизвестява, че симулациите разчитат на голям брой опростени допускания и не могат да се употребяват за генерални изводи. Все отново, тя признава приноса на проучването към „ картографирането на опциите “, показвайки къде виновността като тактика оцелява – и къде не.
Остава и практическият въпрос: какво значи „ виновност “ за изкуствен интелект? Ако сегашен чатбот споделя „ скърбя “, той не заплаща цена за това. Без механизъм за действителни вътрешни ограничавания или бистрота, ИИ може просто да симулира страдание – единствено с цел да повтори същото държание по-късно.
Това повдига съществени етични и инженерни въпроси за бъдещето: Трябва ли да учим машините на страсти – или на морал? И в случай че да, по какъв начин ще знаем, че в действителност ги „ изпитват “, а не просто ни заблуждават?
--> Напишете коментарИме:* -->
--> Изпрати iframe,.fb-comments,.fb-comments span { width: 100%!important; }
Виж още 07:46 05.08.2025 166 Американската галактическа организация НАСА възнамерява да построи нуклеарен реактор на 15:28 02.08.2025 698 Международен екип от четирима астронавти на борда на капсула SpaceX Crew Dragon 16:28 01.08.2025 330 Изследователи от Microsoft показаха 200 специалности, които са застрашени да Какво да вършим? 08:00 31.07.2025 17594 Магнитна стихия се доближава към Земята, която ще продължи няколко дни. „ Какво направихме? ": 21:44 30.07.2025 4489 Главният изпълнителен шеф на OpenAI, Сам Алтман, съобщи, че новата версия 21:32 30.07.2025 2517 54-годишният Ричард Уелс е прекарал 10 000 часа в небето, само че има една земя, 21:13 06.08.2025 0 73 21:00 06.08.2025 0 141 20:45 06.08.2025 0 246 20:32 06.08.2025 0 97 20:16 06.08.2025 0 351 АнкетаВ БългарияВ чужбинаНе възнамерявам
--> Най-четениНай-коментирани 15:00 03.08.2025 0 25482 18:19 05.08.2025 0 19677 23:15 04.08.2025 0 18587 22:20 03.08.2025 0 16354 Източник: glasnews.bg
КОМЕНТАРИ