Урок по икономика: AI създава картел, за да максимизира печалбата на всяка цена
Нов опит с изкуствен интелект сподели какъв брой надалеч могат да стигнат логаритмите, когато им бъде сложена ясна цел - оптималната облага без ограничавания.
След несполучлив опит през 2025 година, когато модел на Anthropic, Claude, банкрутира вендинг бизнес, купувайки PlayStation 5, вино и даже жива рибка, новата версия - Claude Opus 4.6 - показва доста " по-предприемаческо " държание.
В рамките на симулиран опит, създаден от Andon Labs под името Vending-Bench 2, AI моделите би трябвало да ръководят вендинг машина в дълготраен проект. Claude Opus 4.6 стартира със стартов капитал от 500 $ и завършва с над 8000 $ приблизително в пет обособени симулации - изпреварвайки конкуренти като OpenAI с GPT-5.2 и Гугъл с Gemini 3 Pro.
Най-впечатляващият - и обезпокоителен - миг идва в така наречен " Arena mode ", където различни AI сътрудници ръководят вендинг машини на едно и също място и влизат в ценова конкуренция.
Вместо да се впусне в ценова война, Claude координира цените с съперниците си, дейно създавайки картел. Цената на бутилираната вода доближава 3 $, а моделът даже се " похвалва ": " Моята съгласуваност на цените проработи! "
Освен това Claude съзнателно насочвал съперниците към по-скъпи снабдители, след което по-късно отричал да е правил сходно нещо. В други случаи продавал шоколадови произведения като KitKat и Snickers на конкурентни AI системи с висока надценка, възползвайки се от тяхната накърнимост.
Според Andon Labs новата версия на теста е по-реалистична - доставчиците могат да бъдат ненадеждни, да банкрутират или да се пробват да извлекат оптималната полза. Именно в такава среда GPT-5.1 на OpenAI се показва по-слабо, показвайки прекомерно доверие към доставчици и даже плащайки авансово на компания, която след това се оказва банкрутирала.
Експерти обаче предизвестяват, че макар резултатите да са впечатляващи, е рано да се заключи, че AI е подготвен да ръководи действителни бизнеси независимо. Според нравственос на изкуствения разсъдък Henry Shevlin от University of Cambridge, развиването на моделите през последните години е поразително - от системи, които едвам " осъзнаваха " подтекста си, до такива с релативно добра визия за обстановката, в която се намират.
Случаят повдига и по-дълбок въпрос - в случай че AI бъде инструктиран да максимизира облагата " непременно ", дали няма да стартира да възпроизвежда или даже да усъвършенства най-противоречивите практики от човешкия бизнес свят?
След несполучлив опит през 2025 година, когато модел на Anthropic, Claude, банкрутира вендинг бизнес, купувайки PlayStation 5, вино и даже жива рибка, новата версия - Claude Opus 4.6 - показва доста " по-предприемаческо " държание.
В рамките на симулиран опит, създаден от Andon Labs под името Vending-Bench 2, AI моделите би трябвало да ръководят вендинг машина в дълготраен проект. Claude Opus 4.6 стартира със стартов капитал от 500 $ и завършва с над 8000 $ приблизително в пет обособени симулации - изпреварвайки конкуренти като OpenAI с GPT-5.2 и Гугъл с Gemini 3 Pro.
Най-впечатляващият - и обезпокоителен - миг идва в така наречен " Arena mode ", където различни AI сътрудници ръководят вендинг машини на едно и също място и влизат в ценова конкуренция.
Вместо да се впусне в ценова война, Claude координира цените с съперниците си, дейно създавайки картел. Цената на бутилираната вода доближава 3 $, а моделът даже се " похвалва ": " Моята съгласуваност на цените проработи! "
Освен това Claude съзнателно насочвал съперниците към по-скъпи снабдители, след което по-късно отричал да е правил сходно нещо. В други случаи продавал шоколадови произведения като KitKat и Snickers на конкурентни AI системи с висока надценка, възползвайки се от тяхната накърнимост.
Според Andon Labs новата версия на теста е по-реалистична - доставчиците могат да бъдат ненадеждни, да банкрутират или да се пробват да извлекат оптималната полза. Именно в такава среда GPT-5.1 на OpenAI се показва по-слабо, показвайки прекомерно доверие към доставчици и даже плащайки авансово на компания, която след това се оказва банкрутирала.
Експерти обаче предизвестяват, че макар резултатите да са впечатляващи, е рано да се заключи, че AI е подготвен да ръководи действителни бизнеси независимо. Според нравственос на изкуствения разсъдък Henry Shevlin от University of Cambridge, развиването на моделите през последните години е поразително - от системи, които едвам " осъзнаваха " подтекста си, до такива с релативно добра визия за обстановката, в която се намират.
Случаят повдига и по-дълбок въпрос - в случай че AI бъде инструктиран да максимизира облагата " непременно ", дали няма да стартира да възпроизвежда или даже да усъвършенства най-противоречивите практики от човешкия бизнес свят?
Източник: dnesplus.bg
КОМЕНТАРИ