Предлагат пауза в развитието на ИИ за доброто на човечеството
Ами в случай че, с цел да дадем време на човечеството да се приспособява, сложим развиването на изкуствения разсъдък на пауза? Това е концепцията, препоръчана от Anthropic, която се застъпва за основаването на световна система за съгласуваност, тъй че никой противник да не може да се възползва от обстановката, с цел да получи преимущество.
Anthropic, една от водещите американски компании за изкуствен интелект (ИИ), показа в четвъртък, 4 юни, концепцията за основаване на система, позволяваща на бранителите на тази технология да се спогодят да забавят или спрат развиването ѝ, до момента в който човечеството се приспособява, оповестяват от AFP.
" Вярваме, че би било добре светът да има опцията да забави или краткотрайно да спре развиването на авангарден изкуствен интелект, с цел да разреши на публичните структури и проучванията върху съгласуваността да са в крайник с софтуерния прогрес ", твърди компанията в текст, оповестен от нейния мозъчен концерн Anthropic Institute.
Компанията, която е в яростна конкуренция с OpenAI, Гугъл и китайската компания DeepSeek, се застъпва за основаването на световна система за съгласуваност, тъй че никой противник да не може да се възползва от обстановката, с цел да получи преимущество.
Anthropic, основателят на моделите Claude, цитира прецедента на Договора за нуклеарните сили със междинен обхват (INF). Компанията акцентира, че основаването на тази рамка е лишило десетилетия, само че че времето е по-належащо за изкуствения разсъдък, който се смята за " доста по-лесен за скриване от ракетните силози ".
В Съединените щати се появява опозиция
" При липса на световен механизъм за съгласуваност, фирмите и държавните управления ще би трябвало да вземат сложни решения за сигурност под напън от конкуренцията и геополитическите проблеми ", написа компанията.
Очаква се предлагането да се сблъска със мощна опозиция в Съединените щати, където доста софтуерни ръководители и водачи се опълчват на всяко закъснение, което би дало на Китай решаващо преимущество. Доналд Тръмп обаче съобщи, че е повдигнал опцията за съдействие с Китай във връзка с сигурността на изкуствения разсъдък по време на неотдавнашно посещаване в Пекин.
Anthropic, учредена от дисиденти от OpenAI, си е построила имидж на лаборатория, която дава приоритет на етиката и сигурността. Тя обаче е изправена пред рецензии от страна на промишлеността и чиновници на Белия дом, които я упрекват в преувеличаване на рисковете и даже в " маркетинг на боязън " на фона на конкуренцията си с OpenAI за първично обществено предложение
През последните два месеца Anthropic ограничи разпространяването на Mythos, най-модерния си модел, с цел да внедри корекции за киберсигурност, преди да го направи обществено наличен. Anthropic разгласи стартирането на модели с еквивалентна продуктивност " през идващите седмици " и се чакат сравними системи от съперниците ѝ.
Компанията обосновава предлагането си, като разкрива вътрешни данни, илюстриращи опцията един ден да се доближи " рекурсивно самоусъвършенстване ", т.е. точката, в която системите с изкуствен интелект ще станат способни да образоват своите наследници с понижена човешка роля.
" Няма гаранция, че сходна смяна е неизбежна ", предизвестява компанията, само че " в случай че актуалните трендове продължат ", тя би станала " правдоподобна ". Компанията го вижда както като скок напред за медицината, технологиите и стопанската система, по този начин и като риск от " загуба на надзор ".
Anthropic, една от водещите американски компании за изкуствен интелект (ИИ), показа в четвъртък, 4 юни, концепцията за основаване на система, позволяваща на бранителите на тази технология да се спогодят да забавят или спрат развиването ѝ, до момента в който човечеството се приспособява, оповестяват от AFP.
" Вярваме, че би било добре светът да има опцията да забави или краткотрайно да спре развиването на авангарден изкуствен интелект, с цел да разреши на публичните структури и проучванията върху съгласуваността да са в крайник с софтуерния прогрес ", твърди компанията в текст, оповестен от нейния мозъчен концерн Anthropic Institute.
Компанията, която е в яростна конкуренция с OpenAI, Гугъл и китайската компания DeepSeek, се застъпва за основаването на световна система за съгласуваност, тъй че никой противник да не може да се възползва от обстановката, с цел да получи преимущество.
Anthropic, основателят на моделите Claude, цитира прецедента на Договора за нуклеарните сили със междинен обхват (INF). Компанията акцентира, че основаването на тази рамка е лишило десетилетия, само че че времето е по-належащо за изкуствения разсъдък, който се смята за " доста по-лесен за скриване от ракетните силози ".
В Съединените щати се появява опозиция
" При липса на световен механизъм за съгласуваност, фирмите и държавните управления ще би трябвало да вземат сложни решения за сигурност под напън от конкуренцията и геополитическите проблеми ", написа компанията.
Очаква се предлагането да се сблъска със мощна опозиция в Съединените щати, където доста софтуерни ръководители и водачи се опълчват на всяко закъснение, което би дало на Китай решаващо преимущество. Доналд Тръмп обаче съобщи, че е повдигнал опцията за съдействие с Китай във връзка с сигурността на изкуствения разсъдък по време на неотдавнашно посещаване в Пекин.
Anthropic, учредена от дисиденти от OpenAI, си е построила имидж на лаборатория, която дава приоритет на етиката и сигурността. Тя обаче е изправена пред рецензии от страна на промишлеността и чиновници на Белия дом, които я упрекват в преувеличаване на рисковете и даже в " маркетинг на боязън " на фона на конкуренцията си с OpenAI за първично обществено предложение
През последните два месеца Anthropic ограничи разпространяването на Mythos, най-модерния си модел, с цел да внедри корекции за киберсигурност, преди да го направи обществено наличен. Anthropic разгласи стартирането на модели с еквивалентна продуктивност " през идващите седмици " и се чакат сравними системи от съперниците ѝ.
Компанията обосновава предлагането си, като разкрива вътрешни данни, илюстриращи опцията един ден да се доближи " рекурсивно самоусъвършенстване ", т.е. точката, в която системите с изкуствен интелект ще станат способни да образоват своите наследници с понижена човешка роля.
" Няма гаранция, че сходна смяна е неизбежна ", предизвестява компанията, само че " в случай че актуалните трендове продължат ", тя би станала " правдоподобна ". Компанията го вижда както като скок напред за медицината, технологиите и стопанската система, по този начин и като риск от " загуба на надзор ".
Източник: inews.bg
КОМЕНТАРИ