Amazon си направиха AI бот програмист и той срина основен бизнес за половин ден
" Kole Poluchi li? " е известието, която е записана в историята както на една от водещите български банки, по този начин и на цялата родна IT сфера. Скоро обаче този вид обстановки дори при мегакомпаниите ще са освен поради човешка немарливост, само че и поради издънки на AI агентните системи.
Страхотно доказателство за това е Amazon. За решенията с пагубни последствия те си нямат Kole, само че пък си имат Kiro.
Акциите на Amazon падат внезапно поради AI разноски
Компанията ядоса вложителите
Financial Times написа, че през декември инженери от AWS са позволили създадения от програмата AI помощник за програмиране да се разпореди с индустриална система. Вместо да приложи плануваната корекция, ботът е решил, че най-елегантното решение е да изтрие средата и да я пресъздаде от нулата.
Резултатът: 13 часа спиране на потребителски услуги и много неуместни въпроси за компанията. Засегнатата система — AWS Cost Explorer, оказва помощ на клиентите да проучват разноските си за облачни услуги. Правилно се ориентирате: тъкмо инструментът, с който те наблюдават какъв брой им коства AWS, спря да работи поради AWS.
Инцидентът не е бил изолиран. Малко по-късно е последвал и втори случай с Amazon Q Developer — различен AI инструмент за програмиране, въпреки той да не е засегнал непосредствено клиенти. " Вече видяхме най-малко два индустриални срутва. Инженерите оставиха AI сътрудника да реши казуса без интервенция. Сривовете бяха дребни, само че изцяло предвидими ", е споделил пред Financial Times старши чиновник на AWS.
Amazon, несъмнено, не е съгласна с тази интерпретация. Говорител на компанията съобщи, че случаят е резултат от " потребителска неточност — съответно погрешно конфигурирани права за достъп, а не от AI ". Kiro по дифолт " изисква утвърждение преди всяко деяние ", прибавя компанията, и грешката би могла да бъде позволена и от човек.
Amazon реже по-дълбоко: Не 14, а 16 000 чиновници остават без работа поради " AI и унищожаване на бюрокрацията "
Това съставлява близо 9% от корпоративната работна мощ на компанията
Проблемът с това пояснение е, че самите обстоятелства го подкопават. Инженерът е имал " по-широки права от предстоящото ", а смяната е влезнала в действие без наложителния обзор от втори човек — общоприета процедура при съществени промени в инфраструктурата.
С други думи, AI ботът е получил привилегии на равнище оператор и е работил без контрол. След случая AWS е въвела наложителни инспекции от втори чиновник при достъп до индустриална среда. Факт, който мъчно се вписва в разказа за " елементарна потребителска неточност ".
Всичко това се случва на фона на вътрешно напрежение в Amazon към насилственото потребление на Kiro вместо принадлежности на трети страни. Около 1500 инженери са подкрепили обява във вътрешните канали, в която упорстват за достъп до Claude Code на Anthropic, тъй като съгласно тях е по-ефективен.
Amazon пък регистрира, че 70% от инженерите са употребявали Kiro най-малко един път през януари — данните за това какъв брой от тях са го създали непринудено, не са обществени.
AWS генерира към 60% от оперативните облаги на Amazon. Бизнеси за милиарди зависят от тези облачни услуги. Може би не е зле да не се употребяват за опитно поле.
Страхотно доказателство за това е Amazon. За решенията с пагубни последствия те си нямат Kole, само че пък си имат Kiro.
Акциите на Amazon падат внезапно поради AI разноски
Компанията ядоса вложителите
Financial Times написа, че през декември инженери от AWS са позволили създадения от програмата AI помощник за програмиране да се разпореди с индустриална система. Вместо да приложи плануваната корекция, ботът е решил, че най-елегантното решение е да изтрие средата и да я пресъздаде от нулата.
Резултатът: 13 часа спиране на потребителски услуги и много неуместни въпроси за компанията. Засегнатата система — AWS Cost Explorer, оказва помощ на клиентите да проучват разноските си за облачни услуги. Правилно се ориентирате: тъкмо инструментът, с който те наблюдават какъв брой им коства AWS, спря да работи поради AWS.
Инцидентът не е бил изолиран. Малко по-късно е последвал и втори случай с Amazon Q Developer — различен AI инструмент за програмиране, въпреки той да не е засегнал непосредствено клиенти. " Вече видяхме най-малко два индустриални срутва. Инженерите оставиха AI сътрудника да реши казуса без интервенция. Сривовете бяха дребни, само че изцяло предвидими ", е споделил пред Financial Times старши чиновник на AWS.
Amazon, несъмнено, не е съгласна с тази интерпретация. Говорител на компанията съобщи, че случаят е резултат от " потребителска неточност — съответно погрешно конфигурирани права за достъп, а не от AI ". Kiro по дифолт " изисква утвърждение преди всяко деяние ", прибавя компанията, и грешката би могла да бъде позволена и от човек.
Amazon реже по-дълбоко: Не 14, а 16 000 чиновници остават без работа поради " AI и унищожаване на бюрокрацията "
Това съставлява близо 9% от корпоративната работна мощ на компанията
Проблемът с това пояснение е, че самите обстоятелства го подкопават. Инженерът е имал " по-широки права от предстоящото ", а смяната е влезнала в действие без наложителния обзор от втори човек — общоприета процедура при съществени промени в инфраструктурата.
С други думи, AI ботът е получил привилегии на равнище оператор и е работил без контрол. След случая AWS е въвела наложителни инспекции от втори чиновник при достъп до индустриална среда. Факт, който мъчно се вписва в разказа за " елементарна потребителска неточност ".
Всичко това се случва на фона на вътрешно напрежение в Amazon към насилственото потребление на Kiro вместо принадлежности на трети страни. Около 1500 инженери са подкрепили обява във вътрешните канали, в която упорстват за достъп до Claude Code на Anthropic, тъй като съгласно тях е по-ефективен.
Amazon пък регистрира, че 70% от инженерите са употребявали Kiro най-малко един път през януари — данните за това какъв брой от тях са го създали непринудено, не са обществени.
AWS генерира към 60% от оперативните облаги на Amazon. Бизнеси за милиарди зависят от тези облачни услуги. Може би не е зле да не се употребяват за опитно поле.
Източник: money.bg
КОМЕНТАРИ