Guardian: Кодът, написан от самите алгоритми е съвсем непредсказуем
Когато постъпките на робота доведат до покруса – да вземем за пример, роботизираният автомобил убие човек, екипите програмисти с месеци проучват машинния код, с цел да намерят повода за това събитие. Но изкуственият разсъдък, теоретичен да написа личния си код е в положение напълно елементарно да напише спомагателен код, който да го отбрани от каквато и да било инспекция. А това прави постъпките на ИИ непредсказуеми за разработчиците.
Човекът към този момент е изгубил контрола върху логаритмите за изкуствен интелект – сигнализира Guardian. Хората не престават да задават на невронните мрежи задания едвам на микро равнище, а по-късно системите се развиват независимо, като следствията са непредсказуеми.
„В прочут смисъл, ние към този момент изгубихме лостовете за въздействие. Когато кодът се трансформира в логаритми, а логаритмите основават нови логаритми, в системата остава все по-малко място за индивида. Специализираният програмен продукт пуска в нашата галактика код, който никой не може да разбере докрай“ – притеснява се Елън Улмън от Guardian.
Да се откажем от машинното образование е прекомерно мъчно – стратегиите пишат по-добър код от хората. „Никой не знае, по какъв начин да бъде написан сорс код, който да разпознава знака Стоп. Ние от години се опитваме да решим тази задача, само че не можем и не се оправяме! Всичко опира до нашата нелепост и тъпост – ние не сме задоволително съобразителни да разберем това. Всичко което умеем, е да напишем един общ логаритъм, който може да се образова, в случай че му се подадат задоволително огромен брой примери“ – твърди Тоби Уолш, експерт по ИИ и професор в университета на Нов Южен Уелс, Австралия.
Ако стане покруса, хората ще би трябвало да се оправят с Франкенщайн-алгоритми. Така Смит назовава секторите с код, генериран от самата машина.
Така да вземем за пример, през месец март тази година в Аризона почина жена, блъсната от роботизиран автомобил. Изясни се, че ИИ я е разпознал като различен автомобил. Когато напълно от близко машината е разпознала, че това е велосипедистка, тя незабавно е предлага ръководството на лидера. А той не е бил подготвен да реагира.
Неочакваните обстановки с ИИ са вероятни освен при самостоятелните коли. Опасността се крие и в логаритмите, ръководещи известните облачни онлайн услуги, обезпокоени са специалистите.
Според другите прекомерно крайни прогнози, изкуственият разсъдък мощно ще промени живота на човечеството. Футурологът Ювал Ноа Харари смята ИИ за една от най-сериозните закани пред Човека, по-опасна от климатичните промени и нуклеарното оръжие.
Човекът към този момент е изгубил контрола върху логаритмите за изкуствен интелект – сигнализира Guardian. Хората не престават да задават на невронните мрежи задания едвам на микро равнище, а по-късно системите се развиват независимо, като следствията са непредсказуеми.
„В прочут смисъл, ние към този момент изгубихме лостовете за въздействие. Когато кодът се трансформира в логаритми, а логаритмите основават нови логаритми, в системата остава все по-малко място за индивида. Специализираният програмен продукт пуска в нашата галактика код, който никой не може да разбере докрай“ – притеснява се Елън Улмън от Guardian.
Да се откажем от машинното образование е прекомерно мъчно – стратегиите пишат по-добър код от хората. „Никой не знае, по какъв начин да бъде написан сорс код, който да разпознава знака Стоп. Ние от години се опитваме да решим тази задача, само че не можем и не се оправяме! Всичко опира до нашата нелепост и тъпост – ние не сме задоволително съобразителни да разберем това. Всичко което умеем, е да напишем един общ логаритъм, който може да се образова, в случай че му се подадат задоволително огромен брой примери“ – твърди Тоби Уолш, експерт по ИИ и професор в университета на Нов Южен Уелс, Австралия.
Ако стане покруса, хората ще би трябвало да се оправят с Франкенщайн-алгоритми. Така Смит назовава секторите с код, генериран от самата машина.
Така да вземем за пример, през месец март тази година в Аризона почина жена, блъсната от роботизиран автомобил. Изясни се, че ИИ я е разпознал като различен автомобил. Когато напълно от близко машината е разпознала, че това е велосипедистка, тя незабавно е предлага ръководството на лидера. А той не е бил подготвен да реагира.
Неочакваните обстановки с ИИ са вероятни освен при самостоятелните коли. Опасността се крие и в логаритмите, ръководещи известните облачни онлайн услуги, обезпокоени са специалистите.
Според другите прекомерно крайни прогнози, изкуственият разсъдък мощно ще промени живота на човечеството. Футурологът Ювал Ноа Харари смята ИИ за една от най-сериозните закани пред Човека, по-опасна от климатичните промени и нуклеарното оръжие.
Източник: kaldata.com
КОМЕНТАРИ