Хората няма да могат да контролират свръхинтелигентните машини
Хората няма да могат да управляват свръхинтелигентните машини …Международен екип от учени показва, че контролът върху свръхинтелигентен изкуствен интелект е неосъществим (HiddenTruth.site).Проведеното проучване е оповестено в Journal of Artificial Intelligence Research.Представители на разнообразни научни дисциплини, в това число експерти от Центъра за хора и машини към Института за човешко развиване Макс Планк (Center for People and Machines of the Max Planck Institute for Human Development), вземат решение да тестват до какъв брой хората са в положение да управляват свръхинтелигентни роботи.
Един от създателите на проучването – Мануел Себриан (Manuel Sebrian), началник на групата за цифрова готовност в Центъра за хора и машини към Института Макс Планк, споделя:„ Суперинтелигентна машина, която ръководи света, звучи като научна фантастика. Но, към този момент има роботи, развили без значение и независимо извършване на избрани значими задания. В същото време, програмистите въобще не схващат по какъв начин са се научили на това.В резултат поражда въпросът: може ли този развой в един миг да стане неконтролируем и рисков за човечеството? ”Четете още: База на Военновъздушни сили на Съединени американски щати се охранява от кучета роботи (видео)За да отговорят на този въпрос, учените са употребявали моделиране и теоретични калкулации.
Както се оказва, даже в случай че се конфигурират данни за етичните правила в свръхинтелигентна машина и се ограничи нейната връзка с външния свят, да вземем за пример достъпа до интернет се изключи, това няма да избави човечеството от риска такава система да излезе отвън надзор.Факт е, че съгласно теорията на компютърните науки, всеки от логаритмите за такова ограничение, било то стратегии за етични правила или ограничение на достъпа до външния свят, е уязвим и при избрани условия е изцяло кадърен да се задейства, даже и изключен.Ето за какво, специалистите заключават, че човек няма да може да управлява свръхинтелигентните роботи и обстановката, рано или късно, може да излезе отвън надзор.Изследователите обобщават:„ Ние твърдим, че цялостното ограничение по принцип е невероятно, заради съществени ограничавания, присъщи на самото пресмятане.Супер роботът ще съдържа стратегия, която включва всички стратегии, изпълнявани от универсална машина на Тюринг (Turing machine), евентуално толкоз комплицирана, колкото положението на света. “
Hidden truth
Един от създателите на проучването – Мануел Себриан (Manuel Sebrian), началник на групата за цифрова готовност в Центъра за хора и машини към Института Макс Планк, споделя:„ Суперинтелигентна машина, която ръководи света, звучи като научна фантастика. Но, към този момент има роботи, развили без значение и независимо извършване на избрани значими задания. В същото време, програмистите въобще не схващат по какъв начин са се научили на това.В резултат поражда въпросът: може ли този развой в един миг да стане неконтролируем и рисков за човечеството? ”Четете още: База на Военновъздушни сили на Съединени американски щати се охранява от кучета роботи (видео)За да отговорят на този въпрос, учените са употребявали моделиране и теоретични калкулации.
Както се оказва, даже в случай че се конфигурират данни за етичните правила в свръхинтелигентна машина и се ограничи нейната връзка с външния свят, да вземем за пример достъпа до интернет се изключи, това няма да избави човечеството от риска такава система да излезе отвън надзор.Факт е, че съгласно теорията на компютърните науки, всеки от логаритмите за такова ограничение, било то стратегии за етични правила или ограничение на достъпа до външния свят, е уязвим и при избрани условия е изцяло кадърен да се задейства, даже и изключен.Ето за какво, специалистите заключават, че човек няма да може да управлява свръхинтелигентните роботи и обстановката, рано или късно, може да излезе отвън надзор.Изследователите обобщават:„ Ние твърдим, че цялостното ограничение по принцип е невероятно, заради съществени ограничавания, присъщи на самото пресмятане.Супер роботът ще съдържа стратегия, която включва всички стратегии, изпълнявани от универсална машина на Тюринг (Turing machine), евентуално толкоз комплицирана, колкото положението на света. “
Hidden truth
Източник: hiddentruth.site
КОМЕНТАРИ