Учени прогнозират как „ненаситният AI ще унищожи човечеството
Експерти от Оксфордския университет и Deepmind (собственост на Google) обявиха, че изкуственият разсъдък може да унищожи човечеството. За това пише Vice, цитирайки публикация в научното списание AI Magazine.
Generative Adversarial Networks (или в резюме GAN) се смятат за най-успешните модели на изкуствен разсъдък през днешния ден. Те се състоят от две елементи, едната от които генерира изображение или текст въз основа на наличните данни, а втората част прави оценка случилото се и отхвърля некачествената работа - по този метод планът се преработва, до момента в който излезе нещо положително. Изследователите допускат, че в бъдеще доста " образован " изкуствен интелект може да бъде заставен да създаде лъжливи схеми, които могат да навредят на огромен брой хора.
„ При изискванията, които идентифицирахме, нашето умозаключение е по-убедително от заключението на всяка предходна обява – екзистенциална злополука е освен допустима, само че и евентуална “, разяснява Майк Коен, съавтор на публикацията от Deepmind, в Twitter.
В изявление за Vice той изясни, че ресурсите в нашия свят са лимитирани, тъй че има конкуренция. Усъвършенстваният изкуствен интелект ще има " неутолим вкус " за сила, който ще се нуждае от от ден на ден и повече с времето. В един миг той ще изиска да отстрани евентуални закани и да грабне цялата налична сила, с цел да извърши задачата или да получи премията, планувана от програмата.
Когато е обвързван с интернет, изкуственият разсъдък също ще може да основава голям брой невидими и неконтролирани виртуални асистенти. Един от тях е много кадърен да купи, открадне или даже да сътвори робот, който да размени човешкия оператор и да обезпечи висока премия на първичния сътрудник. Според откривателите, с цел да не получи мощен съперник в битката за оцеляване на Земята, човечеството би трябвало да развива технологиите за изкуствен интелект доста постепенно, до момента в който не се научи да ги управлява.
„ Загубата на този мач ще бъде съдбовна “, акцентират създателите на публикацията.
По-рано бившият изпълнителен шеф на Гугъл Ерик Шмид сравни изкуствения разсъдък с нуклеарни оръжия. Според него е време човечеството да намерения за ограничения за ограничение на сходни технологии.
Беше обявено също, че невронната мрежа Megatron-Turing NLG предизвестява за заплахите от ИИ. Както се споделя в езиковия модел, машините в никакъв случай няма да бъдат обременени с морал, тъй че те ще могат да работят както за положителното, по този начин и за вредата на хората.
Превод: GlasNews
Generative Adversarial Networks (или в резюме GAN) се смятат за най-успешните модели на изкуствен разсъдък през днешния ден. Те се състоят от две елементи, едната от които генерира изображение или текст въз основа на наличните данни, а втората част прави оценка случилото се и отхвърля некачествената работа - по този метод планът се преработва, до момента в който излезе нещо положително. Изследователите допускат, че в бъдеще доста " образован " изкуствен интелект може да бъде заставен да създаде лъжливи схеми, които могат да навредят на огромен брой хора.
„ При изискванията, които идентифицирахме, нашето умозаключение е по-убедително от заключението на всяка предходна обява – екзистенциална злополука е освен допустима, само че и евентуална “, разяснява Майк Коен, съавтор на публикацията от Deepmind, в Twitter.
В изявление за Vice той изясни, че ресурсите в нашия свят са лимитирани, тъй че има конкуренция. Усъвършенстваният изкуствен интелект ще има " неутолим вкус " за сила, който ще се нуждае от от ден на ден и повече с времето. В един миг той ще изиска да отстрани евентуални закани и да грабне цялата налична сила, с цел да извърши задачата или да получи премията, планувана от програмата.
Когато е обвързван с интернет, изкуственият разсъдък също ще може да основава голям брой невидими и неконтролирани виртуални асистенти. Един от тях е много кадърен да купи, открадне или даже да сътвори робот, който да размени човешкия оператор и да обезпечи висока премия на първичния сътрудник. Според откривателите, с цел да не получи мощен съперник в битката за оцеляване на Земята, човечеството би трябвало да развива технологиите за изкуствен интелект доста постепенно, до момента в който не се научи да ги управлява.
„ Загубата на този мач ще бъде съдбовна “, акцентират създателите на публикацията.
По-рано бившият изпълнителен шеф на Гугъл Ерик Шмид сравни изкуствения разсъдък с нуклеарни оръжия. Според него е време човечеството да намерения за ограничения за ограничение на сходни технологии.
Беше обявено също, че невронната мрежа Megatron-Turing NLG предизвестява за заплахите от ИИ. Както се споделя в езиковия модел, машините в никакъв случай няма да бъдат обременени с морал, тъй че те ще могат да работят както за положителното, по този начин и за вредата на хората.
Превод: GlasNews
Източник: glasnews.bg
КОМЕНТАРИ