Учени предупреждават: Изкуственият интелект може да преживее своя „Чернобил
Развитието на изкуствения разсъдък може да докара до събитие с мащаба на повредата в Чернобил - миг, който вечно да промени отношението на човечеството към технологията. За това предизвестяват американски и китайски откриватели, които приканват за по-тясно интернационално съдействие в региона на AI.
Според експерта по компютърни науки Стивън Каспър от Масачузетския софтуерен институт (MIT) изкуственият разсъдък е световна технология с голям капацитет както за изгода, по този начин и за щета.
„ Почти всички експерти в региона са съгласни, че не трябва да позволяваме AI да преживее своя „ чернобилски миг “, споделя той.
Терминът е отпратка към повредата в Чернобилската атомна електроцентрала през 1986 година, която промени политиките за нуклеарната енергетика в доста страни. Според учените сходна огромна рецесия, породена от изкуствен интелект, би могла да промени вечно метода, по който светът употребява и контролира тази технология.
Сред най-често обсъжданите опасности са всеобща загуба на работни места, злоупотреби с самостоятелни AI системи и все по-реалната опция изкуственият разсъдък да бъде употребен за огромни хакерски атаки.
Изследователите показват, че актуалните AI модели към този момент могат да генерират програмен код на високо равнище, което доста улеснява откриването на уязвимости и основаването на злотворен програмен продукт. Според тях точно киберсигурността се трансформира в една от най-сериозните закани, свързани с развиването на технологията.
Опасенията се споделят и от фирмите, разработващи изкуствен интелект. Като образец се показва Anthropic, която е решила да не пуска обществено една от най-мощните си пробни AI системи поради опасения, че опциите ѝ биха могли да бъдат употребявани за пробиви в операционни системи и интернет браузъри.
Допълнителен риск съгласно специалистите съставляват моделите с отворен код. Макар да форсират развиването на технологиите, те могат по-лесно да попаднат в ръцете на хора със злонамерени цели и не подлежат на същия надзор като затворените комерсиални модели.
Лин Юн от Шанхайския университет „ Дзяотун “ счита, че хакерите евентуално ще получат съществено преимущество с помощта на AI. В същото време той акцентира, че същата технология може да бъде употребена и за доста по-добра отбрана на цифровата инфраструктура.
Според учените единственият метод рискът да бъде стеснен е посредством интернационално съдействие, продан на информация и основаване на общи стандарти за сигурност, преди развиването на изкуствения разсъдък да изпревари опциите за надзор над него.
Източник: Futurism; Превод: GlasNews
Според експерта по компютърни науки Стивън Каспър от Масачузетския софтуерен институт (MIT) изкуственият разсъдък е световна технология с голям капацитет както за изгода, по този начин и за щета.
„ Почти всички експерти в региона са съгласни, че не трябва да позволяваме AI да преживее своя „ чернобилски миг “, споделя той.
Терминът е отпратка към повредата в Чернобилската атомна електроцентрала през 1986 година, която промени политиките за нуклеарната енергетика в доста страни. Според учените сходна огромна рецесия, породена от изкуствен интелект, би могла да промени вечно метода, по който светът употребява и контролира тази технология.
Сред най-често обсъжданите опасности са всеобща загуба на работни места, злоупотреби с самостоятелни AI системи и все по-реалната опция изкуственият разсъдък да бъде употребен за огромни хакерски атаки.
Изследователите показват, че актуалните AI модели към този момент могат да генерират програмен код на високо равнище, което доста улеснява откриването на уязвимости и основаването на злотворен програмен продукт. Според тях точно киберсигурността се трансформира в една от най-сериозните закани, свързани с развиването на технологията.
Опасенията се споделят и от фирмите, разработващи изкуствен интелект. Като образец се показва Anthropic, която е решила да не пуска обществено една от най-мощните си пробни AI системи поради опасения, че опциите ѝ биха могли да бъдат употребявани за пробиви в операционни системи и интернет браузъри.
Допълнителен риск съгласно специалистите съставляват моделите с отворен код. Макар да форсират развиването на технологиите, те могат по-лесно да попаднат в ръцете на хора със злонамерени цели и не подлежат на същия надзор като затворените комерсиални модели.
Лин Юн от Шанхайския университет „ Дзяотун “ счита, че хакерите евентуално ще получат съществено преимущество с помощта на AI. В същото време той акцентира, че същата технология може да бъде употребена и за доста по-добра отбрана на цифровата инфраструктура.
Според учените единственият метод рискът да бъде стеснен е посредством интернационално съдействие, продан на информация и основаване на общи стандарти за сигурност, преди развиването на изкуствения разсъдък да изпревари опциите за надзор над него.
Източник: Futurism; Превод: GlasNews
Източник: glasnews.bg
КОМЕНТАРИ