Пред изкуствения интелект има поне 15 ключови риска
Сред тях са етични алтернативи, проблеми със сигурността, централизация на властта, взаимозависимост от ИИ, загуба на работни места, намаляване на връзките сред хората, екзистенциални закани за човечеството и други
Общото заседание на Организация на обединените нации утвърди първата си световна резолюция за изкуствения разсъдък (ИИ), която цели да подсигурява, че технологията е " безвредна, сигурна и надеждна ". Резолюцията цели да насърчи отбраната на персоналните данни, следенето на ИИ за опасности и опазването на човешките права, обявиха представители на Организация на обединените нации, представени от Българска телеграфна агенция.
Но пред какви опасности тъкмо изкуствените интелекти изправят човечеството? В собствен разбор сп. " Форбс " изброява 15 основни риска.
Те са липса на бистрота, дискриминация, отбрана на персоналните данни, етични алтернативи, проблеми със сигурността, централизация на властта, взаимозависимост от ИИ, загуба на работни места, усилване на икономическото неравноправие, правни проблеми, конкуренция във въоръжаването, (още по-голямо) намаляване на връзките сред хората, операция и дезинформация, ненадейно държание и екзистенциални закани за човечеството.
Проучване на Станфорд прибавя към това заплахата от прекалено разчитане на софтуерни решения и опасности при потреблението на ИИ за медицински цели - изключително в случай че ИИ е обучаван въз основа на данни, събрани от друга етническа група.
Да разгледаме някои от тях.
Липсата на бистрота пречи на хората да схващат по какъв начин ИИ стига до заключенията си. Това, от своя страна, води до съмнение.
От друга страна, дискриминирането и предубежденията са свързани с данните, върху които са се обучавали. В взаимозависимост от тях (и метода на работа на логаритмите им), изкуствените интелекти може да популяризират избрани предразсъдъци, отбелязва " Форбс ".
Това е още по-опасно, в случай че всички ги считат за " непредубедени машини ".
Нарушения на правото на отбрана на персоналните данни и отбраната на персоналния живот са една от водещите тематики, тъй като технологиите, свързани с ИИ, постоянно се базират на събиране и анализиране на огромни количества данни - в които може да са били включени и персонални данни. Срещу тази опасност е ориентирана и последната резолюция на Общото заседание на Организация на обединените нации.
От друга страна, ИИ може да води и до обществени промени. Това е нов инструмент, а както ни е посочила историята, появяването на нов инструмент води до обществени промени - без значение дали приказваме за производството на бронз в бронзовата ера, потреблението на стоманата, огнестрелните оръжия, парната машина, моторите с вътрешно горене, атомната сила, компютрите...
Концентрирането на ИИ в ръцете на избрани, богати персони, корпорации и държавни управления, може да докара до централизация на властта в техни ръце. В същото време ИИ може да засегне нископлатените работни места съгласно отчета на " Маккинзи ", който планува, че те ще бъдат 14 пъти по-засегнати.
Заплашени са обаче и по-високоплатени позиции. Организацията за икономическо сътрудничество и раз предизвести още предходната година, че финансовият и правният браншове може да се окажат измежду най-тежко засегнатите, отбелязва английският в. " Гардиън ".
Всичко това явно би могло да докара до възходящи разлики в приходите и понижаване на опциите за обществена подвижност. Особено, в случай че технологията не се употребява отговорно, или с мисъл за бъдещето: изследване на " Харвард Бизнес Ривю " предизвестява, че " фирмите, които заменят хората с ИИ, ще бъдат изпреварени от конкуренцията ".
Но всичко това се отнасяше до законното потребление на изкуствени интелекти. А какво става, когато попадне в ръцете на хора, които не се преценяват със закона, имат друг морал от общоприетия, и не се интересуват от публичното мнение?
Тогава изкуствените интелекти може да усилят и създадат по-големи заканите за сигурността, без значение дали тези закани са водени от незаконни, религиозни, идеологически или политически претекстове. Във всички случаи дезинформацията посредством " дълбоки имитации " е надалеч по-лесна благодарение на ИИ. ИИ, който може да води диалог с вас, евентуално може и да ви се обади по телефона... и може би - да ви заяви, че ваш непосредствен е бил блъснат от кола и би трябвало да дадете едни пари за интервенцията, незабавно е...
Но даже без опцията да приказва, машините отново могат да водят разговор с вас, примерно в обществените мрежи. Чатботовете не са от през вчерашния ден! Но до момента бяха лесни за забелязване, тъй като допускаха смешни неточности. Но в случай че бъдат включени към ИИ?
Представете си ИИ, което е подготвено да работи като интернет трол, подкрепящо избрана политическа идея. То няма потребност от отмора, генерира си картинките единствено, поддържа без изпитание голям брой профили, няма аргументи да няма и голям брой " другари "... апропо, давали ли сте " другарство " на някого в обществените мрежи? Ако да - сигурни ли сте, че е човек?
Още по-голяма опасност е създаването на самостоятелни, смъртоносни оръжия, които могат сами да избират задачите си. Както отбелязва изследване на Станфордския университет, десетки страни употребяват от десетилетия лимитирани разновидности на тези модели, да вземем за пример при отбраната на военни и военноморски бази.
Но - лимитирани. Какво ще могат да вършат " интелигентните муниции на бъдещето " и дали ще бъдат употребявани, с цел да поразяват задачите си по-избирателно, или единствено по-ефективно?
А какви благоприятни условия ни предлага новата технология?
" Изкуственият разсъдък дава и обилни универсални благоприятни условия за ускорение на битката с бедността, избавяне на човешки животи и отбрана на нашата планета ", акцентира непрекъснатата представителка на Съединени американски щати в Организация на обединените нации Линда Томас-Грийнфийлд, като подсети за изгодите, които съгласно нея към този момент се следят в здравната диагностика и селското стопанство.
Общото заседание на Организация на обединените нации утвърди първата си световна резолюция за изкуствения разсъдък (ИИ), която цели да подсигурява, че технологията е " безвредна, сигурна и надеждна ". Резолюцията цели да насърчи отбраната на персоналните данни, следенето на ИИ за опасности и опазването на човешките права, обявиха представители на Организация на обединените нации, представени от Българска телеграфна агенция.
Но пред какви опасности тъкмо изкуствените интелекти изправят човечеството? В собствен разбор сп. " Форбс " изброява 15 основни риска.
Те са липса на бистрота, дискриминация, отбрана на персоналните данни, етични алтернативи, проблеми със сигурността, централизация на властта, взаимозависимост от ИИ, загуба на работни места, усилване на икономическото неравноправие, правни проблеми, конкуренция във въоръжаването, (още по-голямо) намаляване на връзките сред хората, операция и дезинформация, ненадейно държание и екзистенциални закани за човечеството.
Проучване на Станфорд прибавя към това заплахата от прекалено разчитане на софтуерни решения и опасности при потреблението на ИИ за медицински цели - изключително в случай че ИИ е обучаван въз основа на данни, събрани от друга етническа група.
Да разгледаме някои от тях.
Липсата на бистрота пречи на хората да схващат по какъв начин ИИ стига до заключенията си. Това, от своя страна, води до съмнение.
От друга страна, дискриминирането и предубежденията са свързани с данните, върху които са се обучавали. В взаимозависимост от тях (и метода на работа на логаритмите им), изкуствените интелекти може да популяризират избрани предразсъдъци, отбелязва " Форбс ".
Това е още по-опасно, в случай че всички ги считат за " непредубедени машини ".
Нарушения на правото на отбрана на персоналните данни и отбраната на персоналния живот са една от водещите тематики, тъй като технологиите, свързани с ИИ, постоянно се базират на събиране и анализиране на огромни количества данни - в които може да са били включени и персонални данни. Срещу тази опасност е ориентирана и последната резолюция на Общото заседание на Организация на обединените нации.
От друга страна, ИИ може да води и до обществени промени. Това е нов инструмент, а както ни е посочила историята, появяването на нов инструмент води до обществени промени - без значение дали приказваме за производството на бронз в бронзовата ера, потреблението на стоманата, огнестрелните оръжия, парната машина, моторите с вътрешно горене, атомната сила, компютрите...
Концентрирането на ИИ в ръцете на избрани, богати персони, корпорации и държавни управления, може да докара до централизация на властта в техни ръце. В същото време ИИ може да засегне нископлатените работни места съгласно отчета на " Маккинзи ", който планува, че те ще бъдат 14 пъти по-засегнати.
Заплашени са обаче и по-високоплатени позиции. Организацията за икономическо сътрудничество и раз предизвести още предходната година, че финансовият и правният браншове може да се окажат измежду най-тежко засегнатите, отбелязва английският в. " Гардиън ".
Всичко това явно би могло да докара до възходящи разлики в приходите и понижаване на опциите за обществена подвижност. Особено, в случай че технологията не се употребява отговорно, или с мисъл за бъдещето: изследване на " Харвард Бизнес Ривю " предизвестява, че " фирмите, които заменят хората с ИИ, ще бъдат изпреварени от конкуренцията ".
Но всичко това се отнасяше до законното потребление на изкуствени интелекти. А какво става, когато попадне в ръцете на хора, които не се преценяват със закона, имат друг морал от общоприетия, и не се интересуват от публичното мнение?
Тогава изкуствените интелекти може да усилят и създадат по-големи заканите за сигурността, без значение дали тези закани са водени от незаконни, религиозни, идеологически или политически претекстове. Във всички случаи дезинформацията посредством " дълбоки имитации " е надалеч по-лесна благодарение на ИИ. ИИ, който може да води диалог с вас, евентуално може и да ви се обади по телефона... и може би - да ви заяви, че ваш непосредствен е бил блъснат от кола и би трябвало да дадете едни пари за интервенцията, незабавно е...
Но даже без опцията да приказва, машините отново могат да водят разговор с вас, примерно в обществените мрежи. Чатботовете не са от през вчерашния ден! Но до момента бяха лесни за забелязване, тъй като допускаха смешни неточности. Но в случай че бъдат включени към ИИ?
Представете си ИИ, което е подготвено да работи като интернет трол, подкрепящо избрана политическа идея. То няма потребност от отмора, генерира си картинките единствено, поддържа без изпитание голям брой профили, няма аргументи да няма и голям брой " другари "... апропо, давали ли сте " другарство " на някого в обществените мрежи? Ако да - сигурни ли сте, че е човек?
Още по-голяма опасност е създаването на самостоятелни, смъртоносни оръжия, които могат сами да избират задачите си. Както отбелязва изследване на Станфордския университет, десетки страни употребяват от десетилетия лимитирани разновидности на тези модели, да вземем за пример при отбраната на военни и военноморски бази.
Но - лимитирани. Какво ще могат да вършат " интелигентните муниции на бъдещето " и дали ще бъдат употребявани, с цел да поразяват задачите си по-избирателно, или единствено по-ефективно?
А какви благоприятни условия ни предлага новата технология?
" Изкуственият разсъдък дава и обилни универсални благоприятни условия за ускорение на битката с бедността, избавяне на човешки животи и отбрана на нашата планета ", акцентира непрекъснатата представителка на Съединени американски щати в Организация на обединените нации Линда Томас-Грийнфийлд, като подсети за изгодите, които съгласно нея към този момент се следят в здравната диагностика и селското стопанство.
Източник: dnesplus.bg
КОМЕНТАРИ