Злонамереното използване на системи с изкуствен интелект може да причини

Злонамереното потребление на системи с изкуствен интелект може да аргументи ужасяващо количество гибел и опустошения, предизвести генералният секретар на Организация на обединените нации и прикани за нов орган на Организация на обединените нации, който да се оправи със заканите, подбудени от тази технология, заяви в. „ Гардиън “.

Антониу Гутериш съобщи, че злонамереното потребление на изкуствения разсъдък за терористични, незаконни или държавни цели може да аргументи и дълбоки психически вреди, и означи, че хакерски атаки благодарение на изкуствен интелект към този момент са ориентирани против мироопазващи и филантропични интервенции на Организация на обединените нации.

По време на първата сесия на Съвета за сигурност на Организация на обединените нации, отдадена на ИИ, той съобщи, че появяването на генеративния ИИ, термин за принадлежности на ИИ като ChatGPT, които основават безапелационен текст, изображение и глас от човешки подбуди, може да бъде определящ миг за дезинформацията и речта на омразата и да добави ново измерение към манипулирането на човешкото държание.

Гутериш прикани за основаването на нова конструкция на Организация на обединените нации по сходство на Междуправителствената експертна група по климатичните промени, основана за оценяване на риска от световното изменение на климата, провокирано от техногенни фактори.

„ Главната цел на този орган ще бъде да поддържа страните да усилят оптимално изгодите от ИИ за положително, да смекчава съществуващите и евентуалните опасности, и да основава и ръководи интернационално контрактувани механизми за мониторинг и ръководство “, сподели той.

Обединеното кралство председателстваше сесията, а външният му министър Джеймс Клевърли откри съвещанието с апел за световно ръководство на изкуствения разсъдък.

„ Спешно би трябвало да оформим световното ръководство на трансформиращите се технологии, тъй като ИИ не познава граници “, съобщи Клевърли.

„ Нито една страна няма да остане незасегната от ИИ, тъй че би трябвало да притеглим и ангажираме най-широката коалиция от интернационалните участници от всички браншове “, добави първият посланик на Англия.

Обединеното кралство свика международна среща на върха за сигурността на ИИ, която да се организира през есента, а ръководителят на работната група на английското държавно управление за модела на финансиране на ИИ Иън Хогарт съобщи през вчерашния ден, че актуалните системи за ИИ към момента се нуждаят от в допълнение изследване от страна на специалистите.

„ Не разбираме изцяло за какво и по какъв начин работят те “, уточни Хогарт.

Говорейки на събитие, проведено от Института за световни промени „ Тони Блеър “, Хогарт сподели, че ИИ може да бъде и мощ за положително.

„ Ще се сдобием с учени, работещи с ИИ, които ще допълват останалите учени и ще форсират темпото на новите научни и софтуерни открития. Това значи, че ще можем да конструираме нови технологии, да откриваме нови медикаменти “, сподели той и добави, че злоумишлен участник в тази сфера може да заплаши и националната сигурност.

В този смисъл е и отвореното писмо, подписано от над 1300 английски специалисти, бизнесмени и хора на изкуството, в което се споделя, че ИИ е мощ, носеща изгода, а не опасност за човечеството, оповестява Би Би Си.

Писмото е инициирано от Британското компютърно общество (BCS) – Институт за осведомителни технологии, с цел да се опълчи на „ обречеността на ИИ “.

Рашик Пармар, основен изпълнителен шеф на BCS, съобщи, че то демонстрира, че софтуерната общественост в Обединеното кралство не има вяра в „ кошмарния сюжет за зли роботи “.

През март софтуерни водачи, измежду които Илон Мъск, който неотдавна започва бизнес с ИИ, подписаха писмо, в което приканиха за пауза в създаването на мощни системи.

В него се показва, че свръхинтелигентният ИИ съставлява екзистенциален риск за човечеството

Това мнение беше подкрепено и от филмовия режисьор Кристофър Нолан, който съобщи пред Би Би Си, че водачите в региона на ИИ, с които е разговарял, считат, че актуалният миг е „ техният миг на Опенхаймер “. Джулиъс Робърт Опенхаймер е американски научен физик, изиграл основна роля в създаването на първата атомна бомба и е обект на най-новия филм на Нолан.

Но BCS вижда обстановката в по-положителна светлина, като въпреки всичко поддържа нуждата от правила за ИИ. Ричард Картър е подписал писмото на BCS. Той е създател на стартъп за киберсигурност, задвижвана от изкуствен интелект и счита, че страшните предизвестия са нереалистични.

„ Честно казано, концепцията, че изкуственият разсъдък е екзистенциална опасност за човечеството, е прекомерно пресилена. Ние просто не сме в положение даже да създадем това допустимо “, споделя Картър.

Лицата, подписали писмото на BCS, са от разнообразни сфери – бизнес, университетски среди, обществени органи и мозъчни тръстове, само че никой от тях не е толкоз прочут като Елон Мъск или не управлява огромни компании за ИИ като OpenAI.

Тези, с които Би Би Си беседва, акцентират позитивните приложения на ИИ. Хема Пурохит, която управлява цифровото опазване на здравето и обществените грижи в BCS, декларира, че технологията дава опция за нови способи за разкриване на съществени болести, да вземем за пример медицински системи, които откриват признаци на проблеми като сърдечно заболяване или диабет, когато пациентът отива на очен обзор.

Тя споделя, че изкуственият разсъдък може също по този начин да помогне за ускорение на тестването на нови медикаменти.

Сара Бърнет, създател на книга за изкуствения разсъдък и бизнеса, показва приложенията на технологията в селското стопанство – от роботи, които употребяват изкуствен интелект за опрашване на растенията, до такива, които разпознават плевелите и ги пръскат или унищожават с лазери, вместо да пръскат задачите посеви с препарати за заличаване на бурени.

В писмото се твърди, че „ Обединеното кралство може да помогне като поеме водещата роля в определянето на професионални и механически стандарти за длъжностите, свързани с ИИ, подкрепени от стабилен кодекс за държание, интернационално съдействие и контролиране “.

По този метод Англия „ може да се трансформира в световен образец за първокачествен, етичен и приобщаващ ИИ “.

Тази есен министър-председателят на Обединеното кралство Риши Сунак ще бъде хазаин на международна среща на върха по въпросите на регулирането на ИИ.

Въпреки че BCS може да твърди, че екзистенциалните закани са научна фантастика, някои въпроси са навръх хоризонта или към този момент съставляват проблеми.

Прогнозите са, че към 300 милиона работни места може да бъдат автоматизирани, а някои компании към този момент обявиха, че ще преустановят наемането на чиновници на някои позиции вследствие на ИИ.

Но Ричард Картър счита, че ИИ, вместо да размени хората, ще увеличи тяхната продуктивност. В личната си работа, споделя той, ChatGPT е потребен, само че прибавя, че е внимателен да му се доверява прекалено много, като го съпоставя с „ доста знаещо, превъзбудено 12-годишно дете “.

Той твърди, че фирмите постоянно ще имат потребност от присъединяване на хора на работното място, които да поемат отговорност, в случай че нещата се объркат.

„ Ако извадите индивида изцяло от цикъла, по какъв начин ще управлявате отговорността за някакво пагубно събитие? “, пита риторично Картър.

Той, както и други подписали го страни, има вяра, че ще е належащо контролиране, с цел да се избегне злоупотребата с ИИ.

Хема Пурохит споделя от своя страна, че претекстът ѝ за подписването на писмото е нуждата от правила, които „ да подсигуряват, че няма просто да се втурнем и да сътворяваме доста и разнообразни неща, без да обръщаме внимание на тестването, ръководството и гаранциите, които стоят зад тях “.

Информация: Българска телеграфна агенция