Глобалният доклад за ИИ: от велики надежди до опасни рискове
Йошуа Бенджо показа първия по рода си Международен отчет за сигурността на изкуствения разсъдък.
Пионерът на дълбокото образование и един от „ кръстниците “ на изкуствения разсъдък Йошуа Бенджио показа първия в света интернационален отчет за сигурността на ИИ. В документа се акцентира, че „ бъдещето на универсалния изкуствен интелект остава извънредно нестабилно “.
В отчета се означават необятен набор от вероятни сюжети за развиването на технологията, в това число както позитивни, по този начин и извънредно отрицателни. Въпреки това капацитетът на ИИ се прави оценка като „ голям “ в региона на образованието, медицината, научните проучвания и подобряването качеството на живота по света.
Професорът от Монреалския университет разгласи обявата в обществената мрежа X, като я назова „ невиждана самодейност “, в която вземат участие 100 самостоятелни специалисти, в това число нобелови лауреати и носители на премията „ Тюринг “. Документът от 298 страници е свободно наличен за четене.
Докладът е направен в границите на Срещата на върха за деяние в региона на изкуствения разсъдък – интернационална платформа за разговор сред държавни управления, учени, предприятия и неправителствени организации. Инициативата има за цел да сътвори единни стандарти за контролиране на изкуствения разсъдък и да сътвори „ споделена визия за обществото на бъдещето “.
Документът от 298 страници дава отговор на три съществени въпроса: какво може да прави универсалният ИИ, какви опасности носи и по какъв начин те могат да бъдат сведени до най-малко. Сред изтъкнатите вероятни закани са хакерските атаки, манипулирането на публичното мнение и потреблението на технологията при създаването на химически и биологични оръжия.
В отчета се преглеждат и систематичните опасности: неравномерното систематизиране на научните проучвания, въздействието върху околната среда и опасността от срив на сериозни ИТ системи. Предложени са също по този начин софтуерни и политически способи за ръководство на риска, в това число оценка, намаляване и мониторинг.
В предговора Бенджио напомня, че концепцията за отчета е оповестена още на първата среща на високо ниво по въпросите на сигурността на изкуствения разсъдък през ноември 2023 година Оттогава насам опциите на ИИ доста са нарастнали, което изисква изчерпателен разбор на въпросите на сигурността.
Експертната група включва експерти от 30 страни, представители на Организация на обединените нации, Европейски Съюз и Организацията за икономическо съдействие и развиване (ОИСР). Сред съветниците е Джефри Хинтън, притежател на Нобелова премия за физика за 2024 година, а в отчета се загатва и работата на различен „ кръстник “ на ИИ – основният академик на Meta Ян Лекун.
Според Бенджо бързото развиване на ИИ изисква държавните управления и политиците да схванат евентуалните опасности. В отчета се акцентира, че: „ ИИ не се развива от единствено себе си – неговото бъдеще се дефинира от решенията на хората. “
