Демис Хасабис, съоснователят на Google Deepmind, една от най-големите фирми

Демис Хасабис: ИИ не трябва да „се движи бързо и да чупи нещата“

Демис Хасабис, съоснователят на Гугъл Deepmind, една от най-големите компании за ИИ в Обединеното кралство, споделя, процъфтяващата промишленост не би трябвало да следва същия път, общопризнат от по-старите софтуерни колоси.

" Движи се бързо и разбивай нещата " беше мото, измислено от шефа на Meta Марк Зукърбърг, основател на Фейсбук.

Имаше за цел да насърчи бързите нововъведения и напредък на компанията.

Но за някои това се трансформира във фраза, която символизира огромните софтуерни компании, които работят преждевременно и предизвикват разстройства.

" Не мисля, че би трябвало да действаме бързо и да разрушаваме нещата, знаете ли, типичната мантра на Силиконовата котловина. Той беше извънредно сполучлив в построяването на солидни компании и ни даде доста страхотни услуги и приложения... само че ИИ е прекомерно значим, " сподели господин Хасабис.

" Има доста работа, която би трябвало да се свърши, с цел да сме сигурни, че разбираме [AI системите] и знаем по какъв начин да ги разположим по безвредни и виновни способи. "

Определяне на рисковете от AI

The Британският софтуерен водач приказва пред BBC в навечерието на срещата на върха за сигурността на изкуствения разсъдък в Обединеното кралство.

Той има вяра, че заканите, подбудени от изкуствения разсъдък, попадат в три категории:

рискът ИИ да генерира дезинформация и дълбоки имитации и да демонстрира преднамереност умишлената корист с технологията от неприятни артисти техническите опасности бъдещата порода общ изкуствен интелект да стане все по-мощен; по какъв начин да го държим под надзор и да се уверим, че се придържа към верните цели

" Всички те изискват разнообразни решения в разнообразни времеви мащаби, само че би трябвало да стартираме да работим върху всички тях в този момент ", той сподели.

DeepMind построява AI стратегия, наречена AlphaFold, която има капацитета да напредне в откриването на нови медикаменти посредством прогнозиране на структурата на съвсем всеки протеин в индивида тяло.

По-ранен артикул, наименуван AlphaGo, победи най-хубавия човешки състезател на китайската стратегическа игра Go в шампионат, извършен през 2016 година

Играчът по-късно се отдръпна от играта, като сподели, че " има образувание, което не може да бъде победено ".

Среща на върха за сигурността

Технологичните шефове упорстват държавните управления да контролират бързо разрастващата се технология.

През идващите два дни към 100 международни водачи, софтуерни босове, учени и откриватели на ИИ се събират в английския кампус Bletchley Park, в миналото дом на разбивачите на кодове, помогнали за обезпечаването на успеха по време на международната война две.

Те ще вземат участие в полемики за това по какъв начин най-добре да се усилят оптимално изгодите от изкуствения разсъдък - като разкриване на нови медикаменти и работа по евентуални решения за изменението на климата - при минимизиране на рисковете.

Срещата на върха ще се концентрира върху рискови закани, подбудени от граничен ИИ, най-напредналите форми на технологията, която господин Хасабис разказа като „ върха на копието “. Приоритетите на срещата включват опасността от биотероризъм и хакерските атаки.

Какво е AI и рисково ли е? AI е разгласен за дума на годината от Collins DictionaryAI: Учените са разчувствани от инструмент, който прави оценка тежестта на редкия рак

Международните делегати включват вицепрезидента на Съединени американски щати Камала Харис и ръководителя на Европейската комисия Урсула фон дер Лайен. Китай също изпраща представител.

Има известни рецензии, че описът с посетители е доминиран от американски колоси, в това число основателя на ChatGPT OpenAI, Anthropic, Microsoft, Гугъл и Amazon - както и притежателят на Tesla и X (бивш Twitter) Илон Мъск. Премиерът Риши Сунак ще предава онлайн диалог с господин Мъск на X в четвъртък вечер. по отношение на сигурността на ИИ засенчи събитието - само че господин Хасабис сподели, че Обединеното кралство към момента може да играе „ значима роля “ в оформянето на полемиките.