Фалшиви подписи и спорове около писмото на Ювал Ноа Харари, Мъск и други за изкуствения интелект
Писмото с искане за шестмесечна пауза в създаването на огромни планове с изкуствен интелект (ИИ) провокира стихия от реакции. Някои от подписите в него се оказаха подправени, други лица се отхвърлиха от поддръжката си за самодейността, а цитираните в документа специалисти показаха угриженост за концепцията.
Хиляди софтуерни водачи и откриватели подкрепихана Института за бъдещето на живота (FLI). В него те приканват за пауза в създаването на системи, " по-мощни " от новия GPT-4 на OpenAI, който към този момент може да води диалози като човек, да композира песни, изготвя правосъдни искове и даже да поставя изпити.
Сред подписалите се повече от 1800 души са милиардерът Илон Мъск, историкът и публицист Ювал Ноа Харари, съоснователят на Apple Стив Возняк и доста други.
Оказва се обаче, че не всички ескперти са на едно мнение. Някои упрекват Института за бъдещето на живота, че се концентрира върху мислени апокалиптични сюжети пред " по-непосредствените опасения ", свързани с изкуствения разсъдък, като да вземем за пример програмирането на расистки или сексистки предубеждения в машините.
При първичното стартиране на писмото липсваха протоколи за инспекция на подписите и по този начин документът събра поддръжката на хора, които в действителност въобще не се бяха подписали в него. Първоначално се появиха имената на създателя на Microsoft Бил Гейтс и основния изпълнителен шеф на OpenAI Сам Алтман, само че по-късно те бяха отстранени. Главният академик по изкуствен интелект на Meta Ян Лекун също беше включен в листата, само че по-късно посочи в Twitter, че не поддържа концепцията.
В по-ранна версия на листата с подписалите се даже присъстваше и името на китайския водач Си Дзинпин - явно подранила първоаприлска смешка.
seems there`s no verification on signing it haha
— Martian (@space_colonist)
Отделно, няколко откриватели в региона на ИИ показаха угриженост, откакто работата им беше представена в отвореното писмо. Сред тях е Маргарет Мичъл - основен академик по етичните въпроси в софтуерната компания Hugging Face. Тя разкритикува позицията на Института, като споделя, че в нея съмнителни и хипотетични хрумвания са възприемани за обстоятелства.
Нейните сътрудници Тимнит Гебру и Емили М. Бендер показаха сходно мнение и дефинират някои от изказванията в документа като " нечувани ".
Шири Дори-Хакохен, доцент в Университета на Кънектикът, също не е съгласна с това, че нейната работа е представена. Миналата година тя е написала теоретичен труд, в който твърди, че необятното потребление на изкуствен интелект към този момент крие съществени опасности.
В проучването ѝ се твърди, че актуалното потребление на изкуствен интелект може да повлияе на вземането на решения по отношение на климатичните промени, нуклеарната война и други екзистенциални закани.
Писмото на FLI също по този начин предизвестява, че инструментите на ИИ могат да бъдат употребявани за разпространяване на " агитация и лъжи " в интернет. Дори-Хакохен акцентира, че е " смешно " Мъск да се подпише под сходни изказвания, като засяга известията за дезинформация в Twitter, която към този момент е негова благосъстоятелност.
Помолен да разяснява рецензиите, президентът на Института за бъдещето на живота Макс Тегмарк съобщи, че би трябвало да се вземат насериозно както краткосрочните, по този начин и дълготрайните опасности, свързани с изкуствения разсъдък.
" Ако цитираме някого, това значи единствено, че те са споделили това изречение. Това не значи, че те утвърждават писмото или че ние утвърждаваме всичко, което те мислят ", аргументира се Тегмарк пред " Ройтерс ".
Хиляди софтуерни водачи и откриватели подкрепихана Института за бъдещето на живота (FLI). В него те приканват за пауза в създаването на системи, " по-мощни " от новия GPT-4 на OpenAI, който към този момент може да води диалози като човек, да композира песни, изготвя правосъдни искове и даже да поставя изпити.
Сред подписалите се повече от 1800 души са милиардерът Илон Мъск, историкът и публицист Ювал Ноа Харари, съоснователят на Apple Стив Возняк и доста други.
Оказва се обаче, че не всички ескперти са на едно мнение. Някои упрекват Института за бъдещето на живота, че се концентрира върху мислени апокалиптични сюжети пред " по-непосредствените опасения ", свързани с изкуствения разсъдък, като да вземем за пример програмирането на расистки или сексистки предубеждения в машините.
При първичното стартиране на писмото липсваха протоколи за инспекция на подписите и по този начин документът събра поддръжката на хора, които в действителност въобще не се бяха подписали в него. Първоначално се появиха имената на създателя на Microsoft Бил Гейтс и основния изпълнителен шеф на OpenAI Сам Алтман, само че по-късно те бяха отстранени. Главният академик по изкуствен интелект на Meta Ян Лекун също беше включен в листата, само че по-късно посочи в Twitter, че не поддържа концепцията.
В по-ранна версия на листата с подписалите се даже присъстваше и името на китайския водач Си Дзинпин - явно подранила първоаприлска смешка.
seems there`s no verification on signing it haha
— Martian (@space_colonist)
Отделно, няколко откриватели в региона на ИИ показаха угриженост, откакто работата им беше представена в отвореното писмо. Сред тях е Маргарет Мичъл - основен академик по етичните въпроси в софтуерната компания Hugging Face. Тя разкритикува позицията на Института, като споделя, че в нея съмнителни и хипотетични хрумвания са възприемани за обстоятелства.
Нейните сътрудници Тимнит Гебру и Емили М. Бендер показаха сходно мнение и дефинират някои от изказванията в документа като " нечувани ".
Шири Дори-Хакохен, доцент в Университета на Кънектикът, също не е съгласна с това, че нейната работа е представена. Миналата година тя е написала теоретичен труд, в който твърди, че необятното потребление на изкуствен интелект към този момент крие съществени опасности.
В проучването ѝ се твърди, че актуалното потребление на изкуствен интелект може да повлияе на вземането на решения по отношение на климатичните промени, нуклеарната война и други екзистенциални закани.
Писмото на FLI също по този начин предизвестява, че инструментите на ИИ могат да бъдат употребявани за разпространяване на " агитация и лъжи " в интернет. Дори-Хакохен акцентира, че е " смешно " Мъск да се подпише под сходни изказвания, като засяга известията за дезинформация в Twitter, която към този момент е негова благосъстоятелност.
Помолен да разяснява рецензиите, президентът на Института за бъдещето на живота Макс Тегмарк съобщи, че би трябвало да се вземат насериозно както краткосрочните, по този начин и дълготрайните опасности, свързани с изкуствения разсъдък.
" Ако цитираме някого, това значи единствено, че те са споделили това изречение. Това не значи, че те утвърждават писмото или че ние утвърждаваме всичко, което те мислят ", аргументира се Тегмарк пред " Ройтерс ".
Източник: boulevardbulgaria.bg
КОМЕНТАРИ