Llama 2 ИИ моделът на Meta предоставил подробни инструкции за приготвянето на антракс
Миналата седмица няколко софтуерни водачи дойдоха в Капитолия, с цел да обсъдят бързото развиване на генеративния изкуствен интелект. Срещата беше най-вече спокойна, до момента в който не стана дума за евентуалните вреди от новия модел Llama 2 на Meta.
По време на полемиката, на която участваха множеството от 100-те членове на Сената, Тристан Харис, съосновател на Центъра за хуманни технологии, съобщи, че неотдавна е предиздвикал инженерите да създадат „ тест драйв “ на мощния огромен езиков модел Llama 2 на Meta. След известно подканяне Харис сподели, че в чата с Llama 2 е получил подробна директива за това по какъв начин да се сътвори антракс като биологично оръжие, съгласно един от осведомените с форума и двама присъстващи сенатори.
Това провокира замяна на реплики сред Харис и Марк Зъкърбърг, съосновател и основен изпълнителен шеф на Meta.
Сред двете дузини софтуерни водачи на форума бяха Илон Мъск, притежател на Twitter и основен изпълнителен шеф на Tesla и SpaceX; Сам Алтман, основен изпълнителен шеф на OpenAI; Сатя Надела, основен изпълнителен шеф на Microsoft; Дженсън Хуанг, основен изпълнителен шеф на Nvidia; и Сундар Пичай, основен изпълнителен шеф на Гугъл.
Събирането беше ръководено от водача на болшинството в Сената Чък Шумър, сенатора демократ Мартин Хайнрих, сенатора републиканец Дж. Майк Раундс и Тод Йънг, които съставляват новата „ работна група за изкуствен интелект “.
Групата се образува по-рано тази година, няколко месеца откакто ботът ChatGPT на OpenAI стана прочут в целия свят.
По време на сесията Зъкърбърг се опита да омаловажи изказването на Харис, че Llama 2 може да каже на потребителите по какъв начин да създадат антракс. Той декларирал, че всеки, който търси такова управление, може да разбере по какъв начин да направи антракс в YouTube, съгласно двамата присъстващи сенатори. Харис отхвърлил този мотив, като декларирал, че такива управления не се появяват в YouTube, а даже и да се появят, равнището на подробност и насоките, предоставени от Llama 2, са неповторими за подобен мощен генеративен модел на изкуствен интелект. Освен това той значително е модел с отворен код, което значи, че е свободно наличен за потребление и адаптиране.
Това беше един от дребното моменти в цялата работа, който беше по-напечен. Двадесет и четирима от 26-те участници в полемиката споделиха едно и също нещо още веднъж и още веднъж: „ Трябва да защитим нововъведенията в региона на изкуствения разсъдък, само че при съществуването на защитни ограничения.
Един от сенаторите за момента, който е привлякъл вниманието на всички участници.
И Харис и представител на Meta са отказали коментар пред Insider
Според тримата осведомени със срещата, с изключение на късия скандал сред Харис и Зъкърбърг, не е имало задълбочено разискване на въпросите, свързани с ИИ. Дори способността на Llama 2 да направлява евентуален консуматор по какъв начин да сътвори антракс не е била причина за по-сериозно изследване.
Беше като „ Добре, дано идващият да вземе думата “ и всичко продължи.
Сенатор, участвал на срещата.
Силата на Llama 2 е добре позната в Meta.
Способността да генерира подробни указания за основаване на биологично оръжие като антракс е предстояща, разясняват двама души, осведомени с компанията.
Наистина, това ще се отнася за всяка Llama 2 от избран размер, в случай че не я ограничите за избрани неща. Ще има крайни случаи. Но тези, които са артикули, като ChatGPT, за разлика от версиите с отворен код, те просто биват лимитирани по съответни тематики.
Едно от лицата, осведомени с работата на Meta.
