AI моделите могат значително да опростят процеса на проектиране и

AI моделите могат доста да опростят процеса на планиране и разпространяване на биологични оръжия (снимка: CC0 Public Domain)

Изкуственият разсъдък може да усили пет пъти вероятността от световна пандемия, предизвестяват създателите на нов отчет от Rand Corporation. Техните открития се основават на моделиране на сюжети за биотероризъм и течове от лаборатории, усъвършенствани от технологии за генеративен изкуствен интелект.

Проучването, за което оповестява Time, е поръчано от Агенцията за напреднали проучвателен планове в региона на защитата на Съединени американски щати (DARPA) и директно визира етиката и регулирането на създаването на огромни езикови модели (LLM).

Модели като ChatGPT могат доста да опростят процеса на планиране и разпространяване на биологични оръжия. Авторите на отчета показват, че изкуственият разсъдък може да помогне при избора на патоген, синтезиране на ДНК, избор на условия за предпазване и доставка и заобикаляне на съществуващите контроли. 

Проучването се основава на оценка на дейностите на хипотетични нападатели, получили достъп до системи с изкуствен интелект с отворен API, подготвени върху материали от научни изявления. Дори с лимитирано равнище на техническо образование, те разполагат с указания малко по малко по какъв начин да основават рискови сътрудници – да вземем за пример вируса на едрата шарка.

Ключовият риск е, че изкуственият разсъдък може да понижи „ бариерата за нахлуване ” на нарушителите в биологичните офанзиви. По-рано сходни дейности изискваха висока подготовка и обилни запаси, само че в този момент подканите от изкуствения разсъдък могат да компенсират неналичието на познания.

Особено рискова е способността на AI, употребен от нападателите, автоматизирано да генерира и тества разновидности на биологични сътрудници с усъвършенствани характерности на заразност и резистентност. Някои LLM към този момент могат да избират материали и способи, които имитират научни опити.

Rand акцентира, че не става въпрос единствено за терористични групи, само че и за инцидентни неточности. Лабораториите, употребяващи изкуствен интелект за ускорение на проучванията, могат несъзнателно да основат и освободят рисков патоген в околната среда. Въздействието на сходни течове може да бъде по-голямо от Covid-19, изключително при липса на подобаващ надзор и етични ограничавания.

Докладът обръща особено внимание на нуждата от контролиране: учените приканват за въвеждане на забрани за достъп до биотехническа информация в LLM, филтри за „ биоопасно ” наличие и одит на модели, употребявани в научни разработки. Важно е също по този начин да се премислят правилата за разпространяване на биологични данни в общественото пространство.

Докладът не дава финален сюжет, само че общото му умозаключение е, че в случай че развиването на изкуствения разсъдък продължи, без да се вземат поради биологичните опасности, вероятността от нова пандемия през идващите десетилетия ще се усили експоненциално.

В същото време технологиите, които би трябвало да оказват помощ в лекуването и предварителната защита, могат несъзнателно да се трансфорат в катализатор за биологични закани, сигнализират създателите на отчета.
Ти имаш концепциите. Ние – мобилната мощност зад тях.
iPhone 16 Pro и iPad Pro за модерния бизнес – с поддръжката на iStyle »»»
предишна обява: Обучиха AI модел да схваща човешкото мислене следваща обява:
графа: Актуално, Изкуствен разсъдък, Новаторски, Новини | етикети: биологични оръжия, биотероризъм, вируси, изкуствен интелект, пандемия
Коментар

ИМЕ *