Създателят на ChatGPТ, компанията OpenAI, обяви, че алгоритъмът GPT-4 може

Създателят на ChatGPТ, компанията OpenAI, разгласи, че логаритъмът GPT-4 може да се окаже асистент за основаването на биологични оръжия, Компанията е провела лично изследване за рисковете на изкуствения разсъдък и в частност LLM моделите, на които се базират доста от чатботовете и логаритмите, в това число GPT-4.

Въпросните огромни езикови модели (LLM) могат да ускорят създаването на биологични оръжия и/или да ги създадат по-достъпни за повече хора, споделя OpenAI, представена от VentureBeat. Затова OpenAI е почнала работа по система за ранно предизвестие.

Тя ще има за цел да проучва LLM логаритми и да ревизира до каква степен те могат да бъдат манипулирани, пробити или просто накарани да споделят информация по тематиката за биологични оръжия. Системата ще може и да следи за появяването на нови биологични оръжия, за планове в тази посока и да подава сигнали, когато има евентуални злоупотреби и нужда от повече инспекции.

Проучването на OpenAI демонстрира, че все още GPT-4 може да има дребен принос към по-точното основаване на биооръжия. OpenAI отбелязва, че информация по тематиката има в обилие в Интернет и не е нужно изкуствен интелект да оказва помощ, с цел да се откри. Въпреки това логаритъмът може да улесни процеса и да помогне в намирането на съставки, прецизиране на предписания и така нататък

Авторите на изследването означават, че въпреки и актуалните модели да не усилват доста риска от основаване на биооръжия, идващите им генерации ще стават все по-умни и с повече качества. Затова са нужни непрекъснати инспекции и взаимна работа на сектора, с цел да се разработят и ползват системи и ограничения за отбрана.