Изкуственият интелект се развива все по-бързо и съвсем скоро темпото

Изкуственият разсъдък се развива все по-бързо и напълно скоро темпото му ще стане извънредно бързо. А с това и рисковете от него - по-реални. Някои от заплахите може да са много по-сериозни от подвеждащи обстоятелства и подправени фотоси, които сами по себе си също могат да имат неприятни последствия.

Компанията OpenAI е създадел на известния бот ChatGPT и съпътстващите го модели за изкуствен интелект (AI) GPT. Тя беше и подложена на критика, че не обръща задоволително внимание на рисковете.

В отговор на недоволството, тя разгласи, че е основала нов екип от специалисти, които дружно ще работят, с цел да намерят и оценят рисковете на AI моделите, в това число " пагубните ". Те ще би трябвало да предложат и решения за тяхното попречване, оповестява TechCrunch.

Екипът ще преглежда всички вероятни рискове - от това AI да стартира да основава злотворен програмен код и вируси, през опити да излъже хората умишлено. Ще се обърне внимание и на по-абстрактни на пръв взор опасности, като изкуствен интелект да се употребява под някаква форма за химични, биологични или нуклеарни закани. Трябва да се прегледат евентуални рискове, които може да доведат до заличаване на човечеството.

Екипът ще преглежда и " по-малко явни " опасности. За задачата ще приема и хрумвания от обществото и даже ще има премия от 25 000 $ и предложение за работа в компанията за едно от десетте най-хубави оферти. Условието е участниците да си показват, че имат безграничен достъп до AI моделите на компанията и да измислят " най-уникалната, въпреки всичко евентуална, евентуално катастрофична приложимост на модела ". Компанията ще създаде и модел, който да прави оценка риска, както и процеси и правила при създаването и мониторинга на умни логаритми.