През последните месеци се появиха много AI модели, които, въпреки

През последните месеци се появиха доста AI модели, които, макар че удивляват с необятните си благоприятни условия, крият известна опасност за целия свят
(снимка: CC0 Public Domain)

Фондация Mozilla, организацията с нестопанска цел зад браузъра Firefox, стартира нов план. Това ще бъде надеждна система с изкуствен интелект, която се базира на отворен код и ще се употребява с доверие измежду потребителите.

През последните месеци се появиха доста AI модели, които, макар че удивляват с необятните си благоприятни условия, крият известна опасност за целия свят, споделя Марк Сърман, основен изпълнителен шеф на започващата компания за изкуствен интелект Mozilla.ai.

Превърналият се в стандарт за промишлеността ChatGPT на OpenAI може да написа злоумишлен програмен продукт, да открива уязвимости в кода с отворен код и да основава фишинг уеб сайтове, които възпроизвеждат типа на планове с огромен трафик.

Изкуственият разсъдък Stable Diffusion пък се употребява за генериране на изображения с нецензурно наличие, „ дийпфейкове ” и подиуми на принуждение. Създателите на тези модели настояват, че подхващат някои стъпки за ограничение на злоупотребите, само че Mozilla счита, че това не е задоволително.
още по темата
Фондацията задели 30 милиона $ за основаване на започваща компания, наречена Mozilla.ai. Мърк Сърман я разказва като организация, която съчетава характерностите на изследователска компания и общественост.

В началния стадий Mozilla.ai притегли екип от 25 души – инженери, учени и продуктови мениджъри, а дълготрайната цел е основаване на огромна мрежа от свързани компании и проучвателен групи – започващи компании и университетски институции, които споделят полезностите на плана.

Mozilla.ai има вяра, че на пазара има търсене на сигурни AI системи и софтуерната промишленост ще може да употребява достиженията на стартъпа като общоприет набор от принадлежности, по прилика с Linux и Apache. Очаква се планът да бъде подсилен както от научни организации, по този начин и от търговски компании.

В същото време Mozilla.ai не е организация с нестопанска цел – тя се придържа към избрани етични правила, само че последователно уголемява обсега на своята активност. Този модел обезпечава известна еластичност и разрешава на стартъпа да употребява опита от други планове.

Така да вземем за пример, OpenAI беше основана през 2015 година като организация с нестопанска цел, само че трябваше да промени фрапантно тактиката си, с цел да може да продължи проучванията, и това е притеснителен казус.

В близко бъдеще Mozilla.ai възнамерява да създаде система, която разрешава на потребителите да уточняват източниците на AI отговори, както и система, която им дава надзор върху логаритмите за препоръчване на наличие – сходно на YouTube, Twitter и TikTok. Разработчиците не дават обещание бърз резултат, само че първите артикули може да се появят преди края на годината.