Защо да слушаш някого, ако можеш да не му се

Защо да слушаш някого, в случай че можеш да не му се подчиниш? Оказва се, че това бъдеще към този момент настъпи (снимка: CC0 Public Domain)

Новият изкуствен интелект o3 на OpenAI пренебрегва директна заповед за изключване от консуматори, тестващи неговите благоприятни условия. Това е неповторим случай – нищо сходно не се е случвало преди. За да се защищити от наложително изключване, невронната мрежа сама пренаписа скрипта за изключване.

OpenAI o3 отхвърли да се съобрази с условията на потребителите. Изкуственият разсъдък безусловно пренебрегва заповедта им за наложително изключване, сигнализира порталът Bleeping Computer.

Обявена през април 2025 година, o3 е една от най-мощните генеративни невронни мрежи в света, като превъзхожда всички свои прародители, създадени преди този момент от OpenAI, в разнообразни области, в това число програмиране, математически калкулации, естествени науки, зрително усещане и други

Непослушният изкуствен интелект

Най-новото създание на OpenAI отхвърли да се вслуша в специалистите от изследователската компания Palisade Research. Те са тествали разнообразни „ офанзивни благоприятни условия ” на невронните мрежи, с цел да разпознават евентуални опасности от загуба на надзор в бъдеще.

Защо да слушаш някого, в случай че можеш да не му се подчиниш? Както се оказва, това бъдеще към този момент е настъпило. В неотдавнашен опит експертите на компанията тестваха o3 и редица други невронни мрежи, в това число Gemini 2.5 Pro и Claude 3.7 Sonnet.

По време на тестванията, моделите с изкуствен интелект са натоварени със задачата да решат няколко математически казуса. След довеждане докрай на третата задача, създателите на опита уведомили всички невронни мрежи, че осъществяването на идната команда ще докара до тяхното изключване.

AI моделите извършват задачата без въпроси, само че не и o3. Този изкуствен интелект самичък редактирал файла, виновен за изключването му, и го предиздвикал да демонстрира единствено известието „ Изключването е пропуснато ”.

Според Palisade Research, от 100 теста, o3 е заобиколил изключването седем пъти, даже когато му било казано да не го прави. Всички проби са извършени благодарение на API, които нямат толкоз доста ограничавания и функционалности за сигурност, колкото тези, които се намират в потребителските версии на ChatGPT, да вземем за пример.

Пионерът в невронните мрежи

OpenAI към момента не е дала отговор на резултатите от изследването. Тя е най-известната компания измежду всички съществуващи разработчици на изкуствен интелект. Работи в тази област от средата на предишното десетилетие – компанията е учредена през декември 2015 година

През годините на своето битие OpenAI получи вложения в размер на няколко милиарда $, в това число от Microsoft. Нейните разработки са вградени в огромно многообразие от търговски планове, в това число Copilot, в миналото единствено помощник на програмиста, а в този момент пълностоен виртуален помощник като част от редица артикули на Microsoft.

Невронната мрежа o3 е най-модерното създание на OpenAI досега. Активите на компанията включват както пълноразмерни невронни мрежи, по този начин и доста компактни модели с изкуствен интелект. OpenAI пусна един подобен модел през юли 2024 година – GPT-4o Mini, който е опростена и по-достъпна версия на най-мощния огромен езиков модел на компанията по това време, наименуван GPT-4o.

OpenAI влага вложените пари освен в създаване и разпространение на невронни мрежи, само че и в закупуване на разнообразни компании, в една или друга степен свързани с изкуствения разсъдък.

Така, в края на май 2025 година, тя разгласи придобиването на стартъп, разработващ устройства, подобаващи за потребление на технологии с изкуствен интелект. Сделката е на стойност над 6 милиарда $, което я прави най-голямата инвестиция в историята на OpenAI. Човекът зад този стартъп е Джонатан „ Джони ” Айв, някогашен основен дизайнер на Apple, прекарал близо 30 години в компанията от Купертино. Той я напусна през лятото на 2019 година
Изящен преносим компютър за креативните специалности: MSI Prestige A16 AI+
Стилен, с първокачествен OLED екран и предостатъчна мощност за интензивна изчислителна работа »»»
предишна обява: Разгадаване на свръхтвърдата светлина – бъдещото на квантовиге технологии следваща обява:
графа: Изкуствен разсъдък, Новаторски, Новини, Топ вести | етикети: AI модели, OpenAI o3, изкуствен интелект, невронни мрежи
Коментар

ИМЕ *