Компанията предлага награди за изключителни открития Емил Василев преди 48

Компанията предлага награди " за изключителни открития "

Емил Василев преди 48 секунди 1 Сподели

Най-четени

IT НовиниДаниел Маринов - 19:05 | 11.04.2023

Храните, които софтуерните милиардери ядат, с цел да удължат живота си

IT НовиниДаниел Маринов - 21:21 | 11.04.2023

Майката на Мъск: Когато му отивам на посетители, дремя на матрак или одеяла на земята, или пък в гаража

IT НовиниЕмил Василев - 20:13 | 09.04.2023

Джамбази употребяват подправени тонколонки на JBL с цел да крадат коли

Емил Василевhttps://www.kaldata.com/

OpenAI, компанията основател на чатбота с изкуствен интелект ChatGPT, разгласи своя bug bounty стратегия, в която потребителите могат да рапортуват за „ уязвимости, неточности или пропуски в сигурността “ и да получат финансово заплащане за откриването им. Компанията разгласи награди от 200 до 20 000 $ според от сериозността на случая и се сплоти с известна платформа за намиране на уязвимости, с цел да усъвършенства процеса.

ChatGPT на OpenAI дава изчерпателни решения на потребителски запитвания и даже може да симулира завладяващи облици благодарение на няколко текстови подсказки.

Макар че технологията се развива със зашеметяващи темпове и дава някои умопомрачителни резултати, съществуват и опасения по отношение на сигурността на тези артикули. Изследователи на изкуствения разсъдък като Стюарт Ръсел предизвестяват, че без надзор възходът на изкуствения разсъдък може да докара до случай в софтуерната промишленост, сходен на този в Чернобил.

Bug bounty програмата на OpenAI

OpenAI се стреми да увери своите консуматори, че продуктите са безвредни и са обширно тествани, преди да бъдат пуснати на пазара. С програмата Bug Bounty компанията признава, че нейните системи могат да имат дефекти и уязвимости, само че се стреми да си сътрудничи с специалисти отвън своята организационна област, с цел да ги открие и в профил.

В обява в блога си OpenAI съобщи, че кани общността на откривателите на сигурността да взе участие и да рапортува за дефекти в системата им, с цел да я направи по-безопасна за всички. Компанията е планувала и тласъци според от сериозността на откритите дефекти.

Откритията с ниска степен на съвестност могат да донесат премия от 200 $, а откритията с изключителна степен на съвестност могат да получат премия до 20 000 $. Bugcrowd, водеща платформа за хонорари за уязвимости ще се занимава с процеса.

Съгласно уеб страницата на Bugcrowd за програмата, въпроси, свързани със наличието на подканите или отговорите на модела, като да вземем за пример да се накара моделът да напише злоумишлен код или да каже неприятни неща, не са част от обсега на програмата.

Това, което е включено, са цели на API, ChatGPT, корпоративни цели на трети страни, които евентуално могат да разкрият поверителна информация на OpenAI, и ключове от API-то на OpenAI. Валидирането на открита накърнимост завършва за към два часа. Досега са възнаградени 14 уязвимости със междинна сума за погашение от близо 1300 $.

Участието в Bug Bounty програмата също по този начин значи, че потребителите не могат да разкриват обществено откритите от тях уязвимости. Въпреки че OpenAI прикани за бистрота посредством това съдействие, не е ясно дали компанията възнамерява да разгласява лист с уязвимостите, откакто те бъдат отстранени.