OpenAI стартира API за ChatGPT със специален капацитет за корпоративни клиенти
Вече разработчиците могат публично да интегрират ChatGPT в своите артикули и услуги, пригответе се
Емил Василев преди 12 секунди 0 СподелиНай-четени
АвтомобилиДаниел Десподов - 17:33 | 01.03.2023Toyota разглоби Tesla Model Y: „ Това е произведение на изкуството “
ТелефониДаниел Десподов - 12:47 | 27.02.2023Официалният лист на 18-те смарт телефона на Xiaomi, които до края на март ще получат MIUI 14
IT НовиниДаниел Десподов - 11:29 | 27.02.2023Нашите геноми са цялостни с „ отпадъчна ДНК “, която може да е доста по-важна, в сравнение с допускаме
Емил Василевhttps://www.kaldata.com/Да наречете ChatGPT безвъзмезден инструмент с изкуствен интелект за генериране на текст е мощно подценяване.
Към декември ChatGPT има над 100 милиона дейни консуматори месечно. Той притегли огромно медийно внимание и към този момент е употребен за написването на стотици електронни книги в магазина Kindle на Amazon. Приписва му се и съавторство в най-малко една научна публикация.
Но защото OpenAI е бизнес, въпреки и с лимитирана облага, трябваше по някакъв метод да монетизира ChatGPT, с цел да не се ядосват вложителите в него. Компанията направи крачка към това с стартирането на премиум услугата ChatGPT Plus през февруари. Вчера компанията направи още по-голяма крачка, като показа API, който ще разреши на всеки бизнес да вгради технологията на ChatGPT в своите приложения, уеб страници, артикули и услуги.
Планът постоянно е бил API. Това твърди Грег Брокман, президент и ръководител на OpenAI и един от съоснователите на компанията. Той беседва с кореспондент на TechCrunch посредством видеоразговор преди стартирането на API-то на ChatGPT.
„ Отнема ни известно време, с цел да достигнем несъмнено равнище на качество на тези приложни програмни интерфейси “, сподели Брокман. „ Мисля, че това е една опция да можем да отговорим на търсенето и мащаба. “
Брокман споделя, че API-то на ChatGPT се зарежда от същия модел на изкуствения разсъдък, който стои зад ChatGPT, наименуван „ gpt-3.5-turbo “. GPT-3.5 е най-мощният модел за генериране на текст, който OpenAI предлага през днешния ден посредством своя API пакет. Прозвището „ турбо “ се отнася до усъвършенствана, по-отзивчива версия на GPT-3.5, която OpenAI „ безшумно “ тества за ChatGPT.
На цена от 0,002 $ за 1000 токена или към 750 думи, Брокман твърди, че API-то им ще може да ръководи редица преживявания, в това число „ нечат “ приложения. Snap, Quizlet, Instacart и Shopify са измежду първите, които ще се възползват от това.
Първоначалната мотивация за създаването на „ gpt-3.5turbo “ може да е била да се понижат големите изчислителни разноски на ChatGPT. Главният изпълнителен шеф на OpenAI Сам Алтман един път назова разноските на ChatGPT „ главозамайващи “, като ги оцени на няколко цента на чат за изчислителни разноски.
Но Брокман споделя, че „ gpt-3.5-turbo “ е усъвършенстван по други способи.
„ Ако изграждате преподавател с изкуствен интелект, в никакъв случай не желаете той просто да даде отговор на ученика. Искате той постоянно да го изяснява и да му оказва помощ да учи – това е образец за тип система, която би трябвало да можете да изградите с API “, споделя Брокман. „ Смятаме, че това ще бъде нещо, което ще направи API-то доста по-използваемо и достъпнo. “
API-то на ChatGPT, да вземем за пример е в основата на „ My AI “, неотдавна оповестения чатбот на Snap за клиентите на Snapchat Plus, и новата функционалност за виртуални учители Q-Chat на Quizlet. Shopify употребява ChatGPT API, с цел да сътвори персонализиран помощник за рекомендации за извършване на покупки.
В началото потребителите можеха да подтикват ChatGPT да дава отговор на въпроси по расистки и сексистки метод, което е отражение на необективните данни, на които ChatGPT е бил подготвен в началото. (Данните за образование на ChatGPT включват необятен набор от интернет наличие, а точно електронни книги, изявления в Reddit и публикации в Wikipedia). ChatGPT също по този начин си измисля обстоятелства без да разкрива, че го прави – събитие в изкуствения разсъдък, известно като илюзия.
ChatGPT и сходни на нея системи са уязвими и към офанзиви, основани на подкани, които ги карат да извършват задания, които не са били част от първичните им цели. Цели общности в Reddit са се формирали към намирането на способи за „ бягство от пандиза “ на ChatGPT и заобикаляне на всички отбрани, въведени от OpenAI. В един от по-малко обидните образци чиновник на стартъпа Scale AI съумя да накара ChatGPT да разкрие информация за вътрешните си механически механизми.
Без подозрение фирмите не биха желали да попаднат под прицел. Брокман е безапелационен, че това няма да се случи. Защо? Една от аргументите, споделя той, е непрекъснатото рационализиране на бекенда. Но Брокман натъртва на нов (и несъмнено по-малко спорен) метод, който OpenAI назовава Chat Markup Language/Език за маркиране на чата, или ChatML. ChatML подава текст към API-то на ChatGPT като поредност от известия дружно с метаданни. Това е в контраст на общоприетия ChatGPT, който употребява недопечен текст, показан като поредност от лексеми (например думата „ приказен “ ще бъде разграничена на срички „ фан “, „ тас “, „ ти и „ чен “).
Например, при задаване на подкана „ Дай ми забавни хрумвания за празненство за 30-ия ми рожден ден? “ разработчикът може да избере да добави тази подкана с спомагателна подкана от вида „ Вие сте занимателен чатбот, основан да оказва помощ на потребителите с въпросите, които те задават. Трябва да отговаряте правилно и по занимателен метод! “ или „ Вие сте бот “, преди API-то на ChatGPT да го обработи. Според Брокман тези указания оказват помощ за по-доброто адаптиране и пречистване на отговорите на ChatGPT.
„ Преминаваме към API от по-високо равнище. Ако имате по-структуриран метод за показване на входните данни към системата, при който казвате: „ това е от разработчика “ или „ това е от потребителя “ … Би трябвало да чакам, че като разработчик в действителност можете да бъдете по-устойчиви употребявайки ChatML против тези типове подканващи офанзиви “, сподели Брокман.
Друга смяна, която надяваме се ще предотврати непреднамереното държание на ChatGPT, са по-честите актуализации на модела. С стартирането на „ gpt-3.5-turbo “ разработчиците по дифолт ще бъдат автоматизирано обновявани до последния постоянен модел на OpenAI, споделя Брокман, като се стартира от „ gpt-3.5-turbo-0301 “ (пуснат днес). Разработчиците обаче ще имат опция да останат с по-стар модел, в случай че решат, което може ненапълно да отхвърли това преимущество.
Независимо дали ще изберат да актуализират до най-новия модел или не, Брокман отбелязва, че някои клиенти, основно огромни предприятия със надлежно огромни бюджети ще имат по-задълбочен надзор върху продуктивността на системата с въвеждането на специфични проекти за потенциал. За първи път в документите, изтекла по-рано този месец, проектите за специфичен потенциал на OpenAI, стартирани през днешния ден, разрешават на клиентите да заплащат за систематизиране на изчислителна инфраструктура за работа с модела на OpenAI.
В допълнение към „ цялостния надзор “ върху натоварването на системата, нормално повикванията към API-то на OpenAI се реализират на споделени изчислителни запаси. Отделеният потенциал ще даде опция на клиентите да задействат функционалности като по-дълги ограничавания на подтекста. Контекстните граници се отнасят до текста, който моделът взема поради, преди да генерира отговор. По-дългите контекстни граници разрешават на модела да „ запомни “ повече текст всъщност, въпреки че по-високите контекстни граници може да не решат всички проблеми с отклоненията и точността в отговорите, те могат да доведат до това модели като „ gpt-3.5turbo “ да „ халюцинират “ по-малко.
Брокман споделя, че клиентите със специфичен потенциал могат да чакат модели „ gpt-3.5-turbo “ с до 16 хиляди контекстни прозореца, което значи, че те могат да одобряват четири пъти повече токени/думи от общоприетия модел на ChatGPT. Това може да разреши на някого да вмъква големи страници с данни и в същото време да получава рационални отговори от модела, да вземем за пример – достижение, което през днешния ден не е допустимо.
Брокман загатна за общо стартиране в бъдеще, само че не скоро.
„ Контекстните прозорци стартират да се усилват и част от повода, заради която сега това ще се предлага единствено за клиенти със профилиран потенциал, е, че има доста взаимни отстъпки с продуктивността от наша страна “, сподели Брокман. „ В последна сметка може да сме в положение да предложим версия на същото нещо при поискване. “
Като се има поради възходящият напън върху OpenAI да излезе на облага след многомилиардната инвестиция от Microsoft, това не би било доста изненадващо.
