Сам Алтман отговори на атаките: Пропускат важни технически детайли за AI
Главният изпълнителен шеф на OpenAI Сам Алтман е склонен частично от отвореното писмо, подписано от софтуерни водачи, отпред с създателите на Tesla Илон Мъск и на Apple Стив Возняк, в което се приканва за шестмесечно прекъсване на проучванията на AI.
Алтман обаче счита, че в писмото " липсват подробни механически елементи за това къде се нуждаем от пауза ", написа CNBC.
" Смятам, че предпазливостта и все по-строгото съблюдаване на разпоредбите за сигурност са в действителност значими, само че не мисля, че едно писмо е оптималният метод за решение на казуса. ", добави той.
Алтман направи забележките си по време на събитие на Масачузетския софтуерен институт, в което взе участие посредством видеоконферентна връзка.
През март Мъск, Возняк и десетки други учени приканиха за незабавна пауза в " опитите ", свързани с огромни езикови модели, които са " по-мощни от GPT-4 ", водещия езиков модел на OpenAI, или LLM. Оттогава писмото е подписано от над 25 000 души.
" Лабораториите за изкуствен интелект и самостоятелните специалисти би трябвало да употребяват тази пауза, с цел да разработят и приложат взаимно набор от общи протоколи за сигурност за планиране и създаване на модернизиран изкуствен интелект, които да бъдат прецизно одитирани и следени от самостоятелни външни специалисти ", се споделя в писмото.
Компанията OpenAI сътвори ChatGPT - бот с изкуствен интелект, който може да дава отговори, сходни на човешките, на въпроси, заложени от консуматор. Той провокира същинска гражданска война в света на технологиите, учредени на изкуствен интелект. Microsoft употребява технологията на OpenAI в своя чатбот Bing, а Гугъл неотдавна пусна съперника му Bard.
По-рано тази година Сам Алтман призна, че технологията на изкуствения разсъдък го кара да се " малко да се тормози ".
„ Особено съм обезпокоен, че тези модели могат да бъдат употребявани за широкомащабна дезинформация. Сега, когато стават все по-добри в писането на компютърен код, те могат да бъдат употребявани за хакерски атаки. “, съобщи той.
Въпреки заплахите, съгласно Алтман, това може да бъде и „ най-великата технология, която човечеството до момента е разработвало “.
Въпросите за безвредното и етично потребление на изкуствения разсъдък към този момент са във фокуса на Белия дом, Капитолия и заседателните зали в цяла Америка, отбелязва CNBC.
" Ще въведем още спомагателни елементи към GPT-4, свързани с всички аспекти на сигурността, които е значимо да бъдат прегледани и които бяха изцяло пропуснати в писмото ", безапелационен е изпълнителният шеф на OpenAI.
На фона на опасенията, изразени в писмото с призов за пауза в създаването на AI технологиите, създателят на Microsoft Бил Гейтс, е един от най-големите й последователи и изрично поддържа насърчаването на разработките.
Според него, развиването на AI е толкоз фундаментално, колкото основаването на микропроцесора, персоналния компютър, интернет и мобилния телефон. Тази технология „ ще промени метода, по който хората работят, учат, пътуват, получават здравни грижи и поддържат връзка между тях. Около него ще се преориентират цели промишлености. Бизнесът ще се отличава по това какъв брой добре го употребява “, уточни преди месец милиардерът.
AI може да понижи някои от най-големите несправедливости в света, споделя още той, добавяйки, че в международен мащаб най-голямото неравноправие е обвързвано със здравето: „ 5 милиона деца под 5-годишна възраст умират всяка година “, споделя Гейтс.
Това е спад от 10 милиона преди две десетилетия, само че към момента е шокиращо висок брой. Почти всички от тези деца са родени в небогати страни и умират от другояче предотвратими положения като диария или малария, написа още Гейтс и прибавя: „ Трудно е да си представим по-добро потребление на AI от спасяването на детски животи “.
Моделите на AI, употребявани в бедните страни, ще би трябвало да бъдат подготвени за разнообразни болести от тези в богатите. Те ще би трябвало да работят на разнообразни езици и да вземат поради разнообразни провокации, като да вземем за пример пациенти, които живеят доста надалеч от клиники или не могат да си разрешат да спрат да работят, в случай че се разболеят, показва Бил Гейтс.
Хората ще би трябвало да видят доказателства, че обвързваните със здравето AI модели са потребни, макар че няма да са съвършени и ще вършат неточности. Те би трябвало да бъдат тествани доста деликатно и вярно контролирани, което значи, че ще отнеме повече време за тяхното внедряване, в сравнение с в други области, споделя Гейтс.
По думите му изкуственият разсъдък трагично ще форсира и скоростта на медицински пробиви.
Относно навлизането на изкуственият разсъдък в образованието, филантропът показва, че през идващите 5 до 10 години управляваният от AI програмен продукт най-сетне ще извърши обещанието да революционизира метода, по който хората преподават и учат.
„ Той ще знае вашите ползи и вашия жанр на учене, тъй че да може да приспособи наличие, което да ви държи ангажирани. Ще мери равнището на вашата централизация, ще забележи по кое време губите интерес и ще разбере на какъв тип мотивация отговаряте. Ще дава незабавна противоположна връзка “, счита Бил Гейтс.
OpenAI, ръководена от софтуерния вложител Сам Алтман, е учредена като организация с нестопанска цел през 2015 година, с цел да организира проучвания за изкуствен интелект в интерес на човечеството.
Под управлението на Алтман OpenAI основава комерсиално поделение през 2019 година, с цел да може по-лесно да набира средства за финансиране на изчислителната мощ, нужна за образование на логаритмите. То подхваща по-различен метод и дава по-бърз обществен достъп до своите AI модели, за разлика от по-големите съперници като Гугъл на Alphabet Inc., която досега е разпространявала по-малко технологията си частично заради етични опасения.
Трафикът в ChatGPT платформата мина един милион консуматори няколко дни след старта си на 30 ноември. Анализатори в промишлеността оповестиха инструмента за голям софтуерен пробив и евентуална опция на актуалните търсачки в бъдеще.
OpenAI се надява един ден да реализира това, което откривателите на AI назовават " неестествен общ разсъдък " или технология, която може изцяло да доближи интелигентността и опциите на хората.
Алтман обаче счита, че в писмото " липсват подробни механически елементи за това къде се нуждаем от пауза ", написа CNBC.
" Смятам, че предпазливостта и все по-строгото съблюдаване на разпоредбите за сигурност са в действителност значими, само че не мисля, че едно писмо е оптималният метод за решение на казуса. ", добави той.
Алтман направи забележките си по време на събитие на Масачузетския софтуерен институт, в което взе участие посредством видеоконферентна връзка.
През март Мъск, Возняк и десетки други учени приканиха за незабавна пауза в " опитите ", свързани с огромни езикови модели, които са " по-мощни от GPT-4 ", водещия езиков модел на OpenAI, или LLM. Оттогава писмото е подписано от над 25 000 души.
" Лабораториите за изкуствен интелект и самостоятелните специалисти би трябвало да употребяват тази пауза, с цел да разработят и приложат взаимно набор от общи протоколи за сигурност за планиране и създаване на модернизиран изкуствен интелект, които да бъдат прецизно одитирани и следени от самостоятелни външни специалисти ", се споделя в писмото.
Компанията OpenAI сътвори ChatGPT - бот с изкуствен интелект, който може да дава отговори, сходни на човешките, на въпроси, заложени от консуматор. Той провокира същинска гражданска война в света на технологиите, учредени на изкуствен интелект. Microsoft употребява технологията на OpenAI в своя чатбот Bing, а Гугъл неотдавна пусна съперника му Bard.
По-рано тази година Сам Алтман призна, че технологията на изкуствения разсъдък го кара да се " малко да се тормози ".
„ Особено съм обезпокоен, че тези модели могат да бъдат употребявани за широкомащабна дезинформация. Сега, когато стават все по-добри в писането на компютърен код, те могат да бъдат употребявани за хакерски атаки. “, съобщи той.
Въпреки заплахите, съгласно Алтман, това може да бъде и „ най-великата технология, която човечеството до момента е разработвало “.
Въпросите за безвредното и етично потребление на изкуствения разсъдък към този момент са във фокуса на Белия дом, Капитолия и заседателните зали в цяла Америка, отбелязва CNBC.
" Ще въведем още спомагателни елементи към GPT-4, свързани с всички аспекти на сигурността, които е значимо да бъдат прегледани и които бяха изцяло пропуснати в писмото ", безапелационен е изпълнителният шеф на OpenAI.
На фона на опасенията, изразени в писмото с призов за пауза в създаването на AI технологиите, създателят на Microsoft Бил Гейтс, е един от най-големите й последователи и изрично поддържа насърчаването на разработките.
Според него, развиването на AI е толкоз фундаментално, колкото основаването на микропроцесора, персоналния компютър, интернет и мобилния телефон. Тази технология „ ще промени метода, по който хората работят, учат, пътуват, получават здравни грижи и поддържат връзка между тях. Около него ще се преориентират цели промишлености. Бизнесът ще се отличава по това какъв брой добре го употребява “, уточни преди месец милиардерът.
AI може да понижи някои от най-големите несправедливости в света, споделя още той, добавяйки, че в международен мащаб най-голямото неравноправие е обвързвано със здравето: „ 5 милиона деца под 5-годишна възраст умират всяка година “, споделя Гейтс.
Това е спад от 10 милиона преди две десетилетия, само че към момента е шокиращо висок брой. Почти всички от тези деца са родени в небогати страни и умират от другояче предотвратими положения като диария или малария, написа още Гейтс и прибавя: „ Трудно е да си представим по-добро потребление на AI от спасяването на детски животи “.
Моделите на AI, употребявани в бедните страни, ще би трябвало да бъдат подготвени за разнообразни болести от тези в богатите. Те ще би трябвало да работят на разнообразни езици и да вземат поради разнообразни провокации, като да вземем за пример пациенти, които живеят доста надалеч от клиники или не могат да си разрешат да спрат да работят, в случай че се разболеят, показва Бил Гейтс.
Хората ще би трябвало да видят доказателства, че обвързваните със здравето AI модели са потребни, макар че няма да са съвършени и ще вършат неточности. Те би трябвало да бъдат тествани доста деликатно и вярно контролирани, което значи, че ще отнеме повече време за тяхното внедряване, в сравнение с в други области, споделя Гейтс.
По думите му изкуственият разсъдък трагично ще форсира и скоростта на медицински пробиви.
Относно навлизането на изкуственият разсъдък в образованието, филантропът показва, че през идващите 5 до 10 години управляваният от AI програмен продукт най-сетне ще извърши обещанието да революционизира метода, по който хората преподават и учат.
„ Той ще знае вашите ползи и вашия жанр на учене, тъй че да може да приспособи наличие, което да ви държи ангажирани. Ще мери равнището на вашата централизация, ще забележи по кое време губите интерес и ще разбере на какъв тип мотивация отговаряте. Ще дава незабавна противоположна връзка “, счита Бил Гейтс.
OpenAI, ръководена от софтуерния вложител Сам Алтман, е учредена като организация с нестопанска цел през 2015 година, с цел да организира проучвания за изкуствен интелект в интерес на човечеството.
Под управлението на Алтман OpenAI основава комерсиално поделение през 2019 година, с цел да може по-лесно да набира средства за финансиране на изчислителната мощ, нужна за образование на логаритмите. То подхваща по-различен метод и дава по-бърз обществен достъп до своите AI модели, за разлика от по-големите съперници като Гугъл на Alphabet Inc., която досега е разпространявала по-малко технологията си частично заради етични опасения.
Трафикът в ChatGPT платформата мина един милион консуматори няколко дни след старта си на 30 ноември. Анализатори в промишлеността оповестиха инструмента за голям софтуерен пробив и евентуална опция на актуалните търсачки в бъдеще.
OpenAI се надява един ден да реализира това, което откривателите на AI назовават " неестествен общ разсъдък " или технология, която може изцяло да доближи интелигентността и опциите на хората.
Източник: profit.bg
КОМЕНТАРИ