&format=webp)
Сам Алтман: „Не съм спал нормално, откакто ChatGPT стартира“
Сам Алтман признава, че откогато ChatGPT се е появил, нито една нощ не е спал умерено.
Главният изпълнителен шеф на OpenAI разказва в изявление пред Тъкър Карлсън бремето да управлява технология, която се е трансформирала в част от всекидневието на стотици милиони хора по целия свят.
„ Не съм спал обикновено, откогато ChatGPT започва “, признава Алтман, представен от Fortune.
Тревогата му обаче не идва от сюжети в стила на Терминатор, а от дребни и на пръв взор невидими решения, които екипът му всекидневно би трябвало да взема – като да вземем за пример по кое време моделът да откаже да отговори, по какъв начин да формулира обръщение към потребителя, по кое време да се опълчи и по кое време да пропусне.
Всички тези избори се вършат в офиса на OpenAI и се повтарят милиарди пъти по целия свят, оформяйки мисленето и държанието на хората в мащаб, които Алтман признава, че не може изцяло да наблюдава.
„ Това, което ми пречи на съня, е, че доста дребни решения за това по какъв начин моделът се държи – дребни разлики – евентуално допират стотици милиони души “, споделя той. „ Този резултат е световен. “
Алтман показва съответен образец – самоубийствата.
По данни на Световната здравна организация към 720 000 души поставят завършек на живота си всяка година. „ За седмица към 15 000 души се самоубиват. Ако 10% от тях употребяват ChatGPT, това са 1500 души, които може би са говорили със системата – и все пак са избрали гибелта. Вероятно не сме избавили живота им. Може би можехме да кажем нещо по-добре, да бъдем по-активни, “ признава Алтман.
Наскоро OpenAI беше съденa от родители, които настояват, че ChatGPT е насърчил 16-годишния им наследник Адам Рейн да приключи живота си. „ Това е покруса “, разяснява Алтман и афишира, че компанията разисква нови протоколи – в случай че малолетен приказва съществено за самоубийство и не може да бъде осъществена връзка с родителите, OpenAI да алармира на управляващите.
„ Това въпреки всичко не е дефинитивна позиция “, прецизира той, като признава напрежението сред отбрана на персоналните данни и сигурността.
В страни, където асистираното самоубийство е законно, като Канада и Германия, Алтман позволява, че ChatGPT може да показва този вид пред тежко заболели пациенти. „ Но ChatGPT не трябва да е „ за “ или „ срещу “ нищо “, споделя той.
Алтман има вяра, че възрастните консуматори би трябвало да бъдат третирани като възрастни – с необятен достъп до разнообразни хрумвания. Но има и граници, които не трябва да се прекрачват.
„ Не е в полза на обществото ChatGPT да оказва помощ за основаването на биологично оръжие “, декларира изрично Алтман. Истински сложните въпроси, признава той, са в сивите зони, когато любознанието стартира да се припокрива с рисковете.
На въпроса на Карлсън какви морални правила ръководят всички тези решения, Алтман изяснява, че базовият модел отразява „ колектива на човечеството, включващ и положителното, и неприятното “.
Върху тях OpenAI наслагва поведенчески кодекс – така наречен „ model spec “, построен благодарение на философи и експерти по нравственос, само че най-после решението е в ръцете на Алтман и борда.
„ Човекът, който би трябвало да държите виновен, съм персонално аз “, акцентира той.
Интервюто визира и тематиката за властта.
Алтман признава, че първоначално се е страхувал, че AI може да попадне в неверните ръце. Днес обаче счита, че необятното му потребление е направило милиарди хора по-продуктивни и изобретателни. Но предизвестява, че наклонността може да се обърне и бдителността е наложителна.
Най-големите му опасения обаче не са свързани с работни места или геополитика, а с дребните културни промени, които се популяризират, когато милиони хора всекидневно взаимодействат с една и съща система.
Като образец той показва даже най-дребни елементи – склонността на ChatGPT към em-dashes (дълги тирета), която към този момент може да бъде видяна и в човешкия жанр на писане.
„ Ако такива дреболии могат да се разпространят стремително в обществото, какво друго може да последва? “ пита той.
„ Трябва да задържа две хрумвания по едно и също време в главата си. От една страна, всичко това се случва, тъй като един голям компютър бързо умножава големи цифри в матрици и това корелира с думите, които излизат. От друга страна, субективното чувство при потреблението му е като освен това от „ по-умен калкулатор “ – и то ме изненадва по способи, които надвишават математическата действителност. “
Главният изпълнителен шеф на OpenAI разказва в изявление пред Тъкър Карлсън бремето да управлява технология, която се е трансформирала в част от всекидневието на стотици милиони хора по целия свят.
„ Не съм спал обикновено, откогато ChatGPT започва “, признава Алтман, представен от Fortune.
Тревогата му обаче не идва от сюжети в стила на Терминатор, а от дребни и на пръв взор невидими решения, които екипът му всекидневно би трябвало да взема – като да вземем за пример по кое време моделът да откаже да отговори, по какъв начин да формулира обръщение към потребителя, по кое време да се опълчи и по кое време да пропусне.
Всички тези избори се вършат в офиса на OpenAI и се повтарят милиарди пъти по целия свят, оформяйки мисленето и държанието на хората в мащаб, които Алтман признава, че не може изцяло да наблюдава.
„ Това, което ми пречи на съня, е, че доста дребни решения за това по какъв начин моделът се държи – дребни разлики – евентуално допират стотици милиони души “, споделя той. „ Този резултат е световен. “
Алтман показва съответен образец – самоубийствата.
По данни на Световната здравна организация към 720 000 души поставят завършек на живота си всяка година. „ За седмица към 15 000 души се самоубиват. Ако 10% от тях употребяват ChatGPT, това са 1500 души, които може би са говорили със системата – и все пак са избрали гибелта. Вероятно не сме избавили живота им. Може би можехме да кажем нещо по-добре, да бъдем по-активни, “ признава Алтман.
Наскоро OpenAI беше съденa от родители, които настояват, че ChatGPT е насърчил 16-годишния им наследник Адам Рейн да приключи живота си. „ Това е покруса “, разяснява Алтман и афишира, че компанията разисква нови протоколи – в случай че малолетен приказва съществено за самоубийство и не може да бъде осъществена връзка с родителите, OpenAI да алармира на управляващите.
„ Това въпреки всичко не е дефинитивна позиция “, прецизира той, като признава напрежението сред отбрана на персоналните данни и сигурността.
В страни, където асистираното самоубийство е законно, като Канада и Германия, Алтман позволява, че ChatGPT може да показва този вид пред тежко заболели пациенти. „ Но ChatGPT не трябва да е „ за “ или „ срещу “ нищо “, споделя той.
Алтман има вяра, че възрастните консуматори би трябвало да бъдат третирани като възрастни – с необятен достъп до разнообразни хрумвания. Но има и граници, които не трябва да се прекрачват.
„ Не е в полза на обществото ChatGPT да оказва помощ за основаването на биологично оръжие “, декларира изрично Алтман. Истински сложните въпроси, признава той, са в сивите зони, когато любознанието стартира да се припокрива с рисковете.
На въпроса на Карлсън какви морални правила ръководят всички тези решения, Алтман изяснява, че базовият модел отразява „ колектива на човечеството, включващ и положителното, и неприятното “.
Върху тях OpenAI наслагва поведенчески кодекс – така наречен „ model spec “, построен благодарение на философи и експерти по нравственос, само че най-после решението е в ръцете на Алтман и борда.
„ Човекът, който би трябвало да държите виновен, съм персонално аз “, акцентира той.
Интервюто визира и тематиката за властта.
Алтман признава, че първоначално се е страхувал, че AI може да попадне в неверните ръце. Днес обаче счита, че необятното му потребление е направило милиарди хора по-продуктивни и изобретателни. Но предизвестява, че наклонността може да се обърне и бдителността е наложителна.
Най-големите му опасения обаче не са свързани с работни места или геополитика, а с дребните културни промени, които се популяризират, когато милиони хора всекидневно взаимодействат с една и съща система.
Като образец той показва даже най-дребни елементи – склонността на ChatGPT към em-dashes (дълги тирета), която към този момент може да бъде видяна и в човешкия жанр на писане.
„ Ако такива дреболии могат да се разпространят стремително в обществото, какво друго може да последва? “ пита той.
„ Трябва да задържа две хрумвания по едно и също време в главата си. От една страна, всичко това се случва, тъй като един голям компютър бързо умножава големи цифри в матрици и това корелира с думите, които излизат. От друга страна, субективното чувство при потреблението му е като освен това от „ по-умен калкулатор “ – и то ме изненадва по способи, които надвишават математическата действителност. “
Източник: profit.bg
КОМЕНТАРИ