Секс партита, LSD и създаване на по-умен от човека AI: Какво се случва зад кулисите на OpenAI
Последиците от изработката на повсеместен изкуствен интелект наподобява стоят на назад във времето
Преди няколко дни Жан Лейке напусна OpenAI. Изследователят бе началник на екип, който трябваше да предотврати рисковете от основаването на AGI - повсеместен изкуствен интелект, чиито благоприятни условия са равни или по-високи от човешките, написа
" Не съм склонен с управлението на OpenAI по отношение на главните цели на компанията от много време, до момента в който най-сетне достигнахме точка на изкривяване. Вярвам, че доста по-голяма част от ресурсите ни би трябвало да бъде изразходвани за подготовка за идващите генерации модели, за това те да са в действителност сигурни и безвредни. За това какво ще е въздействието им върху обществото.
Тези проблеми са много сложни за поправяне и съм угрижен, че не сме на траектория да стигнем до там.През последните няколко месеца екипът ми плаваше против течението. Борехме се за изчислителна мощност, с цел да можем да организираме проучванията си, само че това ставаше все по-трудно.
Изграждането на по-умни от индивида машини е едно извънредно рисково начинание. OpenAI поема голяма отговорност от името на цялото човечество. Но през последните години културата и процесите на сигурност заеха назад във времето пред лъскавите артикули. Отдавна е време да се заемем необикновено съществено с последствията от AGI ", написа Жан Лейке в обществената мрежа Х.
Той приключва своята обява със необичайно звучащата фраза " Научи се да почувстваш AGI ".
Преди време стана ясно, че основният академик на OpenAI, Иля Суцкевер, е захласнат от фразата " почувствай AGI ". Той даже провеждал полу-религиозни церемонии в името на всеобщия изкуствен интелект.
" Ако не чувствате AGI, когато се разсъните и когато заспите, не би трябвало да сте в тази компания ", съобщи преди време OpenAI.
Изглежда намигването към тази фраза е отприщило теч на много " пикантна " информация.
Соня Джоузеф е експерт по машинно образование от Принстън, като сега тя е докторант, изследващ мултимодална интерпретируемост. Предишната ѝ среда е била формирана от експерти по AI в Силициевата котловина, измежду които и доста чиновници от OpenAI.
" Да си дейна част от хакерската сцена на Силицевата котловина, е като да имаш кариера на политик в сянка ", стартира Соня Джоузеф.
" Когато бях там попаднах в средата на елитни кръгове в областта на AI-технологиите. Виждала съм някои тревожни неща към обществените кръгове на едни от първите чиновници в OpenAI, техните другари и колеги-предприемачи, за които до момента съм мълчала.
Не е мое право да приказвам за какво Ян Лейке и екипът на супергрупата подадоха оставки. Нямам визия за какво и не мога да направя никакви искания. Вярвам обаче, че моите културни наблюдения върху средата са много показателни за протичащото се в нея.
Секс празненства и тежка приложимост на LSD от някои елитни откриватели на AI са процедура, която основава отрицателни последици за дамите в сферата и за сигурността към AGI като цяло.
Те са емблематични за по-широки проблеми: климат на насила, който възстановява безразсъдството и прекосяването на граници.
Няма нищо неприятно в секс празненствата и тежката приложимост на LSD на доктрина, само че съчетано със сянката на групи от ползи със 100 милиарда $ в банковата сметка това води да една в действителност развалена обществена динамичност. Представете си банкерите от Уолстрийт от 2008 година на LSD - обстановката не вещае нищо положително за сигурността на AI.
Жените са като канарчетата в мината. Те постоянно са първите, които схващат, че нещо се е объркало извънредно, и усещат културния въглероден окис във въздуха. И когато повдигна казуса чувствам мигновено затваряне и групово мислене.
Вероятно тези проблеми в действителност не са на OpenAI, а са признак на доста по-дълбоко изгниване в Долината. Иска ми се да мога да кажа повече, само че евентуално не би трябвало.
Не пиша това от името на никой и не желая да генерализирам. Има толкоз доста брилянтни, благи, невероятни хора в OpenAI и има толкоз доста брилянтни, благи и невероятни хора в Anthropic/EA/Google. Аз съм агностик. Моята единствена преданост е уважението и достолепието на човешкия живот ", написа Соня Джоузеф.
" Не съм под NDA. Никога не съм работила за OpenAI ", добавя Джоузеф. " Просто следих заформилата се просвета към откривателите на AI в Сан-Франциско, чувах вътрешна информация, знаех за подмолни покупко-продажби и е срещнах с много " изгорели ".
Трудно е да се създадат заключения от изявленията на Джоузеф, тъй като те не са съответни. Те обаче звучат разумно на фона на корпоративната просвета в IT бранша, където " изкарването на артикул по-бързо от конкуренцията " е водещ принцип. Все повече някогашни чиновници от сферата на изкуственият разсъдък " бият камбаната ", че сигурността и следствията от технологията за обществото стоят на назад във времето. Междувременно всички водачи в сегмента са се прицелили в създаването на AGI - изкуствен интелект с равни или по-големи умствени качества от нашите лични.
Преди няколко дни Жан Лейке напусна OpenAI. Изследователят бе началник на екип, който трябваше да предотврати рисковете от основаването на AGI - повсеместен изкуствен интелект, чиито благоприятни условия са равни или по-високи от човешките, написа
" Не съм склонен с управлението на OpenAI по отношение на главните цели на компанията от много време, до момента в който най-сетне достигнахме точка на изкривяване. Вярвам, че доста по-голяма част от ресурсите ни би трябвало да бъде изразходвани за подготовка за идващите генерации модели, за това те да са в действителност сигурни и безвредни. За това какво ще е въздействието им върху обществото.
Тези проблеми са много сложни за поправяне и съм угрижен, че не сме на траектория да стигнем до там.През последните няколко месеца екипът ми плаваше против течението. Борехме се за изчислителна мощност, с цел да можем да организираме проучванията си, само че това ставаше все по-трудно.
Изграждането на по-умни от индивида машини е едно извънредно рисково начинание. OpenAI поема голяма отговорност от името на цялото човечество. Но през последните години културата и процесите на сигурност заеха назад във времето пред лъскавите артикули. Отдавна е време да се заемем необикновено съществено с последствията от AGI ", написа Жан Лейке в обществената мрежа Х.
Той приключва своята обява със необичайно звучащата фраза " Научи се да почувстваш AGI ".
Преди време стана ясно, че основният академик на OpenAI, Иля Суцкевер, е захласнат от фразата " почувствай AGI ". Той даже провеждал полу-религиозни церемонии в името на всеобщия изкуствен интелект.
" Ако не чувствате AGI, когато се разсъните и когато заспите, не би трябвало да сте в тази компания ", съобщи преди време OpenAI.
Изглежда намигването към тази фраза е отприщило теч на много " пикантна " информация.
Соня Джоузеф е експерт по машинно образование от Принстън, като сега тя е докторант, изследващ мултимодална интерпретируемост. Предишната ѝ среда е била формирана от експерти по AI в Силициевата котловина, измежду които и доста чиновници от OpenAI.
" Да си дейна част от хакерската сцена на Силицевата котловина, е като да имаш кариера на политик в сянка ", стартира Соня Джоузеф.
" Когато бях там попаднах в средата на елитни кръгове в областта на AI-технологиите. Виждала съм някои тревожни неща към обществените кръгове на едни от първите чиновници в OpenAI, техните другари и колеги-предприемачи, за които до момента съм мълчала.
Не е мое право да приказвам за какво Ян Лейке и екипът на супергрупата подадоха оставки. Нямам визия за какво и не мога да направя никакви искания. Вярвам обаче, че моите културни наблюдения върху средата са много показателни за протичащото се в нея.
Секс празненства и тежка приложимост на LSD от някои елитни откриватели на AI са процедура, която основава отрицателни последици за дамите в сферата и за сигурността към AGI като цяло.
Те са емблематични за по-широки проблеми: климат на насила, който възстановява безразсъдството и прекосяването на граници.
Няма нищо неприятно в секс празненствата и тежката приложимост на LSD на доктрина, само че съчетано със сянката на групи от ползи със 100 милиарда $ в банковата сметка това води да една в действителност развалена обществена динамичност. Представете си банкерите от Уолстрийт от 2008 година на LSD - обстановката не вещае нищо положително за сигурността на AI.
Жените са като канарчетата в мината. Те постоянно са първите, които схващат, че нещо се е объркало извънредно, и усещат културния въглероден окис във въздуха. И когато повдигна казуса чувствам мигновено затваряне и групово мислене.
Вероятно тези проблеми в действителност не са на OpenAI, а са признак на доста по-дълбоко изгниване в Долината. Иска ми се да мога да кажа повече, само че евентуално не би трябвало.
Не пиша това от името на никой и не желая да генерализирам. Има толкоз доста брилянтни, благи, невероятни хора в OpenAI и има толкоз доста брилянтни, благи и невероятни хора в Anthropic/EA/Google. Аз съм агностик. Моята единствена преданост е уважението и достолепието на човешкия живот ", написа Соня Джоузеф.
" Не съм под NDA. Никога не съм работила за OpenAI ", добавя Джоузеф. " Просто следих заформилата се просвета към откривателите на AI в Сан-Франциско, чувах вътрешна информация, знаех за подмолни покупко-продажби и е срещнах с много " изгорели ".
Трудно е да се създадат заключения от изявленията на Джоузеф, тъй като те не са съответни. Те обаче звучат разумно на фона на корпоративната просвета в IT бранша, където " изкарването на артикул по-бързо от конкуренцията " е водещ принцип. Все повече някогашни чиновници от сферата на изкуственият разсъдък " бият камбаната ", че сигурността и следствията от технологията за обществото стоят на назад във времето. Междувременно всички водачи в сегмента са се прицелили в създаването на AGI - изкуствен интелект с равни или по-големи умствени качества от нашите лични.
Източник: dnesplus.bg
КОМЕНТАРИ