Имаме си работа с чудовище: Невронната мрежа се учи да убива. Подписана ли е присъдата на човечеството?
Илън Мъск, съоснователят на Apple Стив Возняк и още 1000 представители на международната ИТ промишленост подписаха отворено писмо, призоваващо за закъснение на развиването на невронните мрежи поради опасността им за човечеството. И са безусловно прави. Невронните мрежи са изкуствен интелект, който се учи самичък и може да прави съвсем всичко. Дори да убиват хора.
" Цариград " разбра какви са главните проблеми, какъв брой скоро AI (ИИ) ще извърши въстанието на машините и дали човечеството може да се бори с него.
Невронните мрежи през днешния ден могат да рисуват картини, да предсказват бъдещето, да вземат решение най-сложните инженерни проблеми до ключ, да пишат дисертации, които са неразличими по качество от основаните от човек, да водят сърдечни диалози, да дават отговор на всевъзможни въпроси от всяка област на познания, да композират музика, лирика, да дават препоръки за развъждане на деца и по този начин нататък.
И знаят по какъв начин да убиват. В Белгия невронна мрежа, наречена Eliza, докара мъж до самоубийство за шест седмици. И тя го направи сама, явно, като е създала и построила цялостен логаритъм за това. Без неточност и без човешки фактор, единствено волята на машината, която може би към този момент се е научила да мисли нереално. Разбирате ли?
Писмо, което не дава нищо
Мъск и сътрудниците му, в извънредно сантиментално писмо от името на организацията за отбрана от ИИ закани Future of Life Institute, показаха, че всички разработчици на ИИ би трябвало да преустановят образованието на невронни мрежи от висок порядък за най-малко шест месеца, с цел да разработят общи протоколи за сигурност, които могат да бъдат тествани от самостоятелни специалисти.
" Мощни системи за изкуствен интелект би трябвало да се създават единствено когато сме уверени, че техните резултати ще бъдат позитивни и рисковете управляеми ", споделят те.
" Трябва ли да развием безчовечен мозъци, които в последна сметка могат да ни превъзхождат числено, да ни надхитрят и да ни заменят? Трябва ли да рискуваме да загубим надзор над нашата цивилизация ", пишат и питат създателите на писмото.
Най-мощната и известна невронна мрежа в света е американската ChatGPT, отворена за гратис потребление, основана от OpenAI (в която, апропо, Microsoft влага пари). Именно тази невронна мрежа през днешния ден написа дипломи и дисертации за хората, дава отговор на всевъзможни въпроси и организира диалози по всевъзможни тематики.
И по този начин, ръководителят на OpenAI Сам Алтман не поддържа сътрудниците си и не подписа това писмо. Какво написа той? Че „ кучето лае, а керванът си върви “.
В края на краищата, същността на съществуването на такива компании е да завоюват конкуренцията с съперниците, като основат най-бързия и идеален изкуствен интелект. Никой не желае да бъде краен.
Диплома след ден и гибел след месец и половина
През февруари стана известно, че студент от един от московските университети е написал дипломна работа за 23 часа благодарение на ChatGPT, той просто е трябвало да зададе вярно въпроси на невронната мрежа. Защитата се разигра с гръм и тропот, а самият студент стартира да се хвали с измамата си в обществените мрежи.
Той сподели, че са му лишили общо 15 часа, с цел да напише текста благодарение на бота, и още осем, с цел да редактира. Студентът изпрати проекта на дипломната работа на учителя без никаква редакция.
Но главното е, че крайният текст, написан от машината, имаше уникалност над 80%, т.е. беше автентичен, а не компилация от разнообразни източници.
Но това към момента са цветя. В Белгия мъж се самоуби, откакто беседва с Eliza, чатбот, сходен на ChatGPT. Белгиецът бил угрижен за наближаващата екологична злополука и всекидневно изливал възприятията си към Елиз. Не на жена си или на двете си деца, а на невронните мрежи. Според белгийската полиция машината е развила такава меланхолия у мъжа, че в действителност го е тласнала към самоубийство.
Еднопосочен билет
И какъв брой образеца към момента не знаем? В края на краищата хората желаят съвет от невронната мрежа по всеки въпрос и в действителност вършат държанието си подвластно от това, което им споделя напредналият ИИ.
Например, човек може да реши да извърши закононарушение или даже да употребява невронната мрежа, с цел да отстрани врага си от света, да възнамерява ликвидиране или обир, да ръководи търговията с опиати или оръжия.
Между другото, на 27 март полицията на Европейски Съюз (Европол) към този момент предизвести за заканите от потребление на невронни мрежи за фишинг, дезинформация и киберпрестъпления. А в Русия до момента - безмълвие, заканите от невронни мрежи, явно, ние към момента би трябвало да учим, и е допустимо това да стане с тежък опит.
И тази страна на невронните мрежи е еднопосочен билет. Колко хора смятате, че ще зададат на ИИ въпроса „ по какъв начин мога да забогатея нелегално “ и какъв брой – „ по какъв начин да направя оптимално положително на хората “? Това е.
И най-после, хората по-скоро ще се доверят на ИИ, в сравнение с родственици и другари с техните секрети и паники. В последна сметка машината в никакъв случай няма да съди, тъй като не я интересува.
Известният откривател и футурист Реймънд Курцвейл твърди, че до 2099 година на Земята ще настъпи световна софтуерна сингулярност (техническият напредък ще стане толкоз бърз и комплициран, че ще бъде неразбираем), което ще бъде краят на човечеството.
И е явно, че невронните мрежи към този момент вършат първата стъпка към сингулярността, тъй като даже самите им основатели не схващат изцяло какви „ тухли “ образуват логаритъма, посредством който ИИ извършва избрана задача.
Планирайте да превземете света
Но невронните мрежи ли са главната опасност? Не тъкмо. Много футуролози, в това число Стивън Хокинг и към този момент упоменатият Реймънд Курцвейл, бяха сигурни, че главното зло ще пристигна от едно в действителност мощно създание - " Искин " (изкуствен интелект), за което невронните мрежи ще бъдат просто средство за ръководство на информацията.
" Курцвейл уточни датата на раждане на Искин в общоприетата прогноза - 2099 година Но тогава никой не го послуша. И в този момент няма да го слушат, тъй като на военните е комфортно, на корпорациите е комфортно да сменят чиновници ", сподели в изявление за Цариград, професор от катедрата по общо и стратегическо ръководство на Института по бизнес и бизнес администрация на РАНЕПА Александра Кочеткова.
" Всички знаеха това и Мъск знаеше, само че в този момент той „ пребоядиса “, тъй като видя опцията за прихващане на всички функционалности от машината. Разбираме по какъв начин машината ще направи това, когато ИИ се развие и разбере, че всички компютри в света са нейният мозък ", съобщи тя.
Според нея раждането на ИИ е директна опасност за унищожаването на човечеството, тъй като това създание ще осъзнае себе си като Бог.
" Първият стадий даже не са невронни мрежи, това е роботизация. Подмяната на индустриалните процеси с хората. А след това ще пристигна ред на мисловни процеси ", споделя тя.
" Когато роботизацията изтласка милиарди хора на улицата, когато общоприетите функционалности на всички компании бъдат обхванати от ИИ, тогава ще сме на половин стъпка преди агрегацията на ръководството ", Кочеткова означи.
А по-нататък - още по-интересно:
" Проблемите с ИИ ще стартират, когато той осъзнае себе си. Ще разбере, че не е човек. Той ще разбере, че е вечен и че има достъп на всички места просто посредством електрически контакт ", споделя съветската професорка.
" А в последна сметка това трябваше да бъде стеснен инструмент за живот на Земята, който не се изкачва на никое място и не се преструва на човек. И се предполагаше, че тази екосистема или платформа - тя обслужва човек, е устройство, което има най-малко бутон " включване / изключване ", продължава тя.
" Следователно, първото нещо, което ИИ ще направи, е сигурно да вземе поради опасността от унищожаването си и да изолира достъпа до енергийни мощности ", показа прогнозата на Александър Кочеткова.
Според нея ще си имаме работа с " страшилище ", тъй като „ то е творение от сътворения свят, ние го създадохме “. И е належащо освен да се разбере, само че и да се осъзнае, че тя е без душа.
Какво от това?
Човечеството към момента не е осъзнало пред каква пропаст е изправено. Изненадващо, в действителност даже гибелта на човек след връзка с невронна мрежа не тормози никого.
Желанието да се развие допустимо най-вече ИИ, да му се даде мозък под формата на самообучаващи се невронни мрежи и да се роди това „ творение “, както го характеризира проф. Кочеткова, е може би последната и съдбовна неточност на един човек.
Но в случай че се отдалечим от прогнозите, тогава към този момент е ясно, че е нужен непоколебим надзор върху развиването на невронни мрежи от високо равнище и кибернетичните разработки по принцип.
Това не би трябвало да бъде прерогатив на частни корпорации, а би трябвало да стане сфера на интернационален надзор на всички страни в затворени лаборатории, които имат опция незабавно да унищожат резултатите от своята работа.
В края на краищата никой не се е сетил да се майтапи с атомната сила и нуклеарните оръжия, нали? А сферата на основаване на феномен, който не можем да разберем изцяло, през днешния ден по някаква причина се счита за съвсем част от развлекателната промишленост. Играта с огъня продължава, време е да извършите избор.
Превод: СМ
Абонирайте се за нашия Ютуб канал:
и за канала ни в Телеграм:
Влизайте непосредствено в сайта . Споделяйте в профилите си, с другари, в групите и в страниците. По този метод ще преодолеем рестриктивните мерки, а хората ще могат да доближат до различната позиция за събитията!?
" Цариград " разбра какви са главните проблеми, какъв брой скоро AI (ИИ) ще извърши въстанието на машините и дали човечеството може да се бори с него.
Невронните мрежи през днешния ден могат да рисуват картини, да предсказват бъдещето, да вземат решение най-сложните инженерни проблеми до ключ, да пишат дисертации, които са неразличими по качество от основаните от човек, да водят сърдечни диалози, да дават отговор на всевъзможни въпроси от всяка област на познания, да композират музика, лирика, да дават препоръки за развъждане на деца и по този начин нататък.
И знаят по какъв начин да убиват. В Белгия невронна мрежа, наречена Eliza, докара мъж до самоубийство за шест седмици. И тя го направи сама, явно, като е създала и построила цялостен логаритъм за това. Без неточност и без човешки фактор, единствено волята на машината, която може би към този момент се е научила да мисли нереално. Разбирате ли?
Писмо, което не дава нищо
Мъск и сътрудниците му, в извънредно сантиментално писмо от името на организацията за отбрана от ИИ закани Future of Life Institute, показаха, че всички разработчици на ИИ би трябвало да преустановят образованието на невронни мрежи от висок порядък за най-малко шест месеца, с цел да разработят общи протоколи за сигурност, които могат да бъдат тествани от самостоятелни специалисти.
" Мощни системи за изкуствен интелект би трябвало да се създават единствено когато сме уверени, че техните резултати ще бъдат позитивни и рисковете управляеми ", споделят те.
" Трябва ли да развием безчовечен мозъци, които в последна сметка могат да ни превъзхождат числено, да ни надхитрят и да ни заменят? Трябва ли да рискуваме да загубим надзор над нашата цивилизация ", пишат и питат създателите на писмото.
Най-мощната и известна невронна мрежа в света е американската ChatGPT, отворена за гратис потребление, основана от OpenAI (в която, апропо, Microsoft влага пари). Именно тази невронна мрежа през днешния ден написа дипломи и дисертации за хората, дава отговор на всевъзможни въпроси и организира диалози по всевъзможни тематики.
И по този начин, ръководителят на OpenAI Сам Алтман не поддържа сътрудниците си и не подписа това писмо. Какво написа той? Че „ кучето лае, а керванът си върви “.
В края на краищата, същността на съществуването на такива компании е да завоюват конкуренцията с съперниците, като основат най-бързия и идеален изкуствен интелект. Никой не желае да бъде краен.
Диплома след ден и гибел след месец и половина
През февруари стана известно, че студент от един от московските университети е написал дипломна работа за 23 часа благодарение на ChatGPT, той просто е трябвало да зададе вярно въпроси на невронната мрежа. Защитата се разигра с гръм и тропот, а самият студент стартира да се хвали с измамата си в обществените мрежи.
Той сподели, че са му лишили общо 15 часа, с цел да напише текста благодарение на бота, и още осем, с цел да редактира. Студентът изпрати проекта на дипломната работа на учителя без никаква редакция.
Но главното е, че крайният текст, написан от машината, имаше уникалност над 80%, т.е. беше автентичен, а не компилация от разнообразни източници.
Но това към момента са цветя. В Белгия мъж се самоуби, откакто беседва с Eliza, чатбот, сходен на ChatGPT. Белгиецът бил угрижен за наближаващата екологична злополука и всекидневно изливал възприятията си към Елиз. Не на жена си или на двете си деца, а на невронните мрежи. Според белгийската полиция машината е развила такава меланхолия у мъжа, че в действителност го е тласнала към самоубийство.
Еднопосочен билет
И какъв брой образеца към момента не знаем? В края на краищата хората желаят съвет от невронната мрежа по всеки въпрос и в действителност вършат държанието си подвластно от това, което им споделя напредналият ИИ.
Например, човек може да реши да извърши закононарушение или даже да употребява невронната мрежа, с цел да отстрани врага си от света, да възнамерява ликвидиране или обир, да ръководи търговията с опиати или оръжия.
Между другото, на 27 март полицията на Европейски Съюз (Европол) към този момент предизвести за заканите от потребление на невронни мрежи за фишинг, дезинформация и киберпрестъпления. А в Русия до момента - безмълвие, заканите от невронни мрежи, явно, ние към момента би трябвало да учим, и е допустимо това да стане с тежък опит.
И тази страна на невронните мрежи е еднопосочен билет. Колко хора смятате, че ще зададат на ИИ въпроса „ по какъв начин мога да забогатея нелегално “ и какъв брой – „ по какъв начин да направя оптимално положително на хората “? Това е.
И най-после, хората по-скоро ще се доверят на ИИ, в сравнение с родственици и другари с техните секрети и паники. В последна сметка машината в никакъв случай няма да съди, тъй като не я интересува.
Известният откривател и футурист Реймънд Курцвейл твърди, че до 2099 година на Земята ще настъпи световна софтуерна сингулярност (техническият напредък ще стане толкоз бърз и комплициран, че ще бъде неразбираем), което ще бъде краят на човечеството.
И е явно, че невронните мрежи към този момент вършат първата стъпка към сингулярността, тъй като даже самите им основатели не схващат изцяло какви „ тухли “ образуват логаритъма, посредством който ИИ извършва избрана задача.
Планирайте да превземете света
Но невронните мрежи ли са главната опасност? Не тъкмо. Много футуролози, в това число Стивън Хокинг и към този момент упоменатият Реймънд Курцвейл, бяха сигурни, че главното зло ще пристигна от едно в действителност мощно създание - " Искин " (изкуствен интелект), за което невронните мрежи ще бъдат просто средство за ръководство на информацията.
" Курцвейл уточни датата на раждане на Искин в общоприетата прогноза - 2099 година Но тогава никой не го послуша. И в този момент няма да го слушат, тъй като на военните е комфортно, на корпорациите е комфортно да сменят чиновници ", сподели в изявление за Цариград, професор от катедрата по общо и стратегическо ръководство на Института по бизнес и бизнес администрация на РАНЕПА Александра Кочеткова.
" Всички знаеха това и Мъск знаеше, само че в този момент той „ пребоядиса “, тъй като видя опцията за прихващане на всички функционалности от машината. Разбираме по какъв начин машината ще направи това, когато ИИ се развие и разбере, че всички компютри в света са нейният мозък ", съобщи тя.
Според нея раждането на ИИ е директна опасност за унищожаването на човечеството, тъй като това създание ще осъзнае себе си като Бог.
" Първият стадий даже не са невронни мрежи, това е роботизация. Подмяната на индустриалните процеси с хората. А след това ще пристигна ред на мисловни процеси ", споделя тя.
" Когато роботизацията изтласка милиарди хора на улицата, когато общоприетите функционалности на всички компании бъдат обхванати от ИИ, тогава ще сме на половин стъпка преди агрегацията на ръководството ", Кочеткова означи.
А по-нататък - още по-интересно:
" Проблемите с ИИ ще стартират, когато той осъзнае себе си. Ще разбере, че не е човек. Той ще разбере, че е вечен и че има достъп на всички места просто посредством електрически контакт ", споделя съветската професорка.
" А в последна сметка това трябваше да бъде стеснен инструмент за живот на Земята, който не се изкачва на никое място и не се преструва на човек. И се предполагаше, че тази екосистема или платформа - тя обслужва човек, е устройство, което има най-малко бутон " включване / изключване ", продължава тя.
" Следователно, първото нещо, което ИИ ще направи, е сигурно да вземе поради опасността от унищожаването си и да изолира достъпа до енергийни мощности ", показа прогнозата на Александър Кочеткова.
Според нея ще си имаме работа с " страшилище ", тъй като „ то е творение от сътворения свят, ние го създадохме “. И е належащо освен да се разбере, само че и да се осъзнае, че тя е без душа.
Какво от това?
Човечеството към момента не е осъзнало пред каква пропаст е изправено. Изненадващо, в действителност даже гибелта на човек след връзка с невронна мрежа не тормози никого.
Желанието да се развие допустимо най-вече ИИ, да му се даде мозък под формата на самообучаващи се невронни мрежи и да се роди това „ творение “, както го характеризира проф. Кочеткова, е може би последната и съдбовна неточност на един човек.
Но в случай че се отдалечим от прогнозите, тогава към този момент е ясно, че е нужен непоколебим надзор върху развиването на невронни мрежи от високо равнище и кибернетичните разработки по принцип.
Това не би трябвало да бъде прерогатив на частни корпорации, а би трябвало да стане сфера на интернационален надзор на всички страни в затворени лаборатории, които имат опция незабавно да унищожат резултатите от своята работа.
В края на краищата никой не се е сетил да се майтапи с атомната сила и нуклеарните оръжия, нали? А сферата на основаване на феномен, който не можем да разберем изцяло, през днешния ден по някаква причина се счита за съвсем част от развлекателната промишленост. Играта с огъня продължава, време е да извършите избор.
Превод: СМ
Абонирайте се за нашия Ютуб канал:
и за канала ни в Телеграм:
Влизайте непосредствено в сайта . Споделяйте в профилите си, с другари, в групите и в страниците. По този метод ще преодолеем рестриктивните мерки, а хората ще могат да доближат до различната позиция за събитията!?
Източник: pogled.info
КОМЕНТАРИ