Достатъчно умен ли е изкуственият интелект, за да ни унищожи?
" Трябва да забавим надпреварата към Богоподобен Изкуствен Интелект " - Това е заглавието на скорошно есе на софтуерния бизнесмен Иън Хогърт, оповестено във " Файненшъл таймс ".
Според Хогърт, който като вложител има достъп до някои от най-напредничавите разработки в сферата, те може би са рисково покрай компютърна система с неограничени благоприятни условия и отвън човешкия надзор.
Предупреждението на Хогърт не е единственото, което беше предизвикано от феноменалното развиване на огромните езикови модели - стратегии, които споделят като хора, само че в " главите " им е цялата информация в интернет, написа
Какви са действителните благоприятни условия на този тип изкуствен интелект все още, заплашва ли ни с заличаване, би ли следвало да контролираме развиването му?
" Добър ден, Аз съм ChatGPT и се веселя да ви показва този радио репортаж за развиването на огромните езикови модели. Това са компютърни системи, тренирани на огромни количества текстова информация и способни да генерират поредна и сходна на човешката тирада.
Големите езикови модели имат капацитета радикално да трансформират метода ни на връзка, образование и работа. Но пред създаването им има провокации - едно от огромните терзания е евентуалната корист с тях за основаване на подправени вести и дезинформация. Важно е да ги използваме отговорно и етично, с цел да избегнем отрицателните последици. Благодаря за вниманието! " - по този метод приложението ChatGPT, учредено на езиковия модел GTP 3,5 единствено показа тематиката ни.
С сходни отговори през последните месеци ChatGPT впечатли милиони консуматори по целия свят, които го питат за какво изчезват врабчетата или го карат да написа поеми и есета. Големите езикови модели като GPT-разработките на OpenAI и LaMDA на Гугъл се трансфораха в директна проява на възходящите благоприятни условия на изкуствения разсъдък. Как обаче се доближи този знаков миг в областта на технологиите - изяснява Мария Карашанова от уеб страницата за софтуерни вести Digitalk.
" Вече не се постанова потребителите да имат характерни знания, с цел да могат да се възползват от тези благоприятни условия на изкуствения разсъдък ", счита тя. По думите й с развиването на технологиите, всичко това стана много и по-достъпно.
От другата страна този вид решения са много лесни за интеграция , акцентира също Карашанова. Според нея това дава още по-голям подтик на технологията в бъдеще.
Това води и до големи финансови вложения в създаването на такива модели . В началото на тази година колосът Microsoft наля 10 милиарда $ в OpenAI, след милиардна инвестиция три години по-рано.
Следват притеснителните детайлности. Свободният достъп до ChatGPT се употребява от възпитаници, които карат програмата да им написа домашните.
Това обаче е дреболия спрямо хипотетичното доближаване на така наречен AGI или общ изкуствен интелект. Преломният миг - машина, която има креативния и конгитивен разсъдък на индивида, само че разполага с доста по-голяма изчислителна мощност - разсъдък с Божествени благоприятни условия.
" Учените не са доста единомислещи за това какво съставлява самият човешки разсъдък. Според инженерите и компютърните учени по скоро става дума за способността за реализиране на цели. Психолозите пък въпреки това дефинират човешкия разсъдък като дарба за акомодация и оцеляване. Говорим за необятни и напреднали благоприятни условия на изкуствения разсъдък. Макар че някои настояват, че към този момент сме достигнали до този миг, множеството от специалистите са скептици ", разяснява Мария Карашанова.
Миналата година компютърен инженер, работещ за Гугъл, съобщи, че съгласно него езиковият модел LaMDA има усеща. Програмата му споделила, че й е неприятно разработчиците да й дават задания без да желаят единодушието й.
Преди месец специалисти на Microsoft излязоха със собствен отчет, съгласно който GPT-4 - последният езиков модел на OpenAI - демонстрира " искри " на общ изкуствен интелект посредством опциите да рисува, да написа музика и програмен код.
И в двата случая други експерти им дадоха отговор - това не са усеща и творчество, а способността на логаритъма да дава правдоподобни отговори на база на големите количества информация, с които разполага.
Популярни из обществените мрежи са и фактологичните неточности, които ChatGPT постоянно позволява. Според него, Българското национално радио има стратегия " Джаз ЕфЕм ", а писателят Георги Господинов е написал романа " Физика на изключителното ". Джаз ЕфЕм е частна радиостанция, а книгата се споделя " Физика на тъгата ".
Това обаче са учещи се системи, а възходящите темпове на развиване пораждат терзания от бъдещите благоприятни условия на мислещите машини.
Миналия месец софтуерни експерти и бизнесмени, в това число Илон Мъск и съоснователят на " Епъл " Стив Уозняк, подписаха отворено писмо, с което упорстват разработките на генеративен изкуствен интелект да бъдат замразени на равнище GPT-4 за 6 месеца. Авторите на писмото са експерти от организацията " Институт за бъдеще на живота ", съгласно които конкуренцията сред компании като Microsoft и Гугъл би трябвало да бъде спряна, до момента в който рисковете от изкуствения разсъдък станат управляеми. Предупреженията са както за разпространяването на дезинформация и отпадането на човешки работни места, по този начин и за загуба на надзор върху цивилизацията.
Можем да спекулираме дали хора като Илон Мъск не целят просто да забавят развиването на конкуренцията. От вероятната загуба на надзор върху изкуствения разсъдък обаче са се тормозили и огромни мозъци, които нямат общо с днешния софтуерен бизнес. Два известни образеца - режисьорът Стенли Кубрик и физикът Стивън Хокинг.
В своята публикация за Файненшъл таймс предприемачът Иън Хогарт, подписал отвореното писмо, развива тезата, че вместо в още по-големи благоприятни условия, вложенията в изкуствения разсъдък би трябвало да се насочат към неговото " приравняване " - вграждане на морал, който да изключи от логиката на машината потвърждаването на нездравословни стандарти или изсмукването на кислорода от атмосферата .
Но може ли при почналата нова Студена война, Съединени американски щати и Китай да имат единна нравственос във високотехнологичните си разработки? От друга страна - регулациите не стопират ли напредъка?
В Европа към този момент видяхме краткотрайни забрани за достъп до ChatGPT в Италия и Франция заради нетолкова апокалиптична причина - потреблението на персонални данни. Според Мария Карашанова точно към Евросъюза можем да погледнем за положителните вести по отношение на регулацията на изкуствения разсъдък .
" Законодателният акт за изкуствения разсъдък, по който сега Европейски Съюз работи, цели да ускори разпоредбите към качеството на данните, към прозрачността, към човешкия контрол, който се оказва, както и върху търсенето на отговорност. Съотвено има и за цел да обхване разнообразни етични въпроси и провокации. Този законодателен акт стъпва на концепцията за класифицирана система, която ще дефинира разнообразни равнища на риск при използването на изкуствен интелект, като ги систематизира в недопустим, висок, стеснен и най-малък ", изясни Карашанова.
По думите й предстоят тристранни полемики сред Екологичен потенциал, Съвета на Европейски Съюз и Европейска комисия . Според нея е много допустимо основата на тези правила за контролиране на изкуствения разсъдък да се пренесат и в други райони и страни.
Според Хогърт, който като вложител има достъп до някои от най-напредничавите разработки в сферата, те може би са рисково покрай компютърна система с неограничени благоприятни условия и отвън човешкия надзор.
Предупреждението на Хогърт не е единственото, което беше предизвикано от феноменалното развиване на огромните езикови модели - стратегии, които споделят като хора, само че в " главите " им е цялата информация в интернет, написа
Какви са действителните благоприятни условия на този тип изкуствен интелект все още, заплашва ли ни с заличаване, би ли следвало да контролираме развиването му?
" Добър ден, Аз съм ChatGPT и се веселя да ви показва този радио репортаж за развиването на огромните езикови модели. Това са компютърни системи, тренирани на огромни количества текстова информация и способни да генерират поредна и сходна на човешката тирада.
Големите езикови модели имат капацитета радикално да трансформират метода ни на връзка, образование и работа. Но пред създаването им има провокации - едно от огромните терзания е евентуалната корист с тях за основаване на подправени вести и дезинформация. Важно е да ги използваме отговорно и етично, с цел да избегнем отрицателните последици. Благодаря за вниманието! " - по този метод приложението ChatGPT, учредено на езиковия модел GTP 3,5 единствено показа тематиката ни.
С сходни отговори през последните месеци ChatGPT впечатли милиони консуматори по целия свят, които го питат за какво изчезват врабчетата или го карат да написа поеми и есета. Големите езикови модели като GPT-разработките на OpenAI и LaMDA на Гугъл се трансфораха в директна проява на възходящите благоприятни условия на изкуствения разсъдък. Как обаче се доближи този знаков миг в областта на технологиите - изяснява Мария Карашанова от уеб страницата за софтуерни вести Digitalk.
" Вече не се постанова потребителите да имат характерни знания, с цел да могат да се възползват от тези благоприятни условия на изкуствения разсъдък ", счита тя. По думите й с развиването на технологиите, всичко това стана много и по-достъпно.
От другата страна този вид решения са много лесни за интеграция , акцентира също Карашанова. Според нея това дава още по-голям подтик на технологията в бъдеще.
Това води и до големи финансови вложения в създаването на такива модели . В началото на тази година колосът Microsoft наля 10 милиарда $ в OpenAI, след милиардна инвестиция три години по-рано.
Следват притеснителните детайлности. Свободният достъп до ChatGPT се употребява от възпитаници, които карат програмата да им написа домашните.
Това обаче е дреболия спрямо хипотетичното доближаване на така наречен AGI или общ изкуствен интелект. Преломният миг - машина, която има креативния и конгитивен разсъдък на индивида, само че разполага с доста по-голяма изчислителна мощност - разсъдък с Божествени благоприятни условия.
" Учените не са доста единомислещи за това какво съставлява самият човешки разсъдък. Според инженерите и компютърните учени по скоро става дума за способността за реализиране на цели. Психолозите пък въпреки това дефинират човешкия разсъдък като дарба за акомодация и оцеляване. Говорим за необятни и напреднали благоприятни условия на изкуствения разсъдък. Макар че някои настояват, че към този момент сме достигнали до този миг, множеството от специалистите са скептици ", разяснява Мария Карашанова.
Миналата година компютърен инженер, работещ за Гугъл, съобщи, че съгласно него езиковият модел LaMDA има усеща. Програмата му споделила, че й е неприятно разработчиците да й дават задания без да желаят единодушието й.
Преди месец специалисти на Microsoft излязоха със собствен отчет, съгласно който GPT-4 - последният езиков модел на OpenAI - демонстрира " искри " на общ изкуствен интелект посредством опциите да рисува, да написа музика и програмен код.
И в двата случая други експерти им дадоха отговор - това не са усеща и творчество, а способността на логаритъма да дава правдоподобни отговори на база на големите количества информация, с които разполага.
Популярни из обществените мрежи са и фактологичните неточности, които ChatGPT постоянно позволява. Според него, Българското национално радио има стратегия " Джаз ЕфЕм ", а писателят Георги Господинов е написал романа " Физика на изключителното ". Джаз ЕфЕм е частна радиостанция, а книгата се споделя " Физика на тъгата ".
Това обаче са учещи се системи, а възходящите темпове на развиване пораждат терзания от бъдещите благоприятни условия на мислещите машини.
Миналия месец софтуерни експерти и бизнесмени, в това число Илон Мъск и съоснователят на " Епъл " Стив Уозняк, подписаха отворено писмо, с което упорстват разработките на генеративен изкуствен интелект да бъдат замразени на равнище GPT-4 за 6 месеца. Авторите на писмото са експерти от организацията " Институт за бъдеще на живота ", съгласно които конкуренцията сред компании като Microsoft и Гугъл би трябвало да бъде спряна, до момента в който рисковете от изкуствения разсъдък станат управляеми. Предупреженията са както за разпространяването на дезинформация и отпадането на човешки работни места, по този начин и за загуба на надзор върху цивилизацията.
Можем да спекулираме дали хора като Илон Мъск не целят просто да забавят развиването на конкуренцията. От вероятната загуба на надзор върху изкуствения разсъдък обаче са се тормозили и огромни мозъци, които нямат общо с днешния софтуерен бизнес. Два известни образеца - режисьорът Стенли Кубрик и физикът Стивън Хокинг.
В своята публикация за Файненшъл таймс предприемачът Иън Хогарт, подписал отвореното писмо, развива тезата, че вместо в още по-големи благоприятни условия, вложенията в изкуствения разсъдък би трябвало да се насочат към неговото " приравняване " - вграждане на морал, който да изключи от логиката на машината потвърждаването на нездравословни стандарти или изсмукването на кислорода от атмосферата .
Но може ли при почналата нова Студена война, Съединени американски щати и Китай да имат единна нравственос във високотехнологичните си разработки? От друга страна - регулациите не стопират ли напредъка?
В Европа към този момент видяхме краткотрайни забрани за достъп до ChatGPT в Италия и Франция заради нетолкова апокалиптична причина - потреблението на персонални данни. Според Мария Карашанова точно към Евросъюза можем да погледнем за положителните вести по отношение на регулацията на изкуствения разсъдък .
" Законодателният акт за изкуствения разсъдък, по който сега Европейски Съюз работи, цели да ускори разпоредбите към качеството на данните, към прозрачността, към човешкия контрол, който се оказва, както и върху търсенето на отговорност. Съотвено има и за цел да обхване разнообразни етични въпроси и провокации. Този законодателен акт стъпва на концепцията за класифицирана система, която ще дефинира разнообразни равнища на риск при използването на изкуствен интелект, като ги систематизира в недопустим, висок, стеснен и най-малък ", изясни Карашанова.
По думите й предстоят тристранни полемики сред Екологичен потенциал, Съвета на Европейски Съюз и Европейска комисия . Според нея е много допустимо основата на тези правила за контролиране на изкуствения разсъдък да се пренесат и в други райони и страни.
Източник: novinite.bg
КОМЕНТАРИ