Доц. Златогор Минчев: Саморазвиващият се изкуствен интелект е скрита бомба, ако няма адекватни регулации
Доц. Златогор Минчев е шеф на Съвместния център по образование, симулация и разбор към Българска академия на науките. Той е началник на секция „ Информационни технологии в сигурността " в Института по осведомителни и информационни технологии към Българска академия на науките.
Доц. Минчев, предишният месец се появи план на Закон за кибер сигурност. Един от любопитните моменти в него е основаването на сили за кибер защита. Доколко страната ни е способна да поддържа такива сили, тъй че те да са в действителност ефикасни и на международно равнище?
Разработването на нормативни актове и закони по тематиката „ кибер сигурност “ е малко позакъсняло, и сега се подхожда частично официално. Трябва да осъществим някои задължения като страна членка на Европейски Съюз и това е изключително значимо да стане по време на нашето председателство. В самия план за закон това е посочено, като съображение. Нормалните страни са постоянно една стъпка напред, само че ние още се учим.
По отношение на вашия въпрос за „ силите за кибер защита “ бих коментирал в подтекста на участието ни в НАТО, където осведомителния домейн неотдавана бе публично разгласен за евентуална сцена на бойни дейности. Тук обаче е значимо да се отбележат два нюанса: у нас по тематиката „ кибер сигурност “ се работи отдавана, като на политическо равнище под егидата на Министерство на защитата от 2014 насам се изготви и одобри тактиката „ Кибер устойчива България 2020 “. Тази тактика по този начин и не стигна до разглеждане в Парламента, само че бе призната от Министерски съвет. Сега, когато европейските правила ни притискат като периоди, внезапно, процесът се рестартира. Силно се надявам да не се подходи още веднъж официално по тематиката.
Другият колорит е по-съществен: основаването на сили за кибер защита изисква шерване на съюзнически опит, време и устойчиви стопански вложения. За страдание и тук се подхожда незадоволително професионално. Подготвят се рамкови хрумвания, а не се мисли за тяхното стабилно финансиране. Министерство на защитата надали ще откри толкоз свободни средства, че по едно и също време да модернизира останалите родове войски и да сътвори нови качества за кибер защита в границите на този бюджет. Преди време, доста се говореше за „ електронно ръководство “ и даже се сътвори такава организация, само че какъв е действителният резултат за обществото, остава мистерия.
Според мен тук се търсят реакциите на обществото, които да се канализират по някакъв подобаващ метод и да се освободи публичното напрежение по тематиката „ кибер сигурност “.
Проектът на закон взема решение ли проблеми и пропуски в кибер сигурността на страната като цяло?
Проектът за Закон по кибер сигурност кардинално е хубава самодейност. В него се следят и някои положителни първи проблясъци, поради включването на Министерство на защитата, Министерство на вътрешните работи и ДАНС. Дигиталната среда обаче се развива извънредно бързо и това не е задоволително. Виждате какъв мащаб покрива абсурдът към Фейсбук и Cambridge Analytica, приказваме за световни граници и милиарди консуматори. Сега в мрежата тече и спор във връзка с колоси като Гугъл и Microsoft, предоставящи електронни услуги на голям брой консуматори. За мен това е и политическа агитация, и софтуерна война за превъзходство.
Днес всички ние сме виновни за сигурността на цифровото общество. Държавата е от едната страна, от другата е частният бранш и, несъмнено, университетският, като тук са и университетите и учебните заведения. Не можем да чакаме хората да се самообразоват без съществуване на общи насоки и регулации. В момента се чака и въвеждането на нов европейски правилник за отбрана на персоналните данни – GDPR, който частично също ще спомогне за възстановяване на средата за сигурност. За мен персонално построяването на качества по кибер сигурност е част от процеса по основаване на цифрово стабилно общество в осведомителния век.
Законът дава отговор ли на актуалните закани, които, дружно с технологиите, се развиват със скорост, към която мъчно можем да се пригодим?
Въпросът, който поставяте е естествено продължение на тематиката за цифрова резистентност. Съвсем неотдавна, ние организирахме конгрес по въпроса (б. ред. Joint Research & Industrial Expert Forum " Future Digital Society Resilience in the New Digital Age), където участваха специалисти, както от естествените науки, по този начин и от обществените. Участваха изявени представители от бизнеса, медиите, академията, университетите и учебните заведения, както от България, по този начин и от чужбина. Представени бяха Съединени американски щати, Бразилия, Турция и Украйна. Скоро ще издадем и книга от събитието, където ще се опитаме да консолидираме и обобщим гледните точки на участниците за идващите 10 години. Но-най общо ще се опитам да отговоря на въпроса ви по този начин: нито един закон на може да отговори съответно на актуалните провокации в цифровия свят, тъй като е рамков по своята природа. Необходимо е непрекъснато експертно присъединяване от науката, образованието и бизнеса, което да прави аналитична поддръжка, взаимно с представителите на всички министерства и ведомства. Дигитализацията навлиза на всички места и няма по-отговорни и по-малко виновни участници. Това е задача на всички ни. По един или по различен метод всеки би трябвало да способства за устойчивото ни и несъмнено развиване в новата цифрова епоха.
В тази връзка изкуственият разсъдък съставлява ли опасност за обособения консуматор? Кой може да злоупотреби с него?
Знаете ли – един от главните проблеми на днешното общество е, че всички мощно подценяваме естествения разсъдък. Каквито и софтуерни постижения да имаме през днешния ден, те са плод на човешкия разсъдък. Съвсем неотдавна бе оповестен един документален филм по въпроса (Марк Монро, Do You Trust This Computer), който е естествено продължение на тази полемика, поддържана и от Мъск, и от Хокинг, само че водеща началото си още от Азимов. Това, което мога да споделя по тематиката, идва като резюме от мненията на младите участници в нашия конгрес: настава нова епоха на изкуствения разсъдък и роботиката, подкрепят от машинно основаните решения като „ deep learning “. Злоупотребите тук са неизбежни, както на равнище планиране, по този начин и на равнище злоумишлени интервенции. Причината е елементарна – изкушението да придобиеш безгранична власт, без потребност от отговорност. Но естествено, хората са в основата на вероятните злоупотреби с разработките по изкуствен интелект, най-малко за момента.
Какво е решението, можем ли да се доверим напълно на държавното управление, че ще обезпечи среда, която да дава отговор на актуалните провокации?
Технологиите основават нов свят с големи благоприятни условия, само че и отговорности. Правителствата по света се пробват да основат законодателна рамка, само че цифровият свят има собствен личен живот. Същевременно бизнес ползите в световния свят също оказват своето въздействие – виждате какъв скок се провокира с курса на биткойните, вкарват се и други електронни разплащателни средства. Въпросите за тяхното морално и законно битие остават дискусионни и е мъчно да бъдат хармонизирани в интернационален проект.
От друга страна т.нар „ third-party players “ могат да имат и нови политически и идеологически цели и модели, включително и радикални, които сполучливо да вграждат в съзнанието на хората от цифровата епоха. У нас се опитваме тези регулации да стават в мащаб Европейски Съюз и НАТО, което, както виждаме, е съществено предизвикателство. Регулациите оттатък океана са разнообразни от тези у нас, само че нашите консуматори и основатели на артикули и решения са на всички места. Това основава една комплицирана и забавна за ръководство, непрекъснато еволюираща, мултикултурна цифрова среда.
В последна сметка какво бъдеще ни следва - самообучаващ се изкуствен интелект, свързване на индивида с машината..?
Днес технологиите от ден на ден оформят нашето всекидневие и ни трансформират незабелязано в консуматори. Това може би е преференциално за бизнеса, само че не и за човечеството като цяло. В тази връзка е добре да се намерения и за синтетични цифрови регулатори, което в ерата на мобилните технологии и устройства, основава нов вид другарство през обществените мрежи и става извънредно належащо. От друга страна миниатюризацията в електронните устройства в нано- мащаб ще разреши тяхното по сполучливо консолидиране в тялото индивида. Подобен развой тече и сега, само че не задоволително сполучливо. Като цяло, това ще ни даде нови качества за човеко-машинното другарство, които ще са много по интуитивни. Все още сме надалеч от човеко-машинна телепатия, само че средите на новите компютърни игри ни демонстрират ненапълно бъдещето. Създаването на смесена действителност чрез профилирано облекло и мултимедийни устройства ще разреши на хората да поддържат връзка по-пълноценно в цифровата епоха даже от разстояние.
От друга страна, саморазвиващият се изкуствен интелект е скрита бомба, в случай че няма създадени съответни и също самоеволюиращи цифрови регулации. Скоростта в актуалния цифров свят непрекъснато нараства и става непостижима за елементарния човек. В епохата на екзо- и ултра- огромните изчислителни комплекси, реализирането на синтетична цифрова регулация е напълно реалистична цел, която ще обезпечи съответстващ надзор на цифровата действителност, генерираща големи масиви от данни и информация.
От друга страна по този начин ще ни се обезпечи и опция да се занимаваме с по-креативни действия в всекидневието само че по различен, по-значим метод, и в възможно работно движение. Човекът остава неизменима част от паралелния, към момента, цифров свят, който все по-активно навлиза и в действителността и трансформира обществото ни.
Доц. Минчев, предишният месец се появи план на Закон за кибер сигурност. Един от любопитните моменти в него е основаването на сили за кибер защита. Доколко страната ни е способна да поддържа такива сили, тъй че те да са в действителност ефикасни и на международно равнище?
Разработването на нормативни актове и закони по тематиката „ кибер сигурност “ е малко позакъсняло, и сега се подхожда частично официално. Трябва да осъществим някои задължения като страна членка на Европейски Съюз и това е изключително значимо да стане по време на нашето председателство. В самия план за закон това е посочено, като съображение. Нормалните страни са постоянно една стъпка напред, само че ние още се учим.
По отношение на вашия въпрос за „ силите за кибер защита “ бих коментирал в подтекста на участието ни в НАТО, където осведомителния домейн неотдавана бе публично разгласен за евентуална сцена на бойни дейности. Тук обаче е значимо да се отбележат два нюанса: у нас по тематиката „ кибер сигурност “ се работи отдавана, като на политическо равнище под егидата на Министерство на защитата от 2014 насам се изготви и одобри тактиката „ Кибер устойчива България 2020 “. Тази тактика по този начин и не стигна до разглеждане в Парламента, само че бе призната от Министерски съвет. Сега, когато европейските правила ни притискат като периоди, внезапно, процесът се рестартира. Силно се надявам да не се подходи още веднъж официално по тематиката.
Другият колорит е по-съществен: основаването на сили за кибер защита изисква шерване на съюзнически опит, време и устойчиви стопански вложения. За страдание и тук се подхожда незадоволително професионално. Подготвят се рамкови хрумвания, а не се мисли за тяхното стабилно финансиране. Министерство на защитата надали ще откри толкоз свободни средства, че по едно и също време да модернизира останалите родове войски и да сътвори нови качества за кибер защита в границите на този бюджет. Преди време, доста се говореше за „ електронно ръководство “ и даже се сътвори такава организация, само че какъв е действителният резултат за обществото, остава мистерия.
Според мен тук се търсят реакциите на обществото, които да се канализират по някакъв подобаващ метод и да се освободи публичното напрежение по тематиката „ кибер сигурност “.
Проектът на закон взема решение ли проблеми и пропуски в кибер сигурността на страната като цяло?
Проектът за Закон по кибер сигурност кардинално е хубава самодейност. В него се следят и някои положителни първи проблясъци, поради включването на Министерство на защитата, Министерство на вътрешните работи и ДАНС. Дигиталната среда обаче се развива извънредно бързо и това не е задоволително. Виждате какъв мащаб покрива абсурдът към Фейсбук и Cambridge Analytica, приказваме за световни граници и милиарди консуматори. Сега в мрежата тече и спор във връзка с колоси като Гугъл и Microsoft, предоставящи електронни услуги на голям брой консуматори. За мен това е и политическа агитация, и софтуерна война за превъзходство.
Днес всички ние сме виновни за сигурността на цифровото общество. Държавата е от едната страна, от другата е частният бранш и, несъмнено, университетският, като тук са и университетите и учебните заведения. Не можем да чакаме хората да се самообразоват без съществуване на общи насоки и регулации. В момента се чака и въвеждането на нов европейски правилник за отбрана на персоналните данни – GDPR, който частично също ще спомогне за възстановяване на средата за сигурност. За мен персонално построяването на качества по кибер сигурност е част от процеса по основаване на цифрово стабилно общество в осведомителния век.
Законът дава отговор ли на актуалните закани, които, дружно с технологиите, се развиват със скорост, към която мъчно можем да се пригодим?
Въпросът, който поставяте е естествено продължение на тематиката за цифрова резистентност. Съвсем неотдавна, ние организирахме конгрес по въпроса (б. ред. Joint Research & Industrial Expert Forum " Future Digital Society Resilience in the New Digital Age), където участваха специалисти, както от естествените науки, по този начин и от обществените. Участваха изявени представители от бизнеса, медиите, академията, университетите и учебните заведения, както от България, по този начин и от чужбина. Представени бяха Съединени американски щати, Бразилия, Турция и Украйна. Скоро ще издадем и книга от събитието, където ще се опитаме да консолидираме и обобщим гледните точки на участниците за идващите 10 години. Но-най общо ще се опитам да отговоря на въпроса ви по този начин: нито един закон на може да отговори съответно на актуалните провокации в цифровия свят, тъй като е рамков по своята природа. Необходимо е непрекъснато експертно присъединяване от науката, образованието и бизнеса, което да прави аналитична поддръжка, взаимно с представителите на всички министерства и ведомства. Дигитализацията навлиза на всички места и няма по-отговорни и по-малко виновни участници. Това е задача на всички ни. По един или по различен метод всеки би трябвало да способства за устойчивото ни и несъмнено развиване в новата цифрова епоха.
В тази връзка изкуственият разсъдък съставлява ли опасност за обособения консуматор? Кой може да злоупотреби с него?
Знаете ли – един от главните проблеми на днешното общество е, че всички мощно подценяваме естествения разсъдък. Каквито и софтуерни постижения да имаме през днешния ден, те са плод на човешкия разсъдък. Съвсем неотдавна бе оповестен един документален филм по въпроса (Марк Монро, Do You Trust This Computer), който е естествено продължение на тази полемика, поддържана и от Мъск, и от Хокинг, само че водеща началото си още от Азимов. Това, което мога да споделя по тематиката, идва като резюме от мненията на младите участници в нашия конгрес: настава нова епоха на изкуствения разсъдък и роботиката, подкрепят от машинно основаните решения като „ deep learning “. Злоупотребите тук са неизбежни, както на равнище планиране, по този начин и на равнище злоумишлени интервенции. Причината е елементарна – изкушението да придобиеш безгранична власт, без потребност от отговорност. Но естествено, хората са в основата на вероятните злоупотреби с разработките по изкуствен интелект, най-малко за момента.
Какво е решението, можем ли да се доверим напълно на държавното управление, че ще обезпечи среда, която да дава отговор на актуалните провокации?
Технологиите основават нов свят с големи благоприятни условия, само че и отговорности. Правителствата по света се пробват да основат законодателна рамка, само че цифровият свят има собствен личен живот. Същевременно бизнес ползите в световния свят също оказват своето въздействие – виждате какъв скок се провокира с курса на биткойните, вкарват се и други електронни разплащателни средства. Въпросите за тяхното морално и законно битие остават дискусионни и е мъчно да бъдат хармонизирани в интернационален проект.
От друга страна т.нар „ third-party players “ могат да имат и нови политически и идеологически цели и модели, включително и радикални, които сполучливо да вграждат в съзнанието на хората от цифровата епоха. У нас се опитваме тези регулации да стават в мащаб Европейски Съюз и НАТО, което, както виждаме, е съществено предизвикателство. Регулациите оттатък океана са разнообразни от тези у нас, само че нашите консуматори и основатели на артикули и решения са на всички места. Това основава една комплицирана и забавна за ръководство, непрекъснато еволюираща, мултикултурна цифрова среда.
В последна сметка какво бъдеще ни следва - самообучаващ се изкуствен интелект, свързване на индивида с машината..?
Днес технологиите от ден на ден оформят нашето всекидневие и ни трансформират незабелязано в консуматори. Това може би е преференциално за бизнеса, само че не и за човечеството като цяло. В тази връзка е добре да се намерения и за синтетични цифрови регулатори, което в ерата на мобилните технологии и устройства, основава нов вид другарство през обществените мрежи и става извънредно належащо. От друга страна миниатюризацията в електронните устройства в нано- мащаб ще разреши тяхното по сполучливо консолидиране в тялото индивида. Подобен развой тече и сега, само че не задоволително сполучливо. Като цяло, това ще ни даде нови качества за човеко-машинното другарство, които ще са много по интуитивни. Все още сме надалеч от човеко-машинна телепатия, само че средите на новите компютърни игри ни демонстрират ненапълно бъдещето. Създаването на смесена действителност чрез профилирано облекло и мултимедийни устройства ще разреши на хората да поддържат връзка по-пълноценно в цифровата епоха даже от разстояние.
От друга страна, саморазвиващият се изкуствен интелект е скрита бомба, в случай че няма създадени съответни и също самоеволюиращи цифрови регулации. Скоростта в актуалния цифров свят непрекъснато нараства и става непостижима за елементарния човек. В епохата на екзо- и ултра- огромните изчислителни комплекси, реализирането на синтетична цифрова регулация е напълно реалистична цел, която ще обезпечи съответстващ надзор на цифровата действителност, генерираща големи масиви от данни и информация.
От друга страна по този начин ще ни се обезпечи и опция да се занимаваме с по-креативни действия в всекидневието само че по различен, по-значим метод, и в възможно работно движение. Човекът остава неизменима част от паралелния, към момента, цифров свят, който все по-активно навлиза и в действителността и трансформира обществото ни.
Източник: offnews.bg
КОМЕНТАРИ