Когато изкуственият интелект се научи да лъже
Предизвикателството е колосално и единствено ще се разраства с увеличение на познавателния потенциал на технологията
В развиването си изкуственият разсъдък неизбежно ще се научи да мами…
(снимка: CC0 Public Domain)
Ч ували сме доста за маменето, к огато се приказва за изкуствен интелект. Самоуправляемите коли, да вземем за пример, могат да бъдат лъгани с пътните знаци: с дребна интервенция вместо „ STOP ” те ще виждат единствено ограничаване на скоростта. Изкуствен разсъдък може да бъде подведен, че пандата на дадена фотография е гибон. Гласовите асистенти могат да бъдат подвеждани посредством вербални команди със разстройства в звука.. .
Това са единствено част от образците, които сме чували. Има го и противоположното – изкуственият разсъдък може да бъде впрегнат в измами. Така да вземем за пример, ИИ се ползва за основаване на фотоси и видеозаписи с несъществуващи подиуми, герои или изявления – това са по този начин наречените дълбоки измами или „ дийп фалшив ” материали. В последна сметка съвсем всички огромни конгреси и конференции за неестествен разсъдък не минават без разискване на казуса със заблуждаването и измамата.
Опасна еволюция на ИИ
В последно време обаче назрява тематиката за един още по-сериозен аспект на измамите с изкуствен интелект: какво би значело изкуственият разсъдък да мами и какво се случва, когато зад измамите на изкуствения разсъдък стои не човешкото желание, а желание на самия неестествен разсъдък?!
Това терзание може да наподобява някак далечно, в случай че считаме, че ИИ към момента е относително едва публикуван, с „ стеснен ” обсег и може да бъде много малоумен в доста връзки. Да имат някакъв аналог на „ желание ” би било огромна стъпка за днешните ИИ системи. Въпреки това, в случай че желаеме да изпреварим кривата във връзка с измамите с ИИ, би трябвало да сме наясно с всички способи, по които тези системи могат да ни заблудят.
Важно е да имаме някаква концептуална рамка или най-малко схващане за спектъра на типовете измами, на които ИИ може да се научи независимо, преди да стартираме да предлагаме софтуерни отбрани.
Какво е измамата
Ако хвърлим взор надалеч обратно в историята, измамата е остаряла колкото света. Тя сигурно не е присъща единствено на човешките същества. Адаптацията и еволюцията, потребността от оцеляване са довели до безчет форми на машинация в природата – мимикрията да вземем за пример.
още по тематиката
Но да се дефинира тъкмо какво съставлява измамата у изкуствения разсъдък е нелесна задача. За да се приказва за машинация, би трябвало да става дума за мислене за дейности, следващи резултати, цели, средства, способи.
Какво е измамата? Експертите я дефинират като „ подправено другарство в интерес на комуникатора ”. В това изискване е значимо да се посочи, че предаването на информация е с желанието да се манипулира. Всичко наподобява много ясно, до момента в който не стигнем до въпроса какво е „ желание ” и какво се изисква за съществуването на желание, както и дали подправената връзка безусловно включва желание да бъде в интерес на измамника. Ако се лъже по алтруистични аргументи, това машинация ли е?
Намерението изисква да имаме дадена доктрина мислено. А това значи, че сътрудникът има някакво схващане за себе си и че може да разсъждава за други външни субекти и техните планове, стремежи, положения и евентуални държания. Ако измамата изисква съществуването на желание, то тогава ИИ-измамата би изисквала изкуственият разсъдък да има мислено някаква доктрина.
Тук идва въпросът за желанието. Изглежда, че актуалните форми на ИИ-измама разчитат на човешки планове и теории. Тоест, даден човек употребява ИИ като инструмент или средство за реализиране на желанието си да заблуди. Но дали е по този начин? Само тъй като сегашните ИИ нямат доктрина в мозъка си не значи, че те не могат да се научат да заблуждават!
Някои ИИ системи се научават на измамническо държание, без да имат действителна оценка или схващане какво в действителност съставлява „ измамата ”. Това може да е доста просто: скриване на дадени запаси или даване на погрешна информация за постигането на някаква цел.
Два вида лъжливи дейности
Може да се дефинират, общо взето, два вида лъжливи дейности. Единият тип са дейните: ИИ интензивно взе участие в осъществяването на желанието изпращане на дезинформация. Вторият тип са пасивните: пропускане или отричане на информация (укриване). ИИ системите могат да научат всеки от тези типове държание при подобаващи условия.
Това е нещо, което в известна степен и в този момент се прави: системите за киберсигурност на база ИИ се научават да стопират избран вид електронни писма в пощенските сървъри. Със сигурност не един и двама компютърни гении са мислили по какъв начин да създадат „ данъчен помощник ”, който да „ пропуща ” избрани типове приходи при попълването на данъчна декларация, с цел да сведе до най-малко дължимите суми.
Подготовка за бъдещето
Първата стъпка към подготовката за бъдещото, в което изкуственият разсъдък ни мами, е осъзнаването, че такива системи към този момент има, че към този момент ни заблуждават – че евентуално ще продължат да заблуждават. Как се случва това, дали е мечтана линия и дали в действителност можем да откриваме по кое време се случва – това ще бъдат идващите провокации. След това можем да стартираме да вършим нужния разбор какво тъкмо съставлява измамата, дали и за кого е потребна и какви опасности носи.
Това е нелека задача и ще изисква интердисциплинарна работа на специалисти от всевъзможни области, в това число социолози, психолози, политолози, юристи, военни, етици и политици. Ще би трябвало да мислим по какъв начин да проектираме нови решения, с цел да смекчим измамите на ИИ. Ще е нужно да разработим нови решения, с цел да идентифицираме лъжливото държание, да откриваме желанията. Предизвикателството е колосално и единствено ще се разраства с увеличение на познавателния потенциал на ИИ.
Желанието на някои да основат ИИ системи със зачатъци на разум и обществена просветеност не след дълго ще се срещне със способността на ИИ да схваща непознатите усеща, вярвания, страсти и планове. Това ще открие пред него способността да се работи, с цел да повлияе на тези усеща, вярвания или дейности. С други думи – да мами. Важно е да стартираме да работим по този проблем занапред.
В развиването си изкуственият разсъдък неизбежно ще се научи да мами…
(снимка: CC0 Public Domain)
Ч ували сме доста за маменето, к огато се приказва за изкуствен интелект. Самоуправляемите коли, да вземем за пример, могат да бъдат лъгани с пътните знаци: с дребна интервенция вместо „ STOP ” те ще виждат единствено ограничаване на скоростта. Изкуствен разсъдък може да бъде подведен, че пандата на дадена фотография е гибон. Гласовите асистенти могат да бъдат подвеждани посредством вербални команди със разстройства в звука.. .
Това са единствено част от образците, които сме чували. Има го и противоположното – изкуственият разсъдък може да бъде впрегнат в измами. Така да вземем за пример, ИИ се ползва за основаване на фотоси и видеозаписи с несъществуващи подиуми, герои или изявления – това са по този начин наречените дълбоки измами или „ дийп фалшив ” материали. В последна сметка съвсем всички огромни конгреси и конференции за неестествен разсъдък не минават без разискване на казуса със заблуждаването и измамата.
Опасна еволюция на ИИ
В последно време обаче назрява тематиката за един още по-сериозен аспект на измамите с изкуствен интелект: какво би значело изкуственият разсъдък да мами и какво се случва, когато зад измамите на изкуствения разсъдък стои не човешкото желание, а желание на самия неестествен разсъдък?!
Това терзание може да наподобява някак далечно, в случай че считаме, че ИИ към момента е относително едва публикуван, с „ стеснен ” обсег и може да бъде много малоумен в доста връзки. Да имат някакъв аналог на „ желание ” би било огромна стъпка за днешните ИИ системи. Въпреки това, в случай че желаеме да изпреварим кривата във връзка с измамите с ИИ, би трябвало да сме наясно с всички способи, по които тези системи могат да ни заблудят.
Важно е да имаме някаква концептуална рамка или най-малко схващане за спектъра на типовете измами, на които ИИ може да се научи независимо, преди да стартираме да предлагаме софтуерни отбрани.
Какво е измамата
Ако хвърлим взор надалеч обратно в историята, измамата е остаряла колкото света. Тя сигурно не е присъща единствено на човешките същества. Адаптацията и еволюцията, потребността от оцеляване са довели до безчет форми на машинация в природата – мимикрията да вземем за пример.
още по тематиката
Но да се дефинира тъкмо какво съставлява измамата у изкуствения разсъдък е нелесна задача. За да се приказва за машинация, би трябвало да става дума за мислене за дейности, следващи резултати, цели, средства, способи.
Какво е измамата? Експертите я дефинират като „ подправено другарство в интерес на комуникатора ”. В това изискване е значимо да се посочи, че предаването на информация е с желанието да се манипулира. Всичко наподобява много ясно, до момента в който не стигнем до въпроса какво е „ желание ” и какво се изисква за съществуването на желание, както и дали подправената връзка безусловно включва желание да бъде в интерес на измамника. Ако се лъже по алтруистични аргументи, това машинация ли е?
Намерението изисква да имаме дадена доктрина мислено. А това значи, че сътрудникът има някакво схващане за себе си и че може да разсъждава за други външни субекти и техните планове, стремежи, положения и евентуални държания. Ако измамата изисква съществуването на желание, то тогава ИИ-измамата би изисквала изкуственият разсъдък да има мислено някаква доктрина.
Тук идва въпросът за желанието. Изглежда, че актуалните форми на ИИ-измама разчитат на човешки планове и теории. Тоест, даден човек употребява ИИ като инструмент или средство за реализиране на желанието си да заблуди. Но дали е по този начин? Само тъй като сегашните ИИ нямат доктрина в мозъка си не значи, че те не могат да се научат да заблуждават!
Някои ИИ системи се научават на измамническо държание, без да имат действителна оценка или схващане какво в действителност съставлява „ измамата ”. Това може да е доста просто: скриване на дадени запаси или даване на погрешна информация за постигането на някаква цел.
Два вида лъжливи дейности
Може да се дефинират, общо взето, два вида лъжливи дейности. Единият тип са дейните: ИИ интензивно взе участие в осъществяването на желанието изпращане на дезинформация. Вторият тип са пасивните: пропускане или отричане на информация (укриване). ИИ системите могат да научат всеки от тези типове държание при подобаващи условия.
Това е нещо, което в известна степен и в този момент се прави: системите за киберсигурност на база ИИ се научават да стопират избран вид електронни писма в пощенските сървъри. Със сигурност не един и двама компютърни гении са мислили по какъв начин да създадат „ данъчен помощник ”, който да „ пропуща ” избрани типове приходи при попълването на данъчна декларация, с цел да сведе до най-малко дължимите суми.
Подготовка за бъдещето
Първата стъпка към подготовката за бъдещото, в което изкуственият разсъдък ни мами, е осъзнаването, че такива системи към този момент има, че към този момент ни заблуждават – че евентуално ще продължат да заблуждават. Как се случва това, дали е мечтана линия и дали в действителност можем да откриваме по кое време се случва – това ще бъдат идващите провокации. След това можем да стартираме да вършим нужния разбор какво тъкмо съставлява измамата, дали и за кого е потребна и какви опасности носи.
Това е нелека задача и ще изисква интердисциплинарна работа на специалисти от всевъзможни области, в това число социолози, психолози, политолози, юристи, военни, етици и политици. Ще би трябвало да мислим по какъв начин да проектираме нови решения, с цел да смекчим измамите на ИИ. Ще е нужно да разработим нови решения, с цел да идентифицираме лъжливото държание, да откриваме желанията. Предизвикателството е колосално и единствено ще се разраства с увеличение на познавателния потенциал на ИИ.
Желанието на някои да основат ИИ системи със зачатъци на разум и обществена просветеност не след дълго ще се срещне със способността на ИИ да схваща непознатите усеща, вярвания, страсти и планове. Това ще открие пред него способността да се работи, с цел да повлияе на тези усеща, вярвания или дейности. С други думи – да мами. Важно е да стартираме да работим по този проблем занапред.
Източник: technews.bg
КОМЕНТАРИ