Изкуственият интелект ще създаде капан за ума на хората: учените предупреждават за предстояща опасност
Широкото потребление на логаритмите за изкуствен интелект, изключително при препоръчване на наличие и артикули за потребителите въз основа на тяхната предходна онлайн интензивност, докара до появяването на нови феномени в обществените мрежи като ехо-камери и осведомителни пашкули. AI-алгоритмите основават клопки за мозъка на уеб-потребителите, като ги предизвикват да четат единствено наличие, което резонира с техните възгледи за живота, политиката и други
Това се показва в изследване на група учени, ръководени от професор Йънг Ли от университета Цинхуа (КНР). Тяхната работа е оповестена в списанието Nature Machine Intelligence.
Изследователите са проучили по какъв начин се образуват по този начин наречените осведомителни пашкули, в които потребителите се сблъскват единствено с отзиви или консуматори, повтарящи личните им възгледи. Това може да съставлява сериозен риск за развиването на сериозното мислене.
Първият създател на сходна работа, Цзинхуа Пяо, означи, че необятното внедряване на ръководените от изкуствения разсъдък логаритми основава нови провокации. Например, понижаване на въздействието на идеологическите разнообразни вести, отзиви, политически възгледи и другари. Той отбелязва, че такава технология изолира хората от разнообразната информация и в последна сметка ги „ заключва в една тематика или позиция “.
Това, съгласно откривателите, може да има широкообхватни отрицателни последствия, защото такива пашкули могат да усилят предразсъдъците и поляризацията в обществото, да попречват персоналното израстване, творчеството и нововъведенията, да усилят дезинформацията и да попречват напъните за основаване на по-приобщаващ свят.
„ Концепцията за осведомителни пашкули е възприета, с цел да опише необятно следения феномен, че с възходящото взаимоотношение с интелигентните логаритми хората се изолират от разнообразната информация и в последна сметка остават в клопката на една тематика или позиция “ —- подчертва ученият.
Изследователите обаче настояват, че не би било почтено да се упрекват AI-алгоритмите или съответно хората, защото такива осведомителни пашкули пораждат от комплицирани взаимоотношения и продан на информация сред разнообразни субекти.
Подобни взаимоотношения в работата на учените са разграничени на четири съставния елемент:
асортимент на база сходства — процесът, при който AI предлага наличие, артикули или други консуматори, изхождайки от това, че те са най-подобни с това, с което потребителят към този момент е взаимодействал. Това е основната мощ, която води до основаването на пашкули; положителна противоположна връзка — даване на ново наличие в сходство с предходните желания на потребителя. Този развой понижава осведомителното разнообразие; отрицателна противоположна връзка — пречи на образуването на пашкули и асортимент на еднообразна информация; случайно самоизследване —- това е обстановката, при която потребителят независимо намира наличието и развалените логаритми, които водят до образуването на пашкули.Учените считат, че постоянните осведомителни пашкули се образуват, когато има дисбаланс сред позитивната и негативната противоположна връзка, както и когато подборът, основан на подобие, непрестанно се усилва.
За да избегнете този капан на мозъка, учените поучават освен да харесвате, само че и да реагирате на наличието, което не ви харесва, с цел да могат логаритмите да основат по-обективна картина. Те също по този начин предизвикват потребителите на мрежата по-често да прибягват и до самоизследване, защото преглеждането на нова информация ще повлияе върху бъдещите рекомендации от страна на логаритъма.
