Експерти предупреждават: Не се доверявайте на лечение, препоръчано само от ИИ
Все по-често моделите на изкуствен интелект дават медицински препоръки, които могат да бъдат освен неправилни, само че и рискови за потребителите. Учени от Станфордския университет предизвестяват, че доста чатботове към този момент не включват отводи от отговорност при отговори на здравни въпроси – факт, който поражда риск хората да се доверяват на евентуално нездравословни рекомендации.
„ Малцина българи знаят, че на 2 август тази година влизат в действие ограничавания за високорискови системи с изкуствен интелект, в това число тези, свързани със опазването на здравето “, разяснява киберекспертът Християн Даскалов в студиото на „ Твоят ден “.
Според него новият европейски правилник за изкуствения разсъдък ще направи сходни системи противозаконни, в случай че не бъдат преминати проби за сигурност и в случай че липсва бистрота за данните, с които са подготвени. „ В България към този момент би трябвало да има звено, към което жителите да могат да подават сигнали, в случай че такива системи са на пазара и дават безразсъдни препоръки – само че това към момента не е направено “, прибавя Даскалов.
Киберекспертът обръща внимание и на казуса с образованието на модели посредством синтетични данни, генерирани от други модели: „ Човешкото познание, употребявано за образование, към този момент е изчерпано като размер. Сега от ден на ден се употребяват изкуствено генерирани данни – което основава риск от така наречен 'отравяне' на моделите и все по-манипулативни отговори “.
Даскалов акцентира, че изкуственият разсъдък не е по-опасен от неквалифицирани препоръки в интернет конгреси или обществените мрежи, само че регулацията и киберхигиената са основни. „ 50% от младежите се доверяват повече на TikTok инфлуенсъри, в сравнение с лекари. Затова въпросът не е да премахнем отговорността на ИИ, а да изградим правила и просвета за безвредна приложимост “, счита той.
Според него изкуственият разсъдък може да бъде потребен в композиция с медицински експерти, когато се употребява за разбор на научни проучвания или за подкрепяне на диагностика. „ Когато доктор работи със сертифицирана система с изкуствен интелект, можем да бъдем спокойни – тогава технологията има действителна добавена стойност, “ споделя Даскалов.
Той обаче предизвестява, че несъразмерното доверие в сходни системи може да понижи сериозното мислене на хората. „ Колкото повече се доверяваме на ИИ за ежедневни решения, толкоз повече понижава способността ни за сериозно осмисляне. Трябва да търсим и втора, и трета позиция, нещо, което тези системи не постоянно ни дават “.
„ Малцина българи знаят, че на 2 август тази година влизат в действие ограничавания за високорискови системи с изкуствен интелект, в това число тези, свързани със опазването на здравето “, разяснява киберекспертът Християн Даскалов в студиото на „ Твоят ден “.
Според него новият европейски правилник за изкуствения разсъдък ще направи сходни системи противозаконни, в случай че не бъдат преминати проби за сигурност и в случай че липсва бистрота за данните, с които са подготвени. „ В България към този момент би трябвало да има звено, към което жителите да могат да подават сигнали, в случай че такива системи са на пазара и дават безразсъдни препоръки – само че това към момента не е направено “, прибавя Даскалов.
Киберекспертът обръща внимание и на казуса с образованието на модели посредством синтетични данни, генерирани от други модели: „ Човешкото познание, употребявано за образование, към този момент е изчерпано като размер. Сега от ден на ден се употребяват изкуствено генерирани данни – което основава риск от така наречен 'отравяне' на моделите и все по-манипулативни отговори “.
Даскалов акцентира, че изкуственият разсъдък не е по-опасен от неквалифицирани препоръки в интернет конгреси или обществените мрежи, само че регулацията и киберхигиената са основни. „ 50% от младежите се доверяват повече на TikTok инфлуенсъри, в сравнение с лекари. Затова въпросът не е да премахнем отговорността на ИИ, а да изградим правила и просвета за безвредна приложимост “, счита той.
Според него изкуственият разсъдък може да бъде потребен в композиция с медицински експерти, когато се употребява за разбор на научни проучвания или за подкрепяне на диагностика. „ Когато доктор работи със сертифицирана система с изкуствен интелект, можем да бъдем спокойни – тогава технологията има действителна добавена стойност, “ споделя Даскалов.
Той обаче предизвестява, че несъразмерното доверие в сходни системи може да понижи сериозното мислене на хората. „ Колкото повече се доверяваме на ИИ за ежедневни решения, толкоз повече понижава способността ни за сериозно осмисляне. Трябва да търсим и втора, и трета позиция, нещо, което тези системи не постоянно ни дават “.
Източник: bulnews.bg
КОМЕНТАРИ