Шарлатаните в медицината са съществували винаги, днес изкуственият интелект ги е увеличил
Сподели
Около година откакто станах родител, разчитах на препоръки и трикове, с цел да подкрепям бебето си крепко и щастливо. Детето ми продължи да пораства пред очите ми и аз започнах да чувствам, по какъв начин заседналата в гърдите ми буца стартира да се разпада и на нейно място да се развива любознание.
След старта на детската градина детска градина (или, както споделят германците — Kita), други родители в Берлин, където живеем, ме предизвестиха, че ще ни залее лавина от заболявания. Затова, в този необикновен стадий на неустановеност, направих това, което вършат доста родители — обърнах се към интернет.
Този път се обърнах към ChatGPT — източник, за който бях дала обещание в никакъв случай да не употребявам. Зададох явен, само че фундаментален въпрос: „ Как да подкрепям здравето на детето си? “
Отговорите бяха практични: избягвайте добавена захар, следете за признаци на температура и говорете постоянно с детето. Но частта, която ме накара да се притесня, беше последното искане: „ Ако ми кажете възрастта на детето, мога да ви дам по-точен отговор. “
Разбира се, би трябвало да съм осведомена за здравето на детето си, само че около възходящия ми песимизъм към изкуствения разсъдък, взех решение да не продължа диалога.
По-рано тази година сходна преживелица се разигра и в Съединени американски щати. С набиращата скорост зараза от морбили, детското здраве се трансформира в важен политически проблем, а Департаментът по опазване на здравето и обществени услуги, управителен от Робърт Ф. Кенеди, започва акция, отпред с комисия „ Да създадем Америка още веднъж здрава “ (Make America healthy again – MAHA), целяща битка с хроничните детски заболявания.
Съпътстващият отчет твърдеше, че преглежда главните закани за здравето на децата: пестициди, медикаменти по рецепта и ваксини. Най-поразителното в него бяха неточности в източниците и голословните изводи.
Външни откриватели и публицисти смятаха, че това допуска потреблението на ChatGPT при съставянето на отчета.
Още по-притеснително беше изказванието, че отчетът MAHA съдържаше позовавания на несъществуващи проучвания. Това съответства с към този момент известното за изкуствения разсъдък — той може освен да вкарва погрешни цитати, само че и да халюцинира, т.е. да измисля несъществуващи материали.
Епидемиологът Катрин Кийс, посочена като първи създател на проучване за тревогата при подрастващи в отчета MAHA, съобщи: „ Статията, на която се базира отчетът, не е същинска и нито аз, нито моите сътрудници сме работили по нея. “
Заплахата от изкуствения разсъдък може да наподобява нова, само че ролята му в разпространяването на медицински легенди се вмества в остарелия модел на шарлатаните, които продават подправени лекове.
През 17-и и 18-и век не са липсвали шарлатани, продавали препарати против язви и очни гнойни формирания. Макар и без здравно обучение, „ лечители “ като Буонафеде Витали и Джовани Гречи са могли да получат лиценз за продажба на своите серуми.
Публичните площади им давали опция да събират хора, да ги забавляват и да ги предизвикват да купуват продуктите им, измежду които и balsamo simpatico (симпатиков балсам) против венерически заболявания.
Днес шарлатанството е по-сложно, тъй като разполагаме с надалеч по-мощни принадлежности — като изкуствения разсъдък, който в последна сметка е по-опасен даже от измамниците в предишното. Тази дезинформация може да се появи на платформи, които одобряваме за надеждни, като търсачките да вземем за пример, или да се маскира като научни публикации — а те са едни от най-надеждните ни източници въобще.
Иронично е, че Кенеди младши, който управлява здравния департамент, твърди, че водещи рецензирани медицински списания като Lancet и New England Journal of Medicine са корумпирани.
Изкуственият разсъдък е извънредно комфортен и доста хора се обръщат към него за медицински препоръки. Но има съществени опасения по отношение на потреблението му. Достатъчно нездравословно е единствено да го одобряваме като субект, само че когато едно държавно управление разчита на AI за медицински отчети, това може да докара до подвеждащи заключения за публичното здраве.
Свят, кондензиран с AI платформи, основава среда, в която обстоятелствата и измислиците се смесват, а научната обективност се губи.
Технологичният публицист Карън Хао подходящо отбелязва в Atlantic: „ Как да управляваме изкуствения разсъдък? Когато AI е на път да промени толкоз доста основни функционалности в обществото, този въпрос в действителност значи: по какъв начин да подсигуряваме, че ще създадем бъдещето си по-добро, а не по-лошо? “
Трябва да се заемем с този въпрос, създавайки правила за ръководство на AI, вместо да одобряваме безразсъдна държавна политика по отношение на него.
Индивидуалните решения могат да бъдат потребни за облекчение на страховете ни, само че ни трябват постоянни и адаптивни политики, които да държат огромните софтуерни компании и държавните управления виновни за злоупотребата с AI. В противоположен случай рискуваме да създадем среда, в която шарлатанството става норма.
Коментарът е оповестен в The Guardian. Заглавието е на редакцията на ДЕБАТИ.БГ.
За още забавни вести, изявленията, разбори и мнения харесайте!
Около година откакто станах родител, разчитах на препоръки и трикове, с цел да подкрепям бебето си крепко и щастливо. Детето ми продължи да пораства пред очите ми и аз започнах да чувствам, по какъв начин заседналата в гърдите ми буца стартира да се разпада и на нейно място да се развива любознание.
След старта на детската градина детска градина (или, както споделят германците — Kita), други родители в Берлин, където живеем, ме предизвестиха, че ще ни залее лавина от заболявания. Затова, в този необикновен стадий на неустановеност, направих това, което вършат доста родители — обърнах се към интернет.
Този път се обърнах към ChatGPT — източник, за който бях дала обещание в никакъв случай да не употребявам. Зададох явен, само че фундаментален въпрос: „ Как да подкрепям здравето на детето си? “
Отговорите бяха практични: избягвайте добавена захар, следете за признаци на температура и говорете постоянно с детето. Но частта, която ме накара да се притесня, беше последното искане: „ Ако ми кажете възрастта на детето, мога да ви дам по-точен отговор. “
Разбира се, би трябвало да съм осведомена за здравето на детето си, само че около възходящия ми песимизъм към изкуствения разсъдък, взех решение да не продължа диалога.
По-рано тази година сходна преживелица се разигра и в Съединени американски щати. С набиращата скорост зараза от морбили, детското здраве се трансформира в важен политически проблем, а Департаментът по опазване на здравето и обществени услуги, управителен от Робърт Ф. Кенеди, започва акция, отпред с комисия „ Да създадем Америка още веднъж здрава “ (Make America healthy again – MAHA), целяща битка с хроничните детски заболявания.
Съпътстващият отчет твърдеше, че преглежда главните закани за здравето на децата: пестициди, медикаменти по рецепта и ваксини. Най-поразителното в него бяха неточности в източниците и голословните изводи.
Външни откриватели и публицисти смятаха, че това допуска потреблението на ChatGPT при съставянето на отчета.
Още по-притеснително беше изказванието, че отчетът MAHA съдържаше позовавания на несъществуващи проучвания. Това съответства с към този момент известното за изкуствения разсъдък — той може освен да вкарва погрешни цитати, само че и да халюцинира, т.е. да измисля несъществуващи материали.
Епидемиологът Катрин Кийс, посочена като първи създател на проучване за тревогата при подрастващи в отчета MAHA, съобщи: „ Статията, на която се базира отчетът, не е същинска и нито аз, нито моите сътрудници сме работили по нея. “
Заплахата от изкуствения разсъдък може да наподобява нова, само че ролята му в разпространяването на медицински легенди се вмества в остарелия модел на шарлатаните, които продават подправени лекове.
През 17-и и 18-и век не са липсвали шарлатани, продавали препарати против язви и очни гнойни формирания. Макар и без здравно обучение, „ лечители “ като Буонафеде Витали и Джовани Гречи са могли да получат лиценз за продажба на своите серуми.
Публичните площади им давали опция да събират хора, да ги забавляват и да ги предизвикват да купуват продуктите им, измежду които и balsamo simpatico (симпатиков балсам) против венерически заболявания.
Днес шарлатанството е по-сложно, тъй като разполагаме с надалеч по-мощни принадлежности — като изкуствения разсъдък, който в последна сметка е по-опасен даже от измамниците в предишното. Тази дезинформация може да се появи на платформи, които одобряваме за надеждни, като търсачките да вземем за пример, или да се маскира като научни публикации — а те са едни от най-надеждните ни източници въобще.
Иронично е, че Кенеди младши, който управлява здравния департамент, твърди, че водещи рецензирани медицински списания като Lancet и New England Journal of Medicine са корумпирани.
Изкуственият разсъдък е извънредно комфортен и доста хора се обръщат към него за медицински препоръки. Но има съществени опасения по отношение на потреблението му. Достатъчно нездравословно е единствено да го одобряваме като субект, само че когато едно държавно управление разчита на AI за медицински отчети, това може да докара до подвеждащи заключения за публичното здраве.
Свят, кондензиран с AI платформи, основава среда, в която обстоятелствата и измислиците се смесват, а научната обективност се губи.
Технологичният публицист Карън Хао подходящо отбелязва в Atlantic: „ Как да управляваме изкуствения разсъдък? Когато AI е на път да промени толкоз доста основни функционалности в обществото, този въпрос в действителност значи: по какъв начин да подсигуряваме, че ще създадем бъдещето си по-добро, а не по-лошо? “
Трябва да се заемем с този въпрос, създавайки правила за ръководство на AI, вместо да одобряваме безразсъдна държавна политика по отношение на него.
Индивидуалните решения могат да бъдат потребни за облекчение на страховете ни, само че ни трябват постоянни и адаптивни политики, които да държат огромните софтуерни компании и държавните управления виновни за злоупотребата с AI. В противоположен случай рискуваме да създадем среда, в която шарлатанството става норма.
Коментарът е оповестен в The Guardian. Заглавието е на редакцията на ДЕБАТИ.БГ.
За още забавни вести, изявленията, разбори и мнения харесайте!
Източник: debati.bg
КОМЕНТАРИ