Google махна AI здравни съвети заради подвеждаща информация
Гугъл е премахнал част от автоматизирано генерираните си с изкусствен разсъдък здравни систематизирания, откакто следствие на английския в. „ Гардиън “ сподели, че те могат да излагат потребителите на риск посредством неточна и подвеждаща здравна информация.
Става дума за така наречен AI Overviews – къси резюмета, създавани благодарение на генеративен изкуствен интелект и показвани най-отгоре в резултатите от търсенето. В някои случаи те са съдържали неправилни данни, които съгласно експерти могат да доведат до съществени здравни последствия.
Един от най-проблематичните образци визира информация за чернодробни кръвни проучвания. AI обобщенията са представяли стойности като „ естествени “ без нужния медицински подтекст и без отчитане на фактори като възраст, пол или самостоятелно здравословно положение. Според специалисти това е могло да заблуди хора с тежки чернодробни болести, че резултатите им са в норма, и да ги откаже от следващи прегледи.
След обявата Гугъл е премахнал AI обобщенията за търсенията „ Какви са естествените стойности при кръвните проучвания на черния дроб? “ и „ Какви са естествените референтни стойности при проучванията за чернодробна функционалност? “.
От компанията обявиха, че не разясняват съответни случаи, само че увериха, че работят за възстановяване на системата, когато обобщенията не дават задоволителен подтекст или нарушават вътрешните им правила.
От Британския концерн за чернодробни болести приветстваха решението, само че предизвестиха, че при леко изменени формулировки на същите въпроси AI обобщенията не престават да се появяват. Според организацията тълкуването на чернодробни проучвания е комплициран развой, който не може да бъде сведeн до съпоставяне на цифри.
Експерти също означават, че премахването на обособени резултати не взема решение по-широкия проблем с потреблението на изкуствен интелект при здравни търсения. По думите им Гугъл би трябвало по-ясно да насочва потребителите към тествани медицински източници и професионална помощ.
Гугъл твърди, че AI обобщенията се демонстрират единствено когато има висока степен на убеденост в качеството на информацията, само че признава, че системата предстои на непрекъснат обзор и корекции.
Става дума за така наречен AI Overviews – къси резюмета, създавани благодарение на генеративен изкуствен интелект и показвани най-отгоре в резултатите от търсенето. В някои случаи те са съдържали неправилни данни, които съгласно експерти могат да доведат до съществени здравни последствия.
Един от най-проблематичните образци визира информация за чернодробни кръвни проучвания. AI обобщенията са представяли стойности като „ естествени “ без нужния медицински подтекст и без отчитане на фактори като възраст, пол или самостоятелно здравословно положение. Според специалисти това е могло да заблуди хора с тежки чернодробни болести, че резултатите им са в норма, и да ги откаже от следващи прегледи.
След обявата Гугъл е премахнал AI обобщенията за търсенията „ Какви са естествените стойности при кръвните проучвания на черния дроб? “ и „ Какви са естествените референтни стойности при проучванията за чернодробна функционалност? “.
От компанията обявиха, че не разясняват съответни случаи, само че увериха, че работят за възстановяване на системата, когато обобщенията не дават задоволителен подтекст или нарушават вътрешните им правила.
От Британския концерн за чернодробни болести приветстваха решението, само че предизвестиха, че при леко изменени формулировки на същите въпроси AI обобщенията не престават да се появяват. Според организацията тълкуването на чернодробни проучвания е комплициран развой, който не може да бъде сведeн до съпоставяне на цифри.
Експерти също означават, че премахването на обособени резултати не взема решение по-широкия проблем с потреблението на изкуствен интелект при здравни търсения. По думите им Гугъл би трябвало по-ясно да насочва потребителите към тествани медицински източници и професионална помощ.
Гугъл твърди, че AI обобщенията се демонстрират единствено когато има висока степен на убеденост в качеството на информацията, само че признава, че системата предстои на непрекъснат обзор и корекции.
Източник: mediapool.bg
КОМЕНТАРИ