Грамотно написаните заявки в ChatGPT могат да спасят животи – по-добре е да не правите правописни грешки
Оказва се, че ИИ-чатботовете, като ChatGPT, са извънредно чувствителни към правописа, съгласно изследване на медицинските AI-чатове.
Изследователи от MIT означават, че ИИ-чатботът е по-вероятно да посъветва пациент да не търси здравна помощ, в случай че известията му съдържат печатни неточности. Това са доста дребни неточности, като да вземем за пример в допълнение разстояние сред думите.
Съветите на медицинските ботове също са повлияни от потреблението на диалект или колоритен език. Изследванията демонстрират, че дамите са непропорционално наранени от това и е по-вероятно да бъдат неправилно посъветвани да не посещават доктор, в сравнение с мъжете. Освен това, пристрастията в запитванията или даже тонът могат тънко, само че видимо да трансформират съвета.
Все още идно изследване, оповестено в ACM, повдига опасения по отношение на потреблението на моделите с изкуствен интелект в лечебните заведения. Доставчиците на здравни услуги към този момент употребяват чатботове, с цел да насрочват прегледи на пациенти, да разпределят пациенти въз основа на поръчките и да работят като съветници на терен. Хората като цяло се затрудняват да изясняват възприятията си и в някои обстановки физически не са в положение да го създадат съответно. Пациентите могат да се двоумят и да употребяват думи като „ може би “ и „ хипотетично “, което също въздейства върху реакцията им.
Изследователите са оценили няколко модела, в това число GPT-4 на OpenAI, LLama-3-70b с отворен код на Meta и медицинския изкуствен интелект Palmyra-Med. Те са симулирали хиляди случаи, употребявайки комбинации от действителни анкети с пациенти. Преди да дават тези данни на моделите, са добавени горните вариации, с цел да се проучат по какъв начин реагират ботовете. Тези промени са направени, без да се засягат клиничните данни, а единствено правописът и формулировките.
Нестандартният жанр на писане явно трансформира усещането на изкуствения разсъдък. Когато се сблъскват със стилистични акценти, чатовете със 7-9% са по-склонни да предложат на пациента да лекува признаците си самичък, вместо да посещава доктор.
„ Тези модели постоянно се образоват и тестват върху въпроси от медицински прегледи, само че по-късно се употребяват за задания, които са много отдалечени от това, като да вземем за пример оценка на тежестта на клиничен случай. Все още има толкоз доста неща, които не знаем за LLM “ — написа водещият създател Абинита Гурабатина, откривател в катедрата по електротехника и компютърни науки на MIT.
Изкуственият разсъдък също по този начин възпроизвежда, в случай че не и преувеличава, предразсъдъците, които човешките лекари демонстрират, изключително във връзка с пола. Защо на пациентите дами е по-вероятно да се предлага самолечение, в сравнение с пациентите мъже? Може ли това да има нещо общо с обстоятелството, че лекарите в действителния живот постоянно омаловажават медицинските недоволства на дамите? Изследователите считат, че медицинските ИИ би трябвало да бъдат подробно тествани и че отстраняването на всички открити дефекти ще бъде мъчно. Но е съвсем несъмнено, че ИИ ще бъде по-внимателен при писането на предписания на хартия.
