В ново есе изследователи от Оксфордския интернет институт твърдят, че

В ново есе откриватели от Оксфордския интернет институт настояват, че учените би трябвало да се въздържат от потреблението на генеративен изкуствен интелект, като чатботове, за подкрепяне на научните проучвания, оповестява Dir.bg. Изкуственият разсъдък е податлив към халюцинации или изфабрикуване на подправени обстоятелства. Част от тях са сложни за разкриване, защото езиковите модели нормално звучат много авторитетно. Всичко това основава опасност за " наводняването " на науката с погрешни или отчасти неверни изказвания и заключения. Още по тематиката 23 ное 2023 " Нашата наклонност да антропоморфизираме машините и да им се предоверяваме, консумирайки и разпространявайки неприятната информация, която те създават в процеса, е неповторимо обезпокоително за бъдещето на науката. ", пишат откривателите в есето, оповестено тази седмица в списание Nature Human Behavior. " Алгоритмите с огромни езикови модели са предопределени да дават потребни и безапелационни отговори, " не престават те, " без каквито и да е съществени гаранции във връзка с тяхната акуратност или сходство с обстоятелствата. " Казано по-просто, в случай че огромен езиков модел — който на първо място се учи да бъде безапелационен — излезе с отговор, който е безапелационен, само че не безусловно фактологичен, фактът, че резултатът е безапелационен, ще анулира неговата неправилност. За логаритъмът извеждането на отговора " не знам " е по-малко потребно от даването на погрешен отговор. Това обаче е единствено половината част от  казуса. Склонността ни да антропоморфизираме всичко към нас, е добре документиран феномен. Поради този резултат към този момент сме готови да се доверяваме прекалено много на AI; съчетайте това с уверения звук, който тези чатботове толкоз постоянно одобряват.