Не само AI халюцинира
Може да е преждевременно да се екстраполира от размер на извадка от едно (аз). Но признавам, че паметта ми не е съвършена: не помня някои неща, комплицирам други и понякога си „ припомням “ събития, които в никакъв случай не са се случвали. Подозирам, че някои читатели на FT може да са също толкоз комплицирани. Интелигентна машина може да назова това човешка илюзия.
Ние приказваме доста за генеративни AI модели, халюциниращи обстоятелства. Намираме се на юриста, който показа правосъден документ, съдържащ фиктивни случаи, измислени от ChatGPT. Колега от FT, който накара чатбота да сътвори диаграма на разноските за образование на генеративни AI модели, беше сюрпризиран да види, че най-скъпият, който разпознава, не съществува (освен в случай че моделът няма достъп до вътрешна информация). Както всеки консуматор бързо открива: тези модели са ненадеждни - тъкмо като хората. Интересният въпрос е: дали машините са по-поправими от нас? Може да се окаже по-лесно да пренапишеш код, в сравнение с да пренапишеш мозъка.
...Прочетете целия текст »
