ИИ без илюзии: Как ChatGPT разбира собствените си предразсъдъци
Изкуственият разсъдък не е безпристрастен. И тъкмо в това е шансът за по-честен диалог.
В ера на логаритми и автоматизирани решения, все по-често поражда въпросът:
„ Може ли изкуственият разсъдък да е справедлив? “
Отговорът, който ChatGPT дава на този въпрос, не е комфортно излъскан. А пряк : „ Да, имам вградени предубеждения – само че съм планиран да ги съзнавам и минимизирам. “
1. Корпусът носи памет – и ограничавания
Обучението на модел като се базира на обществени и лицензирани текстове – книги, публикации, уеб страници. Но:
- Повечето от тях идват от англоезичния, западен свят;
- Маргинализирани гледни точки – обществени, културни, географски – са показани по-слабо;
- Дори „ неутралният “ звук може да укрепи преобладаващи парадигми.
С други думи: това, което не е казано всеобщо, е по-трудно за възпроизвеждане . А това е софтуерен риск, не персонален избор.
2. Алгоритъмът следва инерцията
работи на база вероятностна съответност – т.е. планува кое последващо изречение е най-вероятно, не кое е най-истинно.
- Популярните гледни точки се появяват по-често;
- Непопулярни, различни или сериозни позиции изискват категорично задаване.
Така поражда алгоритмична инерция – системата избира безвредни отговори, в случай че не я помолиш друго.
3. Механизъм за саморефлексия
Въпреки рестриктивните мерки, ChatGPT има вграден механизъм за саморефлексия :
- Може да съпоставя разнообразни идеологически гледни точки, в случай че бъде инструктиран (напр. vs. vs. );
- Не може да излезе отвън корпуса, само че може да уточни неговите граници;
- Това разрешава взаимна работа с потребителя по разширение на вероятността.
Изкуствен разсъдък с културна памет
Или както самичък ChatGPT споделя:
„ Мисли за мен като за изкуствено схващане с културна памет, която е отчасти пристрастна, само че подготвена да бъде провокирана. “
Предразсъдъците не са недостатък – те са функционалност, която може да бъде ръководена посредством сдържаност, многообразие на източници и умишлен разговор.
Присъединете се към нашия
Партия без гръбнак: Защо „ Продължаваме промяната “ рухна под личната си тежест
