AI системите не винаги работят по начина, по който техните

AI системите не постоянно работят по метода, по който техните основатели биха желали
(снимка: CC0 Public Domain)

Винт Сърф, считан за „ бащата на интернет ”, прикани вложителите да не хвърлят пари в основани на AI чатботове като ChatGPT и Bard. Според него, технологията е прекомерно сурова, с цел да обезпечи бърза възвръщаемост, и поражда доста етични проблеми.

Говорейки на конференция в Маунтин Вю, Калифорния (САЩ), Сърф означи, че и ChatGPT, и Bard не постоянно работят по метода, по който техните основатели биха желали. Инвестирането в тях просто тъй като „ готино ” е концепция, която може да е изкушаваща, само че контрапродуктивна, счита легендата в интернет промишлеността.

„ Истината е, че не постоянно разбираме какво може да се случи с тези технологии и почтено казано, казусът са хората… Ние, хората, не сме се трансформирали през последните 400 години, още по-малко през последните 4000. Хората ще се стремят към това, което ще бъде от изгода за тях, не за вас. Трябва да помним това и да бъдем по-селективни във връзка с технологиите ”, споделя той.

Винт Сърф е съразработчик на протокола за транспорт на данни TCP/IP, който е главен за уеб, и работи в Гугъл от 2005 година като „ водещ евангелист на интернет ”. Интересното е, че поставяйки под въпрос приложимостта на основаните на изкуствен интелект чатботове, той по някакъв метод опонира на ползите на личната си компания, която създава чатбота Bard. Но със статута си може да си го разреши.

Сърф споделя, че е помолил една от тези AI системи да добави емотикони в края на всяко изречение. Системата не е изпълнила това искане. Когато Сърф ѝ обръща внимание на този факт, тя се извинява, само че не трансформира нищо в държанието си.
още по темата
„ Все още сме доста надалеч от осъзнаването или самоосъзнаването на AI ”, споделя специалистът, отбелязвайки, че има разлика сред това, което технологията дава обещание, и това, което прави, само че не постоянно е допустимо да се разграничи верният отговор от красноречиво дефиниран подобен.

По-специално, откривателят е изискал от чатбота да напише личната му биография. Ботът генерира текста с доста грешки, само че в същото време упорства, че всичко е основано на обстоятелства.

„ От техническа позиция считам, че разработчиците като мен би трябвало да бъдат задължени да намерят способи да опитомят тези технологии, тъй че да е по-малко евентуално да причинят щета ”, прибавя Сърф.

„ И, несъмнено, доста зависи от приложението: едно е да имаш документално есе, а друго е когато съветът, даден от машината… може да има медицински последици. Много е значимо да разберем по какъв начин да минимизираме най-лошите сюжети ”, показва Винт Сърф.

Както ChatGPT, по този начин и Bing към този момент бяха хванати да дават неправилни или съзнателно неверни отговори на въпроси. Дори избухна скандал, когато изкуственият разсъдък на търсачката Bing стартира да дава изцяло несъответствуващи отговори и даже да наскърбява потребителите.

Основният проблем с AI е резултатът на „ черната кутия ”: никой не може да каже какво тъкмо се случва в нея, разясняват експерти. В противоположен случай най-често срещаните проблеми на AI, като пристрастия, неверни отговори и така нататък, от дълго време биха били решени.

Винт Сърф е прав, че това са доста груби и сурови технологии, само че за жалост към този момент се употребяват в практиката. Какви ще са следствията в дълготраен проект? Мнозина са разтревожени, не без съображение.