Защо AI има нужда от философи? В една стая в

Защо AI има потребност от философи? В една стая в Лондон или Сан Франциско — без мрамор, без колони, без орли и имперски знаци — през днешния ден се вземат решения, които по мащаб не са по-малки от тези, които в миналото са определяли ориста на империи. Само че вместо мъдрец, седнал до предстоящ държател, през днешния ден против логаритми стоят хора, които се пробват да схванат не по какъв начин да ръководят страна, а по какъв начин да обяснят на машина какво значи да действа  “правилно ”.

Изкуственият разсъдък към този момент не е лабораторен опит или научна абстракция

Той написа код, изпраща известия, взема решения и стартира да се намесва в пространства, които до през вчерашния ден бяха напълно човешки. И тъкмо тук поражда казусът, който звучи съвсем антично по своята същина: кой учи този нов “разум ” по какъв начин да не сбърка?

Философията, която дълго време изглеждаше като дисциплинираност, занимаваща се с прекомерно огромни въпроси без практическа стойност, внезапно се оказва в центъра на най-практичната промишленост на XXI век.

И в случай че в миналото Аристотел е оформял мисленето на предстоящ поробител, през днешния ден въпросът е дали някой може да оформи мисленето на система, която няма упоритости за престол, само че може да повлияе на милиони животи с един ред код.

В тази нова действителност философите се връщат не като фигури от историята, а като хора с съвсем неловко практична роля. В компании като Гугъл DeepMind и Anthropic те към този момент не стоят настрана от технологиите, а влизат непосредствено в процеса на тяхното създаване — там, където кодът стартира да придобива държание, а държанието стартира да има последици.

И въпросите, които задават, не звучат като от учебник по метафизика

Те са мъчително съответни. Как да разберем дали една система просто имитира морал, или го схваща? Как да се мери “правилно ” държание, когато самото разбиране за вярно се разпада сред култури, подтекст и ползи? И най-неудобният въпрос от всички — какво вършим, в случай че машината стартира да се държи по този начин, че да не можем да разбираем за какво?

Една от посоките, по които се движи промишлеността, е основаването на рамки от правила — самобитни “конституции ” за модели като Claude, които да лимитират държанието им в авансово заложени граници.

Аманда Аскел, една от първите чиновници на компанията Anthropic, е измежду създателите на така наречен „ конституция “ на Claude – документ с правила и полезности, които моделът би трябвало да следва.

„ Създаването на тази конституция беше доста близо до приложната философия “, споделя тя. „ По-скоро като да учиш човек по какъв начин да бъде добър. “ Аскел обръща внимание и на предстоящ миг, в който AI системите ще стартират да вземат участие в създаването на идващите генерации модели. Според нея е значимо да не се основава „ неприязън “ сред хората и машините.

Навлизането на философи в структурите на софтуерните колоси обаче се посреща със песимизъм от част от академичната общественост. Основното безпокойство е обвързвано с евентуалния спор на ползи – съществува риск заплащането от страна на AI фирмите да компрометира изследователската самостоятелност и обективност на учените.

„ Това е доста потребно за обществения имидж на тези компании “, твърди Харкорт. „ Създава се чувството, че създават нещо съвсем свръхчовешко. “

Звучи подредено, съвсем утешително. Но в основата си това е опит да се направи нещо, което човечеството в никакъв случай не е успявало да направи изцяло сполучливо даже със себе си — да формализира морал.

И тук напрежението става по-тихо, само че по-дълбоко

Защото до момента в който тези системи стават все по-способни да работят в действителния свят — да пишат код, да изпращат известия, да вземат решения, които имат последици отвън екрана — въпросът към този момент не е дали разбираме машините. Въпросът е дали разбираме задоволително добре себе си, с цел да ги учим.

Философите, които работят в тези екипи, постоянно разказват ролята си като опит да се хване нещо, което се изплъзва. Не толкоз “как работи моделът ”, а “какво значи да се държи по този метод ”. Това е разлика, която звучи семантично, само че в действителност е политическа, икономическа и морална по едно и също време.

В университетските среди се появява еднакъв боязън — че философията, попаднала в сърцето на софтуерните компании, може да се трансформира в корпоративен PR, който да внушава отговорност и сигурност, без действително да трансформира посоката на развиване на технологиите и единствено да легитимира към този момент взети решения.

Но даже този боязън не трансформира главния факт: изкуственият разсъдък към този момент не е единствено механически план. Той е план за държание. А държанието, когато стане задоволително комплицирано, неизбежно стартира да наподобява на метафизичен въпрос.

Но макар скептицизма, наклонността не се обръща. Защото, както споделя един от практиците в региона, „ с цел да дадеш първокласен етичен принос, би трябвало да имаш достъп до качествена информация “.

А достъпът до тази информация към този момент е съсредоточен там, където се написа идващото потомство системи.

В последна сметка точно тук се затваря кръгът със остарелия облик. Ако в миналото Аристотел е учил Александър Велики не просто на познание, а на метод на мислене за власт, избор и граници, през днешния ден въпросът е дали въобще е допустимо да се “обучи ” нещо, което няма упоритости, само че няма и граници.

Остава единствено един по-тих въпрос — дали в онази стая в Лондон или Сан Франциско, където се написа бъдещето на тези системи, философът е нужен. Или към този момент е просрочен.

Димитър Димитров/ SafeNews

Източник: Wired, Рrofit.