Трябва ли да започнем да приемаме благосъстоянието на A.I. Сериозно?
Една от най-дълбоко държаните ми полезности като софтуерен колонист е хуманизмът. Вярвам в хората и мисля, че технологията би трябвало да оказва помощ на хората, а не да ги обезсърчава или заменя. Грижа се за привеждане в сходство на изкуствения разсъдък - т.е., като се уверя, че A.I. Системите работят в сходство с човешките ценности-защото считам, че нашите полезности са радикално положителни или най-малко по-добри от стойностите, които един робот може да измисли.
Така че, когато чух, че откривателите в антропика, A.I. Компания, която направи Claude Chatbot, започваше да учи „ благоденствие на модела “ - концепцията, че A.I. Моделите скоро могат да станат съзнателни и да заслужат някакъв честен статус - хуманистът в мен мислеше: Кой се интересува от чатботите? Не би трябвало ли да се тормозим от A.I. Направете ни, не ни малтретираме?
Трудно е да се спори, че днешният A.I. Системите са в съзн...
Прочетете целия текст »
