Служители на OpenAI предупредиха за сериозни рискове, свързани с изкуствения интелект
Бивши и сегашни чиновници на OpenAI разгласиха по-рано тази седмица намерено писмо, в което предизвестяват за заплахите от изкуствения разсъдък. Те са свързани с прекомерно бързото му развиване и неналичието на първокласен надзор, както и неналичието на отбрана на хора, които изнасят вътрешна информация за нередности в фирмите, предава Си Ен Ен.
„ AI фирмите имат мощен финансов претекст да не желаят ефикасен надзор. Ние не считаме, че наличните структури за това са задоволителни да трансформират ситуацията “, бива записано в писмото.
Притесненията на създателите на писмото надали са без съображение. Особено, в случай че следваме корпоративната логичност, която се движи от представянето в тримесечните им отчети и хищническият им инстинкт. В същото време, сега следим гневна битка сред огромните софтуерни колоси за състезание в бранша. Гугъл, Microsoft, Meta, Nvidia и други са в гневна конкуренция да оглавят AI революцията. Става дума за в действителност доста пари. Според анализатори, AI промишлеността до десетина години ще е пазар за трилиони. А „ нравственос “ е последната дума, която може човек да свърже с една мегакорпорация.
В писмото се твърди, че тези компании разполагат със основна непублична информация по отношение на това, което технологията може да прави. Както и за мащаба на ограниченията за сигурност, които са сложили и равнищата на риск на изкуствения разсъдък. Те прибавят, че понастоящем тези компании имат избрани договорености да споделят част от тази информация с държавните управления. Но не и с гражданското общество и организации. „ Не считаме, че на тях може да се разчита да споделят тази информация непринудено “, пишат те.
В същото време, в писмото се заявявал, че фирмите обвързват чиновниците си с прекомерно строги контракти за конфиденциалност. Те разрешават на тези чиновници да изричат терзанията си пред своите ръководители, само че единствено на тях. Авторите на писмото приканват това състояние да бъде променено и да могат да споделят терзанията си и на регулатори и други организации. Да се схване една просвета на открита рецензия и в случай че вътрешните отчети не дадат резултат, да не се преследва общественото обявяване на проблемите.
