AI чертае нови граници на етиката в технологиите
Когато сътворяваме приложения, би трябвало да мислим какви са последствията за хората, споделя Селам Могес
Всички наши въпроси при основаване на която и да е нова технология би трябвало да са ориентирани към това по какъв начин решението ще донесе повече благоденствие за обособения човек и за обществото, споделя Селам Могес, софтуерен инженер в Apella (снимка: Мария Малцева / TechNews.bg)
Развитието на ИТ системите слага провокации за софтуерния свят, тъй като чертае нови граници за етиката при основаване на приложения. Това е аспект, за който незадоволително се замисляме, когато проектираме каквато и да е нова ИТ система.
Какви са последствията за всички хора от обществото, когато проектираме обещано приложение? Ще се усещат ли по-добре всички? Как ще се отрази новото софтуерно знамение на чувството за общественост? А на околната среда? Дали няма да има някой, който да се почувства унизен, засегнат, подценен?
Такива въпроси би трябвало да си зададем, преди да пуснем „ на вода ” каквото и да е ново приложение или друга нова технология, прикани Селам Могес , софтуерен инженер в компанията за здравно съоръжение Apella, по време на своята презентация на конференцията DevReach 2023 , проведена от Progress в София Ивент Център.
Всички наши въпроси по време на основаването на която и да е нова технология би трябвало да са ориентирани към това по какъв начин решението ще донесе повече благоденствие за обособения човек и за обществото, уточни Могес.
Нека си представим скенера за сигурност на летището. Ние всички би трябвало да минем през него, с цел да можем да се качим на самолета си. Но от време на време той ненадейно стартира да пищи и всички се обръщат, описа Могес. Причината може да е всякаква, да вземем за пример железна основа на копчето на панталона – само че резултатът е, че пасажерът се тормози, всички се вторачват в него, настъпва срам. Ето за такива обстановки на разстройване и стеснение би трябвало да внимаваме, когато проектираме каквато и да е нова технология, сподели Могес.
Днес това е изключително огромно предизвикателство, тъй като изкуственият разсъдък се употребява от ден на ден, само че той няма етични съображения. Ако една полицейска система, да вземем за пример, е склонна да изкара цветнокожите хора по-вероятни нарушители, това към този момент е деформиране, което не трябва да се позволява.
Предизвикателствата на AI се простират и доста оттатък мислимото и техните последици ще са дълготрайни, стана ясно от посланието на софтуерната инженер. Така да вземем за пример, доста хора към този момент употребяват генеративни логаритми за основаване на текстово и образно наличие, само че към момента няма политики за контролиране на работата на изкуствения разсъдък. А това основава спорове, да вземем за пример в областта на авторските права. Дори да приемем, че още през днешния ден ще се появи съответна нормативна рамка, към този момент са налице милиони произведения, генерирани в интервала от основаването на AI приложения като DALL-E до през днешния ден.
още по темата
Водещ претекст при основаване на каквато и да е нова технология би трябвало да е положителното потребителско прекарване, което не предизвиква отчаяние или засегнатост. Аргументите за това са най-малко два. Първият е неприятното потребителско прекарване: когато хората се усещат зле от работата с дадена система, те няма да желаят употребяват технологията. Вторият мотив са разноските. Всяко препроектиране на съществуващо приложение коства време и разноски, тъй като отваря нов цикъл на дизайн, тестване, валидиране и стартиране на пазара.
Бихме могли да мислим за етиката като за способността на нашата технология да включва всички вероятни представители на обществото – хора от разнообразни религии, пол, възраст, качества. Всяка потребна функционалност, която вграждаме, действително носи изгода за необятната общност.
Един от най-забележителните образци е снишаването на бордюрите в края им, предопределено за по-лесно секване на улицата за хора в инвалидни колички. Оказва се, че това малко усъвършенстване е нещо, което съвсем всички хора употребяват – мъчно ходещите възрастни хора с бастуни и патерици, дамите с тежки пазарски колички, велосипедистите, скейтбордистите, майките с бебешки колички. Това е отличен образец по какъв начин една добра нова функционалност може да благоприятства цялото общество.
В устрема си да сътворяваме по-добри технологии следва да се водим от правилото да не нанасяме щета и да вършим по-добър живота на хората. Това са въпросите, които следва да си задаваме още веднъж и още веднъж, сподели Могес. Обратно, неприятно проектираното приложение не усъвършенства живота на хората и даже нанася щета, тъй като на процедура унищожава труда на сътрудниците ни.
Но белким можем да бъдем толкоз съобразителни и далновидни, че да предвидим всички вероятни разновидности и вариации?! За да реализираме адекватност, развойните ни екипи би трябвало да са колкото се може по-пъстри. В тях е добре да има разнородни хора, тъй като те ни дават разнообразни гледни точки.
Един способ, който може да ни помогне да се задълбочим в етичните аспекти на своята нова разработка, е на стадия на планиране да си представим всички хипотетични приложения на технологията, в това число и сюжета, в който системата се проваля и не намира реализация. Трябва тук да си зададем въпроса какви са аргументите, довели до срутва. Вникването в това какви биха били вероятните аргументи ще ни води до голям брой съображения, които би трябвало да вземем поради от позиция на етичното планиране на приложенията, заключи Могес.
Всички наши въпроси при основаване на която и да е нова технология би трябвало да са ориентирани към това по какъв начин решението ще донесе повече благоденствие за обособения човек и за обществото, споделя Селам Могес, софтуерен инженер в Apella (снимка: Мария Малцева / TechNews.bg)
Развитието на ИТ системите слага провокации за софтуерния свят, тъй като чертае нови граници за етиката при основаване на приложения. Това е аспект, за който незадоволително се замисляме, когато проектираме каквато и да е нова ИТ система.
Какви са последствията за всички хора от обществото, когато проектираме обещано приложение? Ще се усещат ли по-добре всички? Как ще се отрази новото софтуерно знамение на чувството за общественост? А на околната среда? Дали няма да има някой, който да се почувства унизен, засегнат, подценен?
Такива въпроси би трябвало да си зададем, преди да пуснем „ на вода ” каквото и да е ново приложение или друга нова технология, прикани Селам Могес , софтуерен инженер в компанията за здравно съоръжение Apella, по време на своята презентация на конференцията DevReach 2023 , проведена от Progress в София Ивент Център.
Всички наши въпроси по време на основаването на която и да е нова технология би трябвало да са ориентирани към това по какъв начин решението ще донесе повече благоденствие за обособения човек и за обществото, уточни Могес.
Нека си представим скенера за сигурност на летището. Ние всички би трябвало да минем през него, с цел да можем да се качим на самолета си. Но от време на време той ненадейно стартира да пищи и всички се обръщат, описа Могес. Причината може да е всякаква, да вземем за пример железна основа на копчето на панталона – само че резултатът е, че пасажерът се тормози, всички се вторачват в него, настъпва срам. Ето за такива обстановки на разстройване и стеснение би трябвало да внимаваме, когато проектираме каквато и да е нова технология, сподели Могес.
Днес това е изключително огромно предизвикателство, тъй като изкуственият разсъдък се употребява от ден на ден, само че той няма етични съображения. Ако една полицейска система, да вземем за пример, е склонна да изкара цветнокожите хора по-вероятни нарушители, това към този момент е деформиране, което не трябва да се позволява.
Предизвикателствата на AI се простират и доста оттатък мислимото и техните последици ще са дълготрайни, стана ясно от посланието на софтуерната инженер. Така да вземем за пример, доста хора към този момент употребяват генеративни логаритми за основаване на текстово и образно наличие, само че към момента няма политики за контролиране на работата на изкуствения разсъдък. А това основава спорове, да вземем за пример в областта на авторските права. Дори да приемем, че още през днешния ден ще се появи съответна нормативна рамка, към този момент са налице милиони произведения, генерирани в интервала от основаването на AI приложения като DALL-E до през днешния ден.
още по темата
Водещ претекст при основаване на каквато и да е нова технология би трябвало да е положителното потребителско прекарване, което не предизвиква отчаяние или засегнатост. Аргументите за това са най-малко два. Първият е неприятното потребителско прекарване: когато хората се усещат зле от работата с дадена система, те няма да желаят употребяват технологията. Вторият мотив са разноските. Всяко препроектиране на съществуващо приложение коства време и разноски, тъй като отваря нов цикъл на дизайн, тестване, валидиране и стартиране на пазара.
Бихме могли да мислим за етиката като за способността на нашата технология да включва всички вероятни представители на обществото – хора от разнообразни религии, пол, възраст, качества. Всяка потребна функционалност, която вграждаме, действително носи изгода за необятната общност.
Един от най-забележителните образци е снишаването на бордюрите в края им, предопределено за по-лесно секване на улицата за хора в инвалидни колички. Оказва се, че това малко усъвършенстване е нещо, което съвсем всички хора употребяват – мъчно ходещите възрастни хора с бастуни и патерици, дамите с тежки пазарски колички, велосипедистите, скейтбордистите, майките с бебешки колички. Това е отличен образец по какъв начин една добра нова функционалност може да благоприятства цялото общество.
В устрема си да сътворяваме по-добри технологии следва да се водим от правилото да не нанасяме щета и да вършим по-добър живота на хората. Това са въпросите, които следва да си задаваме още веднъж и още веднъж, сподели Могес. Обратно, неприятно проектираното приложение не усъвършенства живота на хората и даже нанася щета, тъй като на процедура унищожава труда на сътрудниците ни.
Но белким можем да бъдем толкоз съобразителни и далновидни, че да предвидим всички вероятни разновидности и вариации?! За да реализираме адекватност, развойните ни екипи би трябвало да са колкото се може по-пъстри. В тях е добре да има разнородни хора, тъй като те ни дават разнообразни гледни точки.
Един способ, който може да ни помогне да се задълбочим в етичните аспекти на своята нова разработка, е на стадия на планиране да си представим всички хипотетични приложения на технологията, в това число и сюжета, в който системата се проваля и не намира реализация. Трябва тук да си зададем въпроса какви са аргументите, довели до срутва. Вникването в това какви биха били вероятните аргументи ще ни води до голям брой съображения, които би трябвало да вземем поради от позиция на етичното планиране на приложенията, заключи Могес.
Източник: technews.bg
КОМЕНТАРИ