Ново разследване срещу собственика на ChatGPT: Дава ли приложението лъжливи отговори
Нова инспекция против притежателя на ChatGPT стартира в Съединени американски щати. Този път следствието е за рисковете от разпространяване на погрешна информация от приложението. Американските регулатори ревизират дали инструментът на компанията за изкуствен интелект OpenAl със притежател Сам Алтман, дава лъжливи отговори на потребителите.
OpenAl пусна чатбота ChatGPT за всеобща приложимост предходната година. Изкуственият разсъдък генерира безапелационни отговори на запитвания в границите на секунди, написа есета, изготвя бизнес проекти и презентации,. Много бързо приложението набра известност и притегли дейни консуматори. Към момента платформата има 100 милиона ползватели и е записала повече от милиард визити за миналия месец. Проблеми обаче не липсват.
Преди по-малко от месец стана ясно, че против OpenAl е заведено дело за корист с персонални данни. Става въпрос за заграбване на големи масиви от обществено налични данни на действителни хора – мнения в обществени мрежи, изявления в блогове и публикации в Wikipedia. Компанията употребила данните, с цел да образова своите логаритми.
Изглежда в образованието има пробойни, тъй като американската Федерална комерсиална комисия (FTC) изпрати писмо до OpenAl с искане на информация по какъв начин се оправя с рисковете, свързани със запазването на репутацията на хората. От Комисията се обръщат към основателя на ChatGPT и търсят отговор на въпроса: „ Генерират ли се от изкуствения разсъдък изказвания за действителни лица, които са погрешни, подвеждащи или нездравословни “.
В свое изказване, представено от BBC, ръководителят на Комисията, назначен от президента Джо Байдън - Лина Кхан, сподели: „ Чухме за оскърбителен изказвания и изрично погрешни неща, които се появяват. Това е видът илюзия, за която сме загрижени “.
Разследването е знак за възходящия регулаторен надзор върху софтуерната промишленост. Собственикът на OpenAl Сам Алтман разгласи, че компанията ще спомага на Търговската комисия.
По въпроса с опасенията на FTC за поверителността на данните в OpenAl притежателят на компанията твърди, че са прекарани години в изследване на сигурността и месеци в старания инструментът ChatGPT да бъде изработен по-сигурен.
„ Ние пазиме поверителността на потребителите и проектираме нашите системи да учат света, а не съответни персони “, написа в Twitter Сам Алтман.
we built GPT-4 on top of years of safety research and spent 6+ months after we finished initial training making it safer and more aligned before releasing it. we protect user privacy and design our systems to learn about the world, not private individuals.
— Sam Altman (@sama)
По-рано тази година пред Конгреса на Съединени американски щати Атлман намерено призна, че технологията може да бъде източник на неточности. Услугата ChatGPT поражда диспути по отношение на данните, които употребява, точността на отговорите и спазването на авторските права при образованието на изкуствения разсъдък.
Проверката на FTC не е първото предизвикателство пред компанията. Италия забрани ChatGPT през април, като се базира на опасения за поверителността. Услугата беше възобновена, откакто платформата добави инструмент за инспекция на възрастта на потребителите и даде на страната повече информация за своята политика на отбрана на данните.
OpenAl пусна чатбота ChatGPT за всеобща приложимост предходната година. Изкуственият разсъдък генерира безапелационни отговори на запитвания в границите на секунди, написа есета, изготвя бизнес проекти и презентации,. Много бързо приложението набра известност и притегли дейни консуматори. Към момента платформата има 100 милиона ползватели и е записала повече от милиард визити за миналия месец. Проблеми обаче не липсват.
Преди по-малко от месец стана ясно, че против OpenAl е заведено дело за корист с персонални данни. Става въпрос за заграбване на големи масиви от обществено налични данни на действителни хора – мнения в обществени мрежи, изявления в блогове и публикации в Wikipedia. Компанията употребила данните, с цел да образова своите логаритми.
Изглежда в образованието има пробойни, тъй като американската Федерална комерсиална комисия (FTC) изпрати писмо до OpenAl с искане на информация по какъв начин се оправя с рисковете, свързани със запазването на репутацията на хората. От Комисията се обръщат към основателя на ChatGPT и търсят отговор на въпроса: „ Генерират ли се от изкуствения разсъдък изказвания за действителни лица, които са погрешни, подвеждащи или нездравословни “.
В свое изказване, представено от BBC, ръководителят на Комисията, назначен от президента Джо Байдън - Лина Кхан, сподели: „ Чухме за оскърбителен изказвания и изрично погрешни неща, които се появяват. Това е видът илюзия, за която сме загрижени “.
Разследването е знак за възходящия регулаторен надзор върху софтуерната промишленост. Собственикът на OpenAl Сам Алтман разгласи, че компанията ще спомага на Търговската комисия.
По въпроса с опасенията на FTC за поверителността на данните в OpenAl притежателят на компанията твърди, че са прекарани години в изследване на сигурността и месеци в старания инструментът ChatGPT да бъде изработен по-сигурен.
„ Ние пазиме поверителността на потребителите и проектираме нашите системи да учат света, а не съответни персони “, написа в Twitter Сам Алтман.
we built GPT-4 on top of years of safety research and spent 6+ months after we finished initial training making it safer and more aligned before releasing it. we protect user privacy and design our systems to learn about the world, not private individuals.
— Sam Altman (@sama)
По-рано тази година пред Конгреса на Съединени американски щати Атлман намерено призна, че технологията може да бъде източник на неточности. Услугата ChatGPT поражда диспути по отношение на данните, които употребява, точността на отговорите и спазването на авторските права при образованието на изкуствения разсъдък.
Проверката на FTC не е първото предизвикателство пред компанията. Италия забрани ChatGPT през април, като се базира на опасения за поверителността. Услугата беше възобновена, откакто платформата добави инструмент за инспекция на възрастта на потребителите и даде на страната повече информация за своята политика на отбрана на данните.
Източник: boulevardbulgaria.bg
КОМЕНТАРИ