ИИ помощникът във вашия смартфон може да се окаже твърде коварен предател
Създателите на Bard не поучават потребителите да се сближават с генеративните невронни мрежи.
Интегрирането на генеративния изкуствен интелект в приложенията за смарт телефони, които използваме всеки ден, бързо набира скорост. Това беше предвидимо – ChatGPT още предходната година сподели големия интерес на потребителите към сходни технологии. А в този момент ставаме очевидци на същински взрив на джобните AI асистенти.
Експертите обаче смятат, че би трябвало да забавим темпото. Заедно с удобството идват и съществени опасности за сигурността и неприкосновеността на персоналния живот.
Изглежда, че всички имаме една обща уязвимост, когато става въпрос за генеративни чатботове, основани на ИИ. Ние може и да сме внимателни при инсталирането на приложения, даването на позволения, избора на браузъри и шерването на персонално наличие във Фейсбук. Но щом стартираме диалог с чатбот, незабавно забравяме всички защитни ограничения. Хората се усещат по този начин, като че ли поддържат връзка с потребен нов другар, на който могат да се доверят. Както и да го попитат за всичко.
Но това е единствено интерфейс към голяма компютърна инфраструктура. Всичко това в последна сметка се финансира от реклама и търговия с данни.
След оповестяването на Bard на Гугъл, който бързо се трансформира в Gemini, и на фона на множеството нови приложения, Гугъл помоли всички консуматори на Android и iPhone да бъдат допустимо най-внимателни.
„ Моля, не споменавайте сензитивна информация или обстоятелства в диалози, които не бихте желали да споделите с някой, който ревизира записите на разговора. Или даже с Гугъл, която може да употребява тази информация, с цел да усъвършенства личните си принадлежности, услуги и технологии за машинно образование “, предизвестяват разработчиците.
предупреждават разработчиците.
За благополучие, компанията твърди, че към този момент диалозите в Gemini Apps няма да се употребяват за проявление на таргетирани реклами. Само че това може да се промени в бъдеще.
Истинският проблем е, че потребителите споделят извънредно персонална и сензитивна информация с AI асистента, с цел да им помогне да напишат бизнес проекти, презентации за продажби или даже контролните за учебно заведение. Когато човек напусне чат рума, въпросите, които е задал, и отговорите, които е получил, се съхраняват във вътрешни бази данни и евентуално могат да бъдат прегледани. Всъщност сигурно ще бъдат оценени.
Този мащаб на събиране и потребление на данни е много присъщ за новия генеративен AI бранш като цяло. Ще би трябвало да се разработят подходи за оценка на равнищата на сигурност и цялост на персоналния живот, обезпечавани от другите компании в тази област, като Гугъл или OpenAI.
Важно разграничаване ще бъде къде се обработват данните – на устройството на потребителя или в облака. Apple евентуално ще стартира да употребява опциите на своите приложения и услуги за смарт телефони, в случай че това в действителност се окаже ефикасен способ. Известно е, че компанията към този момент организира опити за сравняване на успеваемостта при двата режима. Гугъл, въпреки това, евентуално ще разчита повече на облачните калкулации, поради другата си инфраструктура и цели.
Милиони притежатели на iPhone и Android смарт телефони към този момент са изправени пред сложния избор дали да употребяват новите приложения с интегриран изкуствен интелект. Като да вземем за пример Gemini. Скоро всеки ще би трябвало да направи този избор.
От една страна, не можем изцяло да защитим себе си и данните си, като продължаваме да се възползваме пълноценно от изкуствения разсъдък. Въпреки че през последните години е реализиран голям прогрес в отбраната на персоналните данни при потреблението на интернет и мобилни приложения. От друга страна – опциите, които се дават на потребителите на невронни мрежи, са толкоз примамливи, че е мъчно да ги отхвърлим. Трябва да се направи деликатна преценка на това кое е по-важно за нас.
Гугъл споделя, че можете да изключите дълготрайното предпазване на данни в настройките на Gemini. Но даже и тогава диалозите ще се съхраняват в базата данни в продължение на 72 часа. Подобни проблеми се следят и при другите сходни услуги.
