Помощники на основе искусственного интеллекта делятся конфиденциальными данными пользователей

Исследование, опубликованное в среду, пришло к выводу, что помощники на основе искусственного интеллекта (ИИ) собирают и передают конфиденциальные данные пользователей, такие как медицинские и банковские записи, без надлежащих мер защиты.

Исследователи из Университетского колледжа Лондона в Великобритании и Университета Реджо-ди-Калабрия в Италии проанализировали десять помощников на основе искусственного интеллекта, которые необходимо загрузить и установить на компьютер или мобильный телефон для использования, и обнаружили, что они собирают большой объем персональных данных об активности пользователей в сети.

Анализ показал, что несколько помощников передавали на свои серверы полное содержимое веб-страниц, включая информацию, видимую на экране.

Один из помощников на базе искусственного интеллекта, Merlin, улавливал вводимые формы, например, банковскую или медицинскую информацию, в то время как ChatGPT, Copilot, Monica и Sider могли определять атрибуты пользователя, такие как возраст, пол, доход и интересы, и использовали эту информацию для персонализации ответов даже в разных сеансах просмотра.

«Сбор и обмен данными — это не пустяк. Помимо продажи или обмена данными с третьими лицами, в мире, где часты массовые кибератаки, невозможно узнать, что происходит с данными о просмотре страниц после их сбора », — предупредила Анна Мария Мандалари, один из авторов исследования, слова которой цитируются в заявлении Университетского колледжа Лондона.

В ходе исследования исследователи смоделировали реальные сценарии просмотра веб-страниц, создав образ состоятельного мужчины поколения миллениалов [представителя цифрового общества] из Калифорнии, которого они использовали для взаимодействия с помощниками при выполнении обычных интернет-задач, включая чтение новостей, совершение покупок на Amazon и просмотр видео на YouTube.

Также учитывались такие действия в частном пространстве, как доступ к университетскому порталу здравоохранения, вход в службу знакомств или доступ к порнографии, при этом исследователи предположили, что пользователи не хотели, чтобы их отслеживали, поскольку эти данные являются персональными и конфиденциальными.

Согласно исследованию, проведенному в США, некоторые помощники на основе искусственного интеллекта, включая Merlin и Sider, не прекращали запись активности, когда пользователь переходил в личное пространство, как следовало бы , нарушая законы США о защите данных, поскольку собирали конфиденциальную информацию о здоровье и образовании.

Авторы исследования утверждают, что крайне необходимо ввести нормативный надзор за ИИ-помощниками для защиты персональных данных пользователей, и рекомендуют разработчикам принять принципы конфиденциальности, заложенные в дизайне, такие как явное согласие пользователя на сбор данных.