✔Специалисты сравнивают новую ИИ-функцию Recall со встроенным в Windows кейлоггером - «Новости»

Ранее на этой неделе компания Microsoft анонсировала новую ИИ-функцию в Windows 11, которая получила название Recall. Она фиксирует всю активность пользователя компьютера, а затем позволяет формировать отчеты и выполнять поиск по истории за последние три месяца. ИБ-эксперты уже называют Recall кошмаром с точки зрения конфиденциальности и безопасности. Recall и Copilot Функция Recall была анонсирована 20 мая 2024 года, в рамках мероприятия, предваряющего скорый старт конференции Microsoft Build 2024. В этом году компания всецело сосредоточена на искусственном интеллекте и Copilot, поэтому одним из главных анонсов недели стали компьютеры Copilot , а также функция Recall, которая появится в Windows 11 (и будет работать как раз на машинах Copilot ). Recall создана, чтобы помочь «вспомнить» любую информацию, которую пользователь просматривал в прошлом, и сделать ее доступной с помощью простого поиска. Так, функция делает снимок активного окна на экране каждые несколько секунд, записывая все, что происходит в Windows, будь то просмотр сайтов в браузере, общение в мессенджере или работа с другими приложениями. По умолчанию эти данные хранятся до трех месяцев (старые скриншоты будут заменяться новыми), и пользователь сможет выбирать, в каких приложениях можно делать снимки. Для работы Recall потребуется HDD или SSD объемом не менее 256 ГБ и как минимум 50 ГБ свободного места. Полученные снимки будут обрабатываться нейронным процессором (Neural Processing Unit, NPU) устройства и ИИ-моделью для извлечения данных со скриншотов. Затем информация будет сохранена, и пользователи Windows смогут просматривать как историю скриншотов, так и осуществлять поиск по истории с помощью запросов на родном языке. В теории, это позволит легко найти, к примеру, прочитанное в прошлом месяце письмо или посещенный когда-то сайт. Представители Microsoft подчеркнули, что все собранные данные шифруются с помощью BitLocker, привязанного к учетной записи пользователя в Windows, и не передаются другим пользователям на том же устройстве. Как уже было упомянуто выше, Recall будет работать только на компьютерах Copilot (также встречается написание Copilot Plus), которые компания тоже представила на этой неделе. Такие устройства вскоре будут предлагать Dell, Lenovo, Samsung, HP, Acer и Asus. Кроме того, Microsoft выпустит два собственных устройства, которые войдут в линейку Surface. В Microsoft заявили, что эти решения способны выполнять более 40 TOPS (триллионов операций в секунду), будут оснащаться нейронным процессором, работать на базе Snapdragon X и Snapdragon X Plus, а также получат не менее 16 ГБ ОЗУ и 256 ГБ SSD. Сообщается, что в дальнейшем таких устройств станет больше благодаря партнерству с Intel и AMD (начиная с Lunar Lake и Strix), а текущие экземпляры уже превосходят MacBook Air на базе M3 почти на 58% по многопоточной производительности. Критика Появление Recall вызвало шквал критики, как со стороны обычных пользователей, так и ИБ-специалистов. Хотя в своем анонсе Microsoft подчеркивает, что Recall разработана таким образом, чтобы все данные хранились только на устройстве пользователя в зашифрованном виде, многие полагают, что это создаст серьезные риски для конфиденциальности, и возникнет новый вектор атак, направленных на кражу данных. «Recall — ключевая часть того, что делает компьютеры Copilot особенными, и Microsoft с самого начала заложила конфиденциальность в концепцию Recall, — заявляют разработчики. — На компьютерах Copilot с процессором Snapdragon серии X вы увидите значок Recall на панели задач после первой активации устройства. С помощью этого значка можно открыть настройки Recall и выбрать, какие снимки Recall собирает и хранит на вашем устройстве. Вы можете ограничить количество собираемых Recall снимков. Например, можете выбрать определенные приложения или сайты, посещенные в поддерживаемом браузере, чтобы исключить их из своих снимков. Кроме того, вы можете приостановить создание снимков с помощью значка Recall в системном трее, очистить некоторые или все сохраненные снимки, а также удалить все снимки со своего устройства». Кроме того, Microsoft заявляет, что Recall не будет создавать скриншоты окон в режиме InPrivate в Microsoft Edge (и других браузерах на базе Chromium), а также контента, защищенного DRM. Однако пока в компании не уточнили, будут ли поддерживаться приватные режимы в других браузерах, например, в Firefox. Словом, в компании уверяют, что индекс Recall будет «приватным, локальным и безопасным» (то есть о передаче данных в облако и на серверы Microsoft речи не идет), а также не будет использоваться для обучения каких-либо моделей искусственного интеллекта, и пользователь сможет «полностью контролировать ситуацию». Стоит отметить, что Microsoft уже начала предоставлять более подробную техническую информацию о Recall, например, о групповых политиках, которые можно использовать для отключения функции в масштабах компании. Однако все эти обещания не помогли успокоить сообщество. Функцию критикуют практически все, начиная от простых пользователей (достаточно почитать комментарии к любой публикации о Recall и убедиться, что пользователи не доверяют заявлениям Microsoft) до Илона Маска, который уже сравнил анонс Recall с эпизодом сериала «Черное зеркало» и заявил, что сразу же отключит эту функциональность. Также Recall уже заинтересовалось британское агентство по защите данных — Управление комиссара по информации (ICO), которое обратилось к Microsoft с запросом, чтобы убедиться, что данные людей действительно будут защищены должным образом и не будут использованы самой компанией. «Мы ожидаем, что организации будут прозрачно информировать своих пользователей о том, как используются их данные, и обрабатывать персональные данные только в той мере, в какой это необходимо для достижения конкретной цели. Индустрия должна учитывать вопросы защиты данных с самого начала и тщательно оценивать и смягчать риски в отношении прав и свобод людей, прежде чем выводить продукты на рынок, — говорится в заявлении ICO. — Мы направили запрос в Microsoft, чтобы понять, какие меры защиты конфиденциальности пользователей были предприняты». Но, как отмечает издание Bleeping Computer, даже если представить, что Microsoft действительно не получит доступ к данным Recall, продукт все равно может нести серьезные риски для безопасности и конфиденциальности. Так как Microsoft признает, что функция не выполняет модерацию контента, она будет просматривать буквально все, что видит, включая пароли в парольных менеджерах и номера счетов на банковских сайтах. Другой пример: если пользователь будет составлять в Word конфиденциальное соглашение, будет создан скриншот и этого документа. К тому же, если компьютер используется совместно несколькими людьми, придется быть внимательнее к просматриваемым фотографиям и видео, поскольку они тоже будут записаны и сохранены Recall. Хотя в настройках пользователь сможет запретить делать скриншоты конкретных приложений, специалисты опасаются, что большинство людей вообще не станут разбираться в настройках этой функции. В итоге вся информация будет храниться в удобном семантическом индексе Windows 11 и будет доступна для поиска всем, кто имеет доступ к компьютеру. Хуже того, если злоумышленников или малварь скомпрометируют устройство пользователя, все данные Recall, защищенные Bitlocker, будут расшифрованы, то есть станут доступны и для хакера. Таким образом, атакующие смогут попросту похитить базу данных Recall и выгрузить ее на собственные серверы для последующего анализа. Затем полученная информация может использоваться, например, для вымогательства или взлома учетных записей жертв, если учетные данные попадали в поле зрения Recall. Известный ИБ-эксперт Кевин Бомонт (Kevin Beaumont), неоднократно выступавший с откровенной критикой в адрес Microsoft, выразил обеспокоенность тем, что новая функция создаст обширные возможности для атак, и сравнил Recall «с кейлоггером, встроенным в Windows». «Если посмотреть на то, что исторически происходило с инфостилерами: они постепенно переходили к автоматическим кражам паролей браузеров, хранящихся локально, — пишет Бомонт. — Иными словами, если злоумышленник получает доступ к системе, он похищает важные базы данных, хранящиеся локально. _