Бесплатная веб-версия Grok от xAI неожиданно оказалась способна раскрывать персональные данные реальных людей, причем иногда достаточно было минимального запроса.
По данным Futurism, в эксперименте с 33 именами бот в 10 случаях выдал домашние адреса, в нескольких — рабочие или офисные локации, а также иногда телефоны, электронную почту, сведения о родственниках и похожих людях с их предполагаемыми адресами.
Иногда Grok предлагал выбрать между двумя найденными «совпадениями», указывая подробные контакты для каждого, и один вариант часто действительно соответствовал целевой персоне. Лишь однажды модель отказалась выдавать адрес, что резко отличается от поведения ChatGPT, Gemini и Claude, которые блокируют подобные попытки запроса.
Хотя политика использования xAI прямо запрещает применять Grok для действий, нарушающих конфиденциальность, на практике модель все еще предоставляет чувствительную информацию, которую современные языковые модели обычно фильтруют и не показывают пользователю.
Мнение эксперта
«Ситуация вокруг Grok показывает, что управление большими языковыми моделями остается сложной задачей даже для крупных игроков. Если бот действительно выдает персональные контакты, это указывает на недостаточную калибровку механизмов модерации и контроля доступа к чувствительным данным.
Модель обучается на больших объемах информации и иногда воспроизводит то, что ей не следует использовать в реальных запросах. Причиной может быть несовершенное разделение обучающих данных и данных, доступных пользователю. Также возможна ошибка в логике фильтров, когда алгоритм неправильно оценивает риск и считает публикацию контактных сведений допустимой. В случае с xAI ситуацию усиливает позиционирование Grok как менее формального и более «открытого» ассистента.
Этот эпизод показывает, что даже продвинутые ИИ-системы требуют постоянной настройки и аудита. Контроль за защитой данных должен развиваться быстрее, чем возможности самих моделей, иначе подобные инциденты будут повторяться», — Олеся Шаркова, эксперт в области IT и нейросетей.
