OpenAI начала внедрять новую функцию в ChatGPT, которая позволяет системе оценивать возраст пользователя и защищать несовершеннолетних от чувствительного контента. Технология анализирует поведение и модель использования сервиса, чтобы определить, может ли человек быть младше 18 лет, и при необходимости автоматически включает дополнительные меры безопасности.
«Это важный шаг в развитии безопасности ИИ-сервисов. Определение возраста пользователя по косвенным поведенческим сигналам вполне реализуемая задача. Однако ключевое значение имеет не столько формальный возраст, сколько характер запросов к нейросети.
Контент, связанный с насилием, опасными челленджами или потенциально вредоносной информацией, не должен предоставляться никому — это базовый принцип цифровой безопасности.
Уже существуют прецеденты, когда чрезмерное доверие к ИИ приводило к трагическим последствиям: от психических расстройств до летальных исходов. Отдельный тренд: формирование романтических привязанностей к нейросетям, что также требует регулирования.
Даже если поведенческая фильтрация ограничит доступ к определённому контенту для формально совершеннолетних пользователей — это оправданная мера. Календарный возраст не всегда соответствует психологической зрелости: человек может иметь ментальные особенности или просто не осознавать последствий своих действий.
В таких случаях ограничение доступа к потенциально опасному контенту — это защита и самого пользователя, и окружающих.Регулирование ИИ в этом направлении — необходимость, а не излишняя осторожность.» —Светлана Костылева, эксперт внедрения ИИ в бизнес
Вместо того чтобы полагаться только на дату рождения, указанную при регистрации, система учитывает поведенческие сигналы — возраст аккаунта, характер запросов и стиль взаимодействия. Если алгоритм предполагает, что перед ним подросток, ChatGPT переходит в более строгий режим и ограничивает доступ к потенциально чувствительным темам.
К таким темам относятся сцены жестокого насилия, опасные интернет-челленджи, сексуализированный контент, ролевые сценарии романтического характера, обсуждение самоповреждений и материалы, связанные с нездоровыми стандартами внешности или питания. Ограничения могут применяться даже в том случае, если пользователь указал при регистрации взрослый возраст.
Если система ошибочно отнесет взрослого пользователя к категории несовершеннолетних, доступ можно будет восстановить через процедуру подтверждения возраста. Для этого предусмотрены инструменты верификации личности, позволяющие доказать, что пользователю больше 18 лет.
«Определение возраста на основе запрашиваемого контента представляет собой выявление латентных характеристик личности через анализ косвенных признаков. Лингвистические маркеры, частота использования определённых конструкций, тематика запросов и даже скорость набора текста действительно коррелируют с возрастными группами. Тем не менее, корреляция не тождественна надёжной идентификации.
Границы между условными 17 и 19 годами размыты настолько, что любая автоматическая классификация неизбежно будет порождать значительную долю ложноположительных срабатываний.
Современные подростки часто владеют академическим стилем письма на уровне взрослых специалистов, тогда как немалое количество совершеннолетних пользователей предпочитает неформальную манеру общения с обилием сленга и сокращений.» — Надежда Капустина, профессор кафедры экономической безопасности и управления рисками
В компании подчеркивают, что нововведение направлено на повышение безопасности молодых пользователей. По мере того как ИИ все активнее используется для общения, обучения и развлечений, вопрос защиты подростков становится одним из ключевых для разработчиков цифровых платформ.
