Компания OpenAI ввела в ChatGPT новую функцию, которая будет определять возраст пользователей и на основе этого включать фильтры. Теперь нейросеть анализирует поведение, чтобы ограничить доступ к «взрослому» контенту для несовершеннолетних, передает информационное агентство EurasiaPulse.
Система оценивает множество факторов: как давно создан аккаунт, в какое время суток пользователь активен, как меняется его стиль общения с нейросетью и, конечно, возраст, указанный при регистрации.
Если алгоритм решит, что пользователю нет 18 лет, он автоматически активирует усиленные фильтры. Под запрет попадет контент, связанный с насилием, опасными челленджами, романтикой, эротикой и самоповреждением. Кроме того, будут блокироваться темы нездоровых диет, строгих стандартов красоты и бодишейминга.
«Если есть малейшие сомнения — доступ ограничивается. То есть при неполных или противоречивых данных нейросеть по умолчанию будет считать пользователя подростком», — говорится в заявлении OpenAI.
Разработчики предусмотрели и возможные ошибки. Если взрослого человека система ошибочно примет за подростка, он сможет подтвердить свой возраст. Для этого нужно будет предоставить фотографию через сервис верификации личности Persona. В OpenAI уверяют, что проверка займет всего несколько минут.
Это нововведение — часть большой подготовки к запуску так называемого «взрослого режима» нейросети, который предоставит больше свободы совершеннолетним пользователям. Компания внедряет эти изменения на фоне повышенного внимания к ее деятельности, в том числе из-за недавнего иска от Илона Маска, который обвинил руководство OpenAI в обмане.
Фото: Freepik