Система опирается на алгоритм, который изучает комбинацию поведенческих паттернов пользователя, продолжительность существования профиля, привычное время активности в чат-боте и заявленный возраст. Если алгоритм ошибочно классифицирует взрослого как несовершеннолетнего, такой пользователь сможет подтвердить свою личность с помощью фото через сервис Persona и вернуть неограниченный доступ к сервису.
"Мы внедряем функцию прогнозирования возраста в потребительские тарифные планы ChatGPT, чтобы помочь определить, принадлежит ли учетная запись лицу младше 18 лет, и обеспечить подросткам соответствующий опыт и меры безопасности", – говорится в сообщении.
В сентябре руководитель OpenAI Сэм Альтман анонсировал шаги по повышению приватности и ужесточению мер безопасности для юных пользователей ChatGPT. В их числе он упомянул разработку механизма верификации возраста.
Несовершеннолетние пользователи находятся в группе риска при взаимодействии с нейросетями. Так, офис шерифа округа Волуси штата Флорида задержал 13-летнего ученика школы South Western после того, как тот спросил у ChatGPT, как ему убить одноклассника. Школьная система мониторинга Gaggle обнаружила подозрительный запрос, который ввел ученик на своем смартфоне. Заместитель директора учебного заведения отреагировала согласно процедурам и вызвала полицейских.
