Roblox применяет ИИ для подтверждения возраста: увеличится ли безопасность детей в игре?

Roblox усиливает защиту юных игроков. Платформа внедряет систему проверки возраста через ИИ и другие инструменты, призванные оградить детей от рисков.
Теперь платформа реализует в работе четыре основных изменения:
1. «Проверенные контакты» вместо друзей
Пользователи старше 13 лет смогут отмечать доверенных собеседников — с ними общение будет менее ограниченным. Подростки 13–17 лет смогут свободно добавлять друг друга, но для связи со взрослыми понадобится сканировать QR-код или синхронизировать контакты. Все чаты по-прежнему контролируются автоматической модерацией.
2. ИИ будет определять возраст по лицу
Алгоритм проанализирует видео с фронтальной камеры и сравнит данные с базой лиц. Если система заподозрит, что игроку меньше 13, доступ к некоторым возможностям заблокируют. Также останется вариант с загрузкой документов или подтверждением через родителей.
3. Больше контроля подростков
Появятся новые настройки: ограничение игрового времени, режим «Не беспокоить» и детальная статистика активности.
4. Родительский контроль детей всех возрастов
Раньше эти функции работали только для детей до 13 лет. Теперь родители смогут привязать свой аккаунт к профилю подростка и следить за его контактами, временем в игре и тратами.
Компания называет это шагом к «цифровой безопасности нового уровня». Но проблемы Roblox не ограничиваются защитой игроков — в 2021 году платформу обвиняли в эксплуатации юных разработчиков
Roblox, где основная аудитория — дети и подростки, давно сталкивается с критикой из-за слабой защиты. В 2023 году зафиксировали больше 13 тысяч случаев эксплуатации несовершеннолетних на платформе. Даже сооснователь Дэвид Базуки в марте признал: если родители сомневаются в безопасности, лучше не пускать детей в игру.

Я считаю, что это, безусловно, шаг в правильном направлении, но недостаточно радикальный. Roblox долгое время игнорировал проблему безопасности, и теперь, когда скандалы стали слишком громкими, они пытаются наверстать упущенное. ИИ для определения возраста по лицу – идея спорная, поскольку она может быть неточной и нарушать конфиденциальность. Более разумным кажется усиление роли родительского контроля и предоставление подросткам больше инструментов для управления своей безопасностью. "Проверенные контакты" – неплохая идея, но нужно убедиться, что система не станет лазейкой для злоумышленников. В целом, я не уверен, что этих мер будет достаточно, чтобы полностью оградить детей от рисков на платформе. Roblox необходимо продолжать совершенствовать свои системы безопасности и уделять больше внимания предотвращению эксплуатации.