- 20,365
- 46
- 8 Ноя 2022
Возраст теперь считают по лицу, а дворники-алгоритмы выметают подозрительные сервера.
Онлайн-платформа Roblox объявила о расширении системы оценки возраста пользователей и о сотрудничестве с Международной коалицией по возрастным рейтингам (IARC). Эти шаги компания связывает с необходимостью усилить защиту детей на фоне растущего числа жалоб и судебных исков, связанных с безопасностью несовершеннолетних.
До конца года технология определения возраста с помощью анализа селфи будет доступна всем пользователям, которые используют голосовой и текстовый чат. Система оценивает возраст по чертам лица и совмещается с другими методами проверки, включая загрузку документов и подтверждение родителями. По словам компании, это позволяет надежнее определять возраст по сравнению с простым вводом даты рождения при регистрации. Roblox также планирует ограничить возможности общения между взрослыми и детьми.
Параллельно компания переходит на международные возрастные рейтинги игр и приложений. Теперь пользователи будут видеть привычные для своей страны обозначения: в США это ESRB, в Европе и Великобритании — PEGI, в Германии — USK, в Южной Корее — GRAC и так далее. По задумке разработчиков, это должно помочь родителям лучше ориентироваться в том, какой контент доступен детям, учитывая такие факторы, как насилие, кровь, азартные элементы, ненормативная лексика и другие чувствительные темы.
Новые меры дополняют инициативы, которые Roblox представила летом. Тогда была запущена система видеоселфи для проверки возраста, а также ограничения на использование чата и добавление в доверенные контакты для подростков младше 17 лет. Эти изменения связаны с ужесточением регулирования в разных странах. Например, в Великобритании вступил в силу закон об онлайн-безопасности, а в США несколько штатов уже приняли или рассматривают аналогичные требования.
Roblox за последние годы вложила значительные усилия в развитие технологий безопасности. Среди них — открытая система искусственного интеллекта Sentinel, которая выявляет признаки угроз для детей, а также родительский контроль и алгоритмы, отслеживающие подозрительные игровые серверы. Тем не менее жалобы продолжают поступать: власти ряда штатов США обвиняют компанию в том, что платформа по-прежнему используется злоумышленниками для поиска детей. Исследования и публикации, в том числе The Guardian, также показывают, что дети могут сталкиваться с нежелательным контентом и нарушителями правил.
Недавно внимание к Roblox привлекла популярная игра Grow a Garden, где пользователи начали перепродавать внутриигровые предметы за реальные деньги, что вызвало вопросы о вовлечении детей в несанкционированные траты.
В компании признают, что новые рейтинги и механизмы проверки возраста не решат всех проблем, но помогут родителям получить больше информации о том, какие именно игры выбирают их дети. «Roblox стремится создать безопасную платформу для пользователей и дать родителям инструменты для принятия взвешенных решений. Мы рады сотрудничеству с IARC и надеемся, что это повысит доверие и обеспечит прозрачность по всему миру», — заявил директор по безопасности Roblox Мэтт Кауфман.
Онлайн-платформа Roblox объявила о расширении системы оценки возраста пользователей и о сотрудничестве с Международной коалицией по возрастным рейтингам (IARC). Эти шаги компания связывает с необходимостью усилить защиту детей на фоне растущего числа жалоб и судебных исков, связанных с безопасностью несовершеннолетних.
До конца года технология определения возраста с помощью анализа селфи будет доступна всем пользователям, которые используют голосовой и текстовый чат. Система оценивает возраст по чертам лица и совмещается с другими методами проверки, включая загрузку документов и подтверждение родителями. По словам компании, это позволяет надежнее определять возраст по сравнению с простым вводом даты рождения при регистрации. Roblox также планирует ограничить возможности общения между взрослыми и детьми.
Параллельно компания переходит на международные возрастные рейтинги игр и приложений. Теперь пользователи будут видеть привычные для своей страны обозначения: в США это ESRB, в Европе и Великобритании — PEGI, в Германии — USK, в Южной Корее — GRAC и так далее. По задумке разработчиков, это должно помочь родителям лучше ориентироваться в том, какой контент доступен детям, учитывая такие факторы, как насилие, кровь, азартные элементы, ненормативная лексика и другие чувствительные темы.
Новые меры дополняют инициативы, которые Roblox представила летом. Тогда была запущена система видеоселфи для проверки возраста, а также ограничения на использование чата и добавление в доверенные контакты для подростков младше 17 лет. Эти изменения связаны с ужесточением регулирования в разных странах. Например, в Великобритании вступил в силу закон об онлайн-безопасности, а в США несколько штатов уже приняли или рассматривают аналогичные требования.
Roblox за последние годы вложила значительные усилия в развитие технологий безопасности. Среди них — открытая система искусственного интеллекта Sentinel, которая выявляет признаки угроз для детей, а также родительский контроль и алгоритмы, отслеживающие подозрительные игровые серверы. Тем не менее жалобы продолжают поступать: власти ряда штатов США обвиняют компанию в том, что платформа по-прежнему используется злоумышленниками для поиска детей. Исследования и публикации, в том числе The Guardian, также показывают, что дети могут сталкиваться с нежелательным контентом и нарушителями правил.
Недавно внимание к Roblox привлекла популярная игра Grow a Garden, где пользователи начали перепродавать внутриигровые предметы за реальные деньги, что вызвало вопросы о вовлечении детей в несанкционированные траты.
В компании признают, что новые рейтинги и механизмы проверки возраста не решат всех проблем, но помогут родителям получить больше информации о том, какие именно игры выбирают их дети. «Roblox стремится создать безопасную платформу для пользователей и дать родителям инструменты для принятия взвешенных решений. Мы рады сотрудничеству с IARC и надеемся, что это повысит доверие и обеспечит прозрачность по всему миру», — заявил директор по безопасности Roblox Мэтт Кауфман.
- Источник новости
- www.securitylab.ru
