Discord запретил серверы знакомств для подростков и начал блокировать обмен CSAM-контентом от ИИ

Discord обновил свою политику, направленную на защиту детей и подростков. Это произошло после сообщений о том, что злоумышленники использовали приложение для создания и распространения материалов о сексуальном насилии над детьми (CSAM).

«Мы считаем, что онлайн‑знакомства могут представлять опасность. Согласно этой политике, серверы знакомств для подростков запрещены на платформе, и мы будем принимать меры против пользователей, поощряющих подобную деятельность. Кроме того, подростки старшего возраста, занимающиеся грумингом в отношении подростков младшего возраста, будут привлечены к ответственности в соответствии с нашей политикой о неприемлемом сексуальном поведении в отношении детей и груминге», — говорится в материалах компании.

Также платформа запретила использование «любого текста или мультимедийного контента, сексуализирующего детей, в том числе нарисованного, фотореалистичного и сгенерированного искусственным интеллектом материала с проявлениями сексуального насилия над детьми».

Ранее расследование NBC News обнаружило, что серверы Discord рекламировались как серверы знакомств для подростков, а участники запрашивали обнажённые изображения у несовершеннолетних.

Помимо обновления правил, Discord недавно запустил инструмент Family Center, с помощью которого родители могут следить за активностью детей в чатах. Хотя родители не могут видеть фактическое содержание сообщений, инструмент подписки позволяет им узнать, с кем дети дружат и с кем разговаривают на платформе.

Discord надеется, что эти новые меры и инструменты помогут обеспечить безопасность несовершеннолетних пользователей наряду со старыми мерами, которые включают в себя упреждающее сканирование изображений, загруженных на платформу.

13.07.2023
https://habr.com/ru/news/747778/​