SAN FRANCISCO — El jefe de confianza y seguridad de Discord dijo el martes que la popular plataforma de chat está cambiando y aclarando sus políticas de seguridad infantil, incluidas las relacionadas con las citas entre adolescentes y el material abusivo. mes en la seguridad de los niños en la plataforma.
John Redgrave, vicepresidente de confianza y seguridad de Discord, dijo que Discord está ampliando sus políticas para abordar la inteligencia artificial generativa. quién puede crear contenido falso y la sexualización infantil, que prohíbe específicamente las representaciones de AI del abuso sexual infantil e incluso la sexualización infantil en los chats de texto. el poste de washington informó en junio que las imágenes sexuales de niños generadas por IA han proliferado en Internet en los últimos meses.
Discord ha sido un centro para comunidades dedicadas a crear imágenes generativas de IA y ha alojado varias integraciones que permiten a los usuarios generarlas. Las imágenes de temática sexual se crean con frecuencia en estos servidores.
La empresa dijo en un entrada en el blog anunciando cambios de que la política actualizada sobre material de abuso sexual infantil incluiría «cualquier texto o contenido multimedia que sexualice a los niños, incluido el material de abuso sexual infantil fotorrealista y fotorrealista generado por la IA». El propósito de esta actualización es asegurar que la sexualización de los niños en cualquier contexto no sea normalizada por malos actores.
Redgrave también dijo que la compañía está instituyendo cambios de política y aclaraciones para prohibir explícitamente las citas con adolescentes, lo que los expertos dijeron anteriormente a NBC News que representa una oportunidad importante para los adultos que buscan explotar o preparar a los niños.
Discord escribió en su publicación de blog: “En este contexto, también creemos que las citas en línea pueden llevar a la auto-peligro. Según esta política, los servidores de citas para adolescentes están prohibidos en la plataforma y tomaremos medidas contra los usuarios que participen en este comportamiento. »
Redgrave dijo durante una presentación en TrustCon, una conferencia para profesionales de confianza y seguridad que se lleva a cabo en San Francisco, que la compañía ve este tipo de relaciones en línea como un gran riesgo para los jóvenes.
“Ya no permitiremos citas de adolescentes en nuestra plataforma porque reconocemos que esto es un vector significativo de daño para los depredadores que se aprovechan de los adolescentes”, dijo.
Pautas de discordia dijo anteriormente que la compañía «eliminaría los espacios que fomentan o facilitan las citas entre adolescentes». En junio, una investigación de NBC News descubrió cientos de servidores de Discord que parecían promover la pornografía infantil y algunos servidores que se hacían pasar por servidores de citas para adolescentes o niños que solicitaban imágenes de desnudos de menores. Además, NBC News ha identificado 35 casos en los últimos seis años en los que se ha demandado a adultos por secuestro, acicalamiento o agresión sexual que presuntamente involucraba comunicaciones en Discord.
NBC News ha identificado 165 casos adicionales, incluidas cuatro presuntas redes criminales en las que se procesó a adultos por transmitir o recibir material de abuso sexual infantil a través de Discord, o por supuestamente usar la plataforma para extorsionar a niños para que envíen imágenes sexualmente gráficas de sí mismos, también conocida como sextorsión. .
Redgrave señaló que la compañía también está actualizando sus políticas para prohibir casos en los que adolescentes mayores acosen a adolescentes más jóvenes. En la publicación del blog, la compañía dijo: «Los adolescentes mayores que se involucren en el acicalamiento de un adolescente más joven serán evaluados y tratados de acuerdo con nuestra política sobre comportamiento sexual inapropiado con niños y acicalamiento».
Como parte de las actualizaciones de su política, Discord anunció el lanzamiento de más herramientas de control parental. en un nuevo Herramienta Centro familiarlos padres y los niños pueden registrarse para que los padres reciban actualizaciones sobre las actividades de sus hijos en la plataforma.
