La ONU relaciona a la IA con el aumento del ciberacoso infantil
publisher
mcora
Dos tercios de los niños en el mundo denuncian un aumento del ciberacoso, según Naciones Unidas, que apunta a una posible culpable, la Inteligencia Artificial.
Alrededor de dos tercios de los niños en todo el mundo declaran un aumento del ciberacoso, y uno de cada dos afirma no saber cómo obtener el apoyo adecuado, según una encuesta reciente realizada por la máxima responsable de la ONU para la eliminación de la violencia contra los niños.
El informe destaca "tendencias alarmantes" y "la necesidad urgente de que todo el ecosistema en línea actúe más rápido y de forma conjunta para proteger a los niños", declaró Stéphane Dujarric, portavoz del Secretario General de la ONU.
Los resultados se conocen en medio de crecientes amenazas para los niños debido al aumento de conflictos, desplazamientos, pobreza y niveles de violencia.
"Nos reunimos hoy una vez más en un mundo desafiante, donde los niños están pagando el precio más alto", dijo la doctora Najat Maalla M'jid, Representante Especial del Secretario General de la ONU sobre la Violencia contra los Niños, durante la presentación del informe el martes en el Consejo de Derechos Humanos en Ginebra.
La IA "transforma fundamentalmente la amenaza"
Con respuestas de más de treinta mil niños de todas las regiones, el informe enfatizó el impacto generalizado de la inteligencia artificial en la "transformación fundamental de la amenaza" que enfrentan los niños en línea.
El rápido avance y la accesibilidad de la IA generativa están remodelando el ciberacoso, haciéndolo más rápido, más dirigido, más difícil de detectar y capaz de extenderse a través de múltiples plataformas a una escala masiva.
En el clima actual, que permite la creación de fotos y vídeos deepfake generados por IA y la manipulación de niños a través de chatbots y otras herramientas, los niños a menudo confían en exceso y no pueden distinguir la interacción humana real de la ficticia.
Los deepfake de IA "se utilizan cada vez más para humillar, amenazar y explotar a los niños en línea", advirtió el comunicado difundido por la oficina de la doctora M'jid.
Miedo al estigma
Según los hallazgos, los niños encuentran difícil denunciar el ciberacoso porque se enfrentan al estigma y al miedo a ser rechazados por sus compañeros o juzgados por los adultos.
El impacto de no denunciar puede ser inmediato y devastador: causa angustia psicológica y daños reputacionales duraderos en cuestión de segundos. En los casos más trágicos, puede llevar a los niños a quitarse la vida.
Diseñar el mundo digital "con nosotros"
La doctora M'jid subrayó la necesidad de involucrar a todas las partes interesadas en el ecosistema de protección infantil en línea, incluidos gobiernos, industria, educadores, familias, niños y jóvenes, como única forma de proteger a los niños del daño en línea y al mismo tiempo permitir una participación digital segura.
Un niño consultado por el equipo de la doctora M'jid dijo: "Los espacios digitales no deben convertirse en lugares donde se denuncie el daño pero nunca se resuelva. Deben ser lugares donde la ayuda llegue rápida, segura y humanamente. No diseñen el futuro digital para los niños. Diseñenlo con nosotros".
© SomosTV LLC-NC / Photo: © Hillside Horizon
Comentarios