Cada publicación deja una huella, piensa en la vida digital de tus hij@s

Hoy se celebra el Día de la Niña y del Niño en México. Y en esta ocasión, queremos dialogar sobre un tema muy relevante que merece mucha atención y reflexión. Como madres y padres siempre estamos preocupadas por el tipo de contenido que puede llegar a nuestras hijas e hijos a través del internet. Sin embargo, pocas madres o padres se ponen a reflexionar sobre los riesgos y peligros que significan para nuestr@s hij@s lo que nosotros hacemos en las redes sociales. Estamos hablando de una acción que puede parecer inocente, pero que tiene todo el potencial de convertirse en tu peor pesadilla: compartir fotos de nuestr@s hij@s en internet.

Resulta impresionante la cantidad de personas que publican diariamente las fotos de sus hij@s en las redes sociales, ignorando que pueden terminar en las manos equivocadas y generar mucho daño. Por ello, en este día tan importante, queremos abordar el tema de la inteligencia artificial (IA), la protección de los derechos de niñ@s y los peligros a los que nos enfrentamos.

Iniciemos con la relación entre la inteligencia artificial y los derechos de la niñez que se puede abordar desde una doble dimensión: potencial de protección y riesgo de vulneración. Desde el marco de la Convención sobre los Derechos del Niño, la IA puede contribuir positivamente a derechos clave como el acceso a la educación, el juego, la identidad, la salud y la protección. Por ejemplo, sistemas de aprendizaje adaptativo pueden personalizar la educación, y herramientas de análisis de datos pueden ayudar a identificar situaciones de riesgo. Sin embargo, estos beneficios dependen de cómo se diseñen y regulen las tecnologías, ya que no son neutrales y en este tema todavía se siguen poniendo de acuerdo en el cómo y el por qué.

De igual forma, la IA introduce riesgos significativos que vulneran y ponen en peligro los derechos fundamentales de niños, niñas y adolescentes. Entre ellos destacan el derecho a la privacidad (por recolección masiva de datos, fotografías y videos – recordando que bebés y niñ@s no pueden decidir si quieren o no quieren subir ese contenido a redes disponible para cualquier persona – por más que la cuenta pueda ser privada), la protección contra la violencia (por fenómenos como el grooming, generación de contenido abusivo o incluso pornografía infantil) y la libertad de desarrollo (por sistemas que manipulan comportamiento o atención, contenido que se oferta para niñ@s y adolescentes y que es muy dañino para su salud y desarrollo).

En este sentido, nos gustaría ahondar en el tema de la generación de contenido como pornografía infantil. Aquí es donde padres y madres – incluso familiares o amistades – tienen un papel fundamental en poder prevenir este tipo de ataques directos a la vida, seguridad y desarrollo de nuestr@s hij@s.

Para comprender el impacto respecto de esta simple acción, comentaremos datos y hechos que reflejan las consecuencias y el peligro para niñas, niños y adolescentes. Organismos como UNICEF (El Fondo de las Naciones Unidas para la Infancia) han advertido que la IA está amplificando significativamente los riesgos de explotación infantil en entornos digitales1 . En un estudio conjunto con INTERPOL (Organización Internacional de Policía Criminal) y ECPAT2 (End Child Prostitution, Child Pornography and Trafficking of Children for Sexual Purposes), se estimó que alrededor de 1.2 millones de niñas, niños y adolescentes reportaron que sus imágenes fueron manipuladas para crear contenido sexual mediante tecnologías como deepfakes3 (estudio de 11 países, incluido México). Este tipo de datos refleja principalmente la victimización directa —por ejemplo, la alteración de imágenes reales— más que el consumo global del material.

Por otro lado, organizaciones especializadas como la Internet Watch Foundation proporcionan algunos de los datos más concretos sobre la magnitud del problema. Sus reportes recientes documentan miles de imágenes y videos generados por IA, con incrementos extremadamente rápidos4 . Estas tendencias apuntan a un cambio cualitativo importante: no solo crece el volumen, sino que también se diversifican las formas de abuso, incluyendo contenido completamente artificial y nuevas modalidades de explotación. Sin embargo, los propios organismos advierten que estas cifras representan sólo una fracción del total real, debido a la dificultad de detección y a la falta de estándares globales de medición. Este punto merece la pena seguir discutiendo, hacia la creación de una herramienta que pueda ayudar a visibilizar todos y cada uno de los casos que se presentan a nivel mundial.

Existen diversos casos a nivel global de personas que han sido detenidas y condenadas por realizar este tipo de actos atroces, en los cuales estos delincuentes tomaron fotografías normales de niñas y niños y adolescentes y, utilizando herramientas de inteligencia artificial y un programa informático, las transforman para crear imágenes pornográficas y venderlas en línea5 .

UNICEF, ECPAT e INTERPOL advierten que, sin salvaguardas adecuadas, la IA puede amplificar desigualdades existentes, crear nuevas formas de explotación digital. Hoy en día, los modelos de código abierto pueden ejecutarse en hardware de consumo, lo que facilita mucho más que los perpetradores creen contenido de abuso sexual. El desarrollo de las herramientas de la IA genera una rápida escalada de los riesgos que puede representar la publicación de las caras de niñas y niños en el mundo digital. Es urgente que se tomen medidas necesarias para prevenir la creación y difusión de contenido generado por la IA sobre niñas, niños y adolescentes.

Como última consideración mencionada sobre este informe respecto de los riesgos, lamentablemente se destaca que no sólo estamos hablando de personas adultas que cometen estos delitos, sino también adolescentes, amig@s, compañer@s de clase, quienes utilizan las imágenes y las herramientas de la IA para generar contenido de violencia sexual. Ante esta realidad, se han emitido y difundido varias recomendaciones para hacer frente al rápido crecimiento de la IA y sus riesgos para niñas, niños y adolescentes. Por ello, el enfoque actual en organismos como UNICEF y otras agencias de la ONU es promover una IA centrada en los derechos del niño, donde el interés superior sea un principio rector en el diseño, implementación y regulación de estas tecnologías.

UNICEF cuenta con una Guía6 para promover la protección y garantía de los derechos de niñas, niños y adolescentes respecto de las políticas y prácticas del sector privado y del gobierno en relación con la IA, generando conciencia en cómo estos sistemas de IA pueden proteger o en su caso, socavar estos derechos. Principalmente la guía ofrece diversos criterios para una IA centrada en la protección de niñas, niños y adolescentes, como garantizar marcos regulatorios, supervisión y cumplimiento para una inteligencia artificial centrada en la niñez; asegurar su protección y seguridad; privacidad y el resguardo de sus datos personales; promover transparencia y rendición de cuentas en el uso de estas tecnologías; respetar derechos de niñas, niños y adolescentes mediante prácticas responsables de IA, priorizando siempre el interés superior de la niñez, su desarrollo y bienestar; fundamentalmente, fomentar su inclusión en estos entornos, prepararlos y desarrollar sus habilidades para los desafíos presentes y futuros de la IA.

Así mismo, se recomienda lo siguiente para los diversos actores involucrados en la materia:

• Padres, madres y cuidadores deben estar informados sobre la explotación y el abuso sexual facilitados por la inteligencia artificial, y contar con la comprensión y capacidad necesarias para apoyar a niñas, niños y adolescentes que sean afectadas.

• Las escuelas, como entornos de primera línea, deben educar a estudiantes sobre los riesgos relacionados con la IA —como los deepfakes y las herramientas de IA para “desnudar” o “quitar la ropa”—, incluyendo el daño significativo que causan, fomentar la denuncia de comportamientos perjudiciales y capacitar al personal docente para responder de manera adecuada.

• Los servicios sociales, profesionales de salud mental y fuerzas policiacas necesitan recursos y capacitación continua para apoyar a niñas, niños y adolescentes que se vean afectadas, reconociendo los impactos psicológicos específicos del material de abuso sexual infantil generado por IA, incluso cuando es producido por otras personas menores de edad.

• Los Estados también deben establecer sanciones penales, civiles y administrativas para las entidades responsables. La amenaza de este tipo de contenido exige acciones legislativas urgentes: las leyes penales deben actualizarse para incluir material generado por IA, alinearse con estándares internacionales y garantizar mecanismos de reparación para las víctimas.

• Por parte de la industria tecnológica es fundamental una mayor acción, responsabilidad y transparencia, exigiendo evaluaciones de impacto en derechos de niñas, niños y adolescentes, mayor divulgación en sus informes y la adopción de medidas de seguridad desde el diseño en toda la cadena de desarrollo de la IA, así como su participación en iniciativas y soluciones que protejan el bienestar infantil.

Finalmente, la industria de la tecnología7 ha dado a conocer algunas recomendaciones para madres, padres y cuidadores sobre compartir fotos de sus hij@s en redes sociales, centradas principalmente en proteger su privacidad y seguridad digital. Se sugiere evitar publicar información que permita identificar a la niñas, niño o adolescente, como su nombre completo, escuela, ubicación o rutinas, ya que esto puede facilitar riesgos de rastreo o uso indebido de los datos. También se enfatiza que una vez que una imagen se publica en internet, se pierde el control sobre ella, pudiendo ser copiada, difundida o incluso manipulada por terceros.

Necesitamos quitarnos el “A mí no me pasará”, “Eso no ocurre en mi país”, “Mi cuenta es privada”, necesitamos hacer conciencia del entorno en el cual vivimos y educamos a nuestr@s hij@s, no podemos borrar las amenazas ni ignorarlas, necesitamos prepararnos, educarnos y conocer cómo podemos brindarles a nuestr@s hij@s todas las herramientas necesarias para protegerse y a su vez, comprender cómo nuestros actos pueden afectar su desarrollo y su vida, por más inocente que nos pueda parecer. Cuidemos lo más valioso que tenemos y sumemos a nuestros familiares y amig@s.

1. UNICEF – “Artificial Intelligence and Child Sexual Abuse and Exploitation” (2026) - Artificial Intelligence and Child Sexual Abuse and Exploitation | UNICEF.

2. Red mundial dedicada a erradicar la explotación sexual comercial de niñas, niños y adolescentes, que opera en más de 100 países.

3. UNICEF, INTERPOL y ECPAT – estudio multinacional sobre deepfakes (2026) - ‘Deepfake abuse is abuse’.

4. Internet Watch Foundation – “Harm without limits: AI child sexual abuse material through the eyes of our Analysts” (2025) - iwf-aicsam-report-2026.pdf.

5. Ejemplo: Man who used AI to create child abuse images jailed for 18 years.

6. UNICEF - Guidance on AI and children. Version 3.0 | Recommendations for AI policies and systems that uphold child rights - https://www.unicef.org/innocenti/reports/policy-guidance-ai-children.

7. Ejemplo: Microsoft Family Safety,