• Expertos alertan que una imagen cotidiana del rostro de un niño en redes sociales puede convertirse en la base para fabricar contenido falso.
• Raymond Orta, abogado especialista en tecnología y perito en informática forense, explicó que las herramientas de inteligencia artificial redujeron las barreras para quienes buscan crear contenido ilícito.

No hace falta que una fotografía o un video muestre una situación íntima para convertirse en un riesgo. Sólo basta con una imagen tomada en una fiesta de cumpleaños, durante unas vacaciones o al salir del colegio para que, en cuestión de minutos, pueda ser alterada con Inteligencia Artificial (IA) y es que la sobrexposición infantil es potencial insumo para los delitos digitales.

La facilidad con la que los padres y representantes comparten momentos de sus hijos, menores de edad, en redes sociales ha llegado a causar preocupación en la gente común y en especialistas en derechos digitales y protección de la infancia. Lo que antes era un recuerdo familiar, ahora puede transformarse en un insumo para crear imágenes falsas, clonar voces o fabricar escenas que nunca ocurrieron.

La Agencia Nacional contra el Crimen del Reino Unido (NCA) alertó recientemente que la inteligencia artificial está siendo utilizada cada vez más para generar material de explotación sexual infantil. El organismo, también señaló que el uso de estas tecnologías ha complicado las investigaciones y ha incrementado el número de detenciones relacionadas con estos delitos.

Andrea Cimino, directora de «Criando entre Pantallas» y abogada de derechos de la niñez digital, precisa que el riesgo cambió por completo con la llegada de la inteligencia artificial.

«Antes, uno de los principales temores era que alguien descargara una fotografía y la utilizara fuera de contexto. Ahora la inteligencia artificial permite modificarla, animarla, combinarla con otros cuerpos, crear videos falsos, imitar voces o producir contenido sexualizado que nunca existió», explicó la abogada.

La especialista advirtió que ya no se necesitan fotografías íntimas para cometer este tipo de delitos. Una imagen cotidiana del rostro de un niño puede convertirse en la base para fabricar contenido falso.

Según Unicef (Fondo de las Naciones Unidas para la Infancia), las tecnologías de IA han facilitado que incluso personas sin conocimientos especializados puedan generar contenidos falsos con gran realismo. Según la información publicada en la página web, se ha documentado un aumento en la producción y difusión de material de abuso sexual infantil asistido por IA en internet, incluyendo foros de la web profunda donde se generan miles de imágenes diariamente.

«En algunos países, grupos de adolescentes están usando herramientas de IA para crear imágenes de abuso sexual de sus pares, lo que también constituye una forma de violencia», dice parte del comunicado de Unicef.

Más que un robo de foto

Raymond Orta, abogado especialista en tecnología y perito en informática forense, explicó que las herramientas de inteligencia artificial redujeron las barreras para quienes buscan crear contenido ilícito.

Orta dijo que existen programas capaces de tomar el rostro de un niño y generar nuevas imágenes con un nivel de realismo suficiente para engañar a otras personas o alimentar redes dedicadas a la explotación infantil.

A su juicio, el problema ya no consiste únicamente en que una fotografía sea copiada sin autorización, sino en el uso que terceros pueden darle para construir escenas falsas con consecuencias reales.

La abogada Cimino coincidió con esa visión y añadió que el impacto trasciende el ámbito digital. «La escena puede ser falsa, pero la humillación, las amenazas, la extorsión y los daños emocionales son reales», dijo la abogada.

La especialista detalló que incluso una imagen creada con IA puede utilizarse para chantajear a un menor o a su familia mediante sextorsión, aunque la fotografía original no tuviera ningún contenido sexual.

Sin eliminar peligro

Uno de los errores más frecuentes, según Cimino, es creer que una cuenta privada, en redes sociales, garantiza la seguridad.

Puede que disminuya el riesgo del contenido en público, pero hay adultos que aceptan las solicitudes de otros seguidores sin conocerlos de fondo. Cimino recordó que cualquier seguidor puede realizar capturas de pantalla, descargar una imagen o compartirla sin conocimiento de los padres.

La abogada también alertó sobre la cantidad de información que suele acompañar a las fotografías. Uniformes escolares, nombres, ubicaciones y fachadas de viviendas, son datos que permiten reconstruir la vida de un niño.

Abogados: La IA, un reto para la legislación

Sobre el marco legal en Venezuela, Cimino indicó que existen normas que protegen el honor, la privacidad y la imagen de los menores de edad, además de leyes sobre delitos informáticos y abuso sexual.

Señaló que estas herramientas se crearon antes del auge de tecnologías como los deepfakes, la clonación de voz o las imágenes hechas con inteligencia artificial.

Por esta razón, consideró que es indispensable avanzar hacia regulaciones más específicas que permitan actuar con rapidez ante estas nuevas formas de delito, así como mejorar la colaboración con las plataformas digitales para bajar contenido prohibido y conservar pruebas.

Para Raymond Orta, abogado y director del Instituto Venezolano de Derecho Tecnológico (Invedet), aunque la ley de delitos informáticos es del año 2000, esta abarca correctivos que se le pueden aplicar a personas por espionaje informático y falsificación electrónica.

Tanto para Cimino como para Orta, actualmente el desafío es impedir que el rostro, la voz o cualquier dato biométrico de un niño sean utilizados para fabricar una versión falsa de su identidad.

«No sólo debemos proteger lo que verdaderamente hizo un niño, sino también aquello que otros pueden hacer parecer que hizo», destacó la directora de «Criando entre Pantallas».

Millones de niños y adolescentes están creciendo con la IA, pero sin una supervisión de un adulto. El equipo del Diario de Lara, LA PRENSA, entrevistó a un grupo de madres y coincidió que sus hijos usan esta herramienta para hacer tareas.

Pero al momento de preguntarles sobre qué otras cosas pueden hacer con la Inteligencia Artificial, se limitaron a responder que simplemente no sabían.

Ante esta situación, Unicef alertó de una brecha generacional y de riesgos que van desde la desinformación hasta los montajes sexuales.

Para millones de niños y adolescentes se ha convertido en parte de la rutina; es decir, cuentan que la IA sirve para resolver una tarea, buscar información, traducir un texto o retocar una imagen.

Pero la velocidad con la que los menores están incorporando estas tecnologías contrasta con la falta de reglas, investigación y acompañamiento para protegerlos. Un análisis de Unicef, publicado el mes pasado y que se basó en encuestas en 10 países, estima que al menos 20 millones de niños de entre 12 y 17 años ya han utilizado herramientas de inteligencia artificial. Ellos son tres veces más propensos a hacerlo que sus padres o cuidadores.

Según Unicef, un 34% de los encuestados expresó preocupación por el uso de la inteligencia artificial para engañar o estafar a otras personas, un 32% teme que se utilice para difundir información falsa, y un 26% mencionó la creación de imágenes o videos sexuales falsos.

El peligro de los Deepfakes en la infancia

Durante los últimos años, distintas ONGs y la Unicef han advertido sobre un problema alarmante, la circulación masiva en internet de material gráfico de carácter sexual generado por sistemas de inteligencia artificial, lo que abarca fotos de niños y adolescentes que terminan siendo alteradas con intenciones abusivas.

La Unicef detalló que los denominados deepfakes, ya sean imágenes, videos o audios fabricados o alterados por medio de la IA con un gran realismo, se están empleando de manera constante para producir contenido sexual explícito de niños y niñas. Esto abarca la práctica de la «nudificación», la cual consiste en aplicar herramientas tecnológicas para quitar o modificar las prendas en fotografías reales, logrando así falsos desnudos o imágenes de tipo sexual.

De acuerdo con investigaciones llevadas a cabo por la Unicef en colaboración con la Interpol, en algunos países al menos 1 de cada 25 menores señaló haber sufrido los efectos directos de la manipulación de su propia imagen a través del deepfakes.

«Cualquier abuso llevado a cabo mediante deepfake no deja de ser un abuso; por lo tanto, aunque las fotografías sean falsas, el sufrimiento generado es totalmente real», indicó la Unicef en su proyecto de «IA para la infancia».

Prevención antes de publicar

La primera medida de protección sigue estando en manos de las familias, así lo explicaron los especialistas consultados por el equipo del Diario de Lara, LA PRENSA.

Andera Cimino, directora de Criando en Pantallas, resaltó que antes de compartir una foto de un hijo en Internet, es necesario que se pregunten qué muestra y qué podría fabricar otra persona a partir de ella.

Para Cimino la inteligencia artificial puede alterar rostros, voces y escenas con pocos clics, la prudencia se convierte en una herramienta importante como cualquier configuración de privacidad.

La Prensa de Lara es un medio de comunicación regional comprometido con la verdad, la investigación y el periodismo de calidad. Sigue nuestro día a día en la web y redes sociales, y adquiere nuestra versión impresa cada lunes, miércoles y viernes en los principales puntos de venta de la región.