El boom de la IA está dando lugar a avances significativos, pero también plantea desafíos éticos, legales y de seguridad. En el post de hoy veremos cómo es importante abordar los desafíos de la IA y poder aprovechar al máximo sus beneficios, mientras se protege a las personas de uno de sus peores usos, la combinación de menores y deepfakes.
CONTENIDOS
El boom de las deepfakes o fotos falsas generadas con IA
Menores y deepfakes: uso de la IA con fines de acoso
Soluciones para el problema de menores y deepfakes
El reto legal de las deepfakes
El boom de las deepfakes o fotos falsas generadas con IA
La inteligencia artificial (IA) se ha convertido en una de las tecnologías más disruptivas y transformadoras de nuestro tiempo. Con ella, tenemos acceso a aplicaciones capaces de realizar tareas que antiguamente requerían inteligencia humana. Además, la IA ha traído avances significativos los campos de la imagen, como la fotografía o el video. Estas innovaciones han dado lugar a la creación de fotos falsas, conocidas normalmente como “deepfakes”. Se trata de imágenes de personas manipuladas con los algoritmos de IA, que las hacen parecer reales. Estas falsas fotografías se están utilizando ya para fines delictivos como difundir información engañosa o imágenes pornográficas no consensuadas.
Algunos ejemplos notables de deepkafes han sido la creación de imágenes del Papa Francisco en ropa de calle o las fotografías del expresidente Trump arrestado por la policía de los Estados Unidos. Este tipo de imágenes han creado un gran impacto y muchos empiezan a preguntarse si la IA llegará a convertirse en un arma de doble filo.
Menores y deepfakes: uso de la IA con fines de acoso
En un mundo cada vez más engullido por la tecnología, los jóvenes se enfrentan a nuevas realidades como la manipulación de fotos con IA. Uno de los peligros más evidentes es el potencial que tienen estas deepfakes para causar daño psicológico, emocional y psicológico a jóvenes y a adolescentes.
La adolescencia es una etapa de la vida en la que la construcción de la autoimagen y la aceptación de los demás son temas fundamentales. La creación y difusión de imágenes falsas puede tener un impacto devastador en su autoestima y su salud mental. Además, existe la preocupación de que las imágenes manipuladas puedan ser utilizadas para el acoso, el chantaje o la humillación pública, lo que podría tener consecuencias muy graves como un suicidio. En este sentido, se ha observado un aumento paulatino de los casos de ciberacoso relacionados con la difusión de imágenes creadas con AI, lo que subraya la urgencia de buscar una solución a este problema.
Uno de los incidentes con fotos manipuladas que más impacto tuvo en los medios de comunicación sucedió en septiembre del 2023. Varias chicas menores de edad denunciaron que había fotografías suyas desnudas, manipuladas con IA, que se encontraban circulando en internet. Todo ocurrió en Almendralejo (Badajoz), donde las madres de las víctimas (de entre 12 y 17 años) denunciaron la situación. La Policía Nacional detuvo a varios menores implicados en el caso. Para crear estas fotografías, los adolescentes habían utilizado una aplicación de IA que era capaz de hacer un montaje hiperrealista intercambiando el rostro o el cuerpo original de la víctima por el de otra persona.
Probablemente, muchos de estos menores ni siquiera son conscientes de las implicaciones de este tipo de actos, lo cual demuestra una grave falta de empatía y de civismo. En esta ocasión, las deepfakes que crearon estos menores podrán ser consideradas como un delito de pornografía infantil. Según detalla el artículo 189 del Código Penal, se entiende por pornografía infantil todo material de un menor participando en una conducta sexual explicita, real o simulada. Además, las imágenes de las menores de Albadalejo suponen también una suplantación de la identidad y atentan contra la intimidad y el honor de las víctimas.
Soluciones para el problema de menores y deepfakes
A medida que la policía identifica más casos de este tipo de montajes, parece más necesario que nunca analizar los peligros asociados a combinar menores y deepfakes, considerando también cómo se puede abordar este complicado tema. Para los expertos, la solución debe comenzar con la educación. Las escuelas y los padres deben trabajar juntos para sensibilizar a jóvenes y adolescentes sobre los riesgos asociados a la creación y difusión de imágenes falsas. También es esencial enseñarles a discernir entre imágenes auténticas y manipuladas, así como a comprender las consecuencias éticas y legales de participar en estas prácticas.
De acuerdo con los estudios de Deeptrace, una compañía especializada en ciberseguridad, 8 de las 10 principales páginas web de pornografía, incluyen contenidos creados a través de deepfake. Aunque cualquier persona es vulnerable a que su cara o cuerpo aparezcan manipulados en un video pornográfico, la empresa asegura que las mujeres se han convertido en las víctimas principales. Por eso han declarado, que desde edades tempranas se debe enseñar a hacer un uso seguro, responsable y saludable de las tecnologías.
El reto legal de las deepfakes
Es indudable que el sector jurídico se enfrenta a una revolución, sin precedentes, en la que las tecnologías de la IA tendrán cada vez un mayor peso. Su uso, en paralelo al auge de las redes sociales, ha favorecido el surgimiento de distintos fenómenos que plantean importantes retos, como en las ya mencionadas deepfakes. Muchos personajes públicos como Tom Hanks, Scarlett Johansson o Barack Obama ya se han visto afectados. Una de las consecuencias legales más importantes de las deepfake, es que suponen la vulneración del derecho fundamental al honor de la persona afectada, exactamente igual que en el delito de injurias o de calumnias. Así, la libertad tiene su límite en los preceptos de las leyes que desarrollan el derecho al honor, a la intimidad, a la propia imagen y a la protección de la juventud y la infancia.
Si bien la legislación española no regula específicamente la producción y difusión de las deepfakes, y menos aún los asuntos que afectan el acoso a menores con deepfakes, la Comisión Europea ya ha presentado un borrador de reglamento de la IA para que se discuta en el Parlamento Europeo. Esta propuesta tratará de armonizar el uso de la IA, estableciendo normas de transparencia, sobre todo en aquellos sistemas destinados a interactuar con personas físicas y en los utilizados para generar o manipular contenidos de imagen, audio o video. Asimismo, países como China y Estados Unidos están incorporando regulaciones en el uso de este tipo de software, que incluyen penas de hasta 1 año de prisión y 2.500 dólares de multa para los casos de difusión de videos falsos.
Establecer un marco legal global en torno a la manipulación de imágenes es prioritario. También es importante analizar las deepfakes desde la perspectiva de la propiedad intelectual. En este sentido, cabe recordar que existen producciones de contenidos que no afectan al derecho de imagen. Por ejemplo, el uso de estas tecnologías para difundir la imagen de un personaje público con un trasfondo o intención cómica o los derechos de autor en el caso de las parodias. Desgraciadamente, no es el caso de las noticias que han transcendido del uso de la imagen de menores en deepafkes.
Por último, te dejamos un pequeño vídeo por si quieres saber más de los deepfakes. Hasta el próximo post!
