Alerta “deepfakes”: imágenes alteradas para estafar o injuriar

En un mundo donde la tecnología avanza a pasos agigantados, los deepfakes (videos trucados) se han convertido en una herramienta tanto fascinante como peligrosa por el uso que se les puede dar. A raíz del revuelo que causó en un colegio privado de la Ciudad la denuncia contra un alumno, la pregunta por las consecuencias legales está sobre la mesa de debate.

El hecho que conmocionó a la comunidad educativa del colegio San Cayetano fue la acusación contra un alumno de crear imágenes “deepfake” de sus compañeras para mostrarlas desnudas, que luego se viralizaron en las redes sociales. Los padres de las víctimas denunciaron lo ocurrido en la institución escolar y también en la sede de la DDI.

Pero la pregunta en cuestión es cuáles son las consecuencias legales reales de estos delitos, si es que dentro de las leyes de este país se lo contempla como tal.

¿QUÉ ES EL DEEPFAKE?

El avance de la tecnología ha traído consigo un fenómeno preocupante: las deepfakes. Estas manipulaciones digitales, impulsadas por la inteligencia artificial, representan un riesgo significativo en cuanto a la distribución de desnudos y la privacidad de las personas.

“Los casos más conocidos son aquellos donde se cambian los rostros en videos sexuales”

LE PUEDE INTERESAR

Los números de la suerte del martes 2 de julio de 2024, según el signo del zodíaco

LE PUEDE INTERESAR

VIDEO. Por turbulencias en un vuelo de España a Uruguay: 30 heridos y un pasajero atrapado en el maletero

Ernesto Liceda, abogado y miembro del Grupo de Estudio de la Complejidad en la Sociedad de la Información (GECSI) de la Facultad de Ciencias Jurídicas y Sociales, explica que un deepfake es “una técnica de edición de videos donde, por medio de sistemas de inteligencia artificial, se realiza una producción digital alterando los rostros o voces de los intervinientes”.

Esta tecnología tiene como principal objetivo engañar al espectador, creando una representación falsa de la realidad. “Los casos más conocidos son aquellos donde, en el marco de un video erótico, se cambia el rostro de los intervinientes. Pero obviamente no es la única posibilidad”, señala el abogado y resalta que lo central a tener en cuenta para determinar si se está frente a un caso de deepfake es que exista la intención de generar un error en las personas que lo ven.

Los delitos asociados a los deepfakes son variados. Según Liceda, “al estar frente a casos donde se genera un material para inducir a error a los receptores, los delitos que se asocian comúnmente son los de defraudaciones (imaginemos un video de Messi invitando a participar en una inversión), delitos contra el honor (calumnias e injurias) y delitos contra la privacidad”. No obstante, aclara que esta lista no es cerrada y que “pueden pensarse varios usos distintos de un deepfake como medio comisivo de otros delitos”.

Las deepfakes permiten la creación de videos o imágenes falsos, donde los rostros de individuos reales son superpuestos en cuerpos de otras personas, o incluso generados artificialmente. Esta tecnología, si bien puede tener aplicaciones divertidas o artísticas, también ha sido utilizada de manera maliciosa, especialmente en la creación y difusión de material pornográfico falso. Pero el resultado final es tan auténtico y realista que logra engañar no solo a las personas sino también a los algoritmos.

El término “deepfake” proviene de la combinación de “deep learning” (aprendizaje profundo), una técnica de inteligencia artificial, y “fake” (falso). Estas manipulaciones se realizan mediante algoritmos de aprendizaje automático que pueden aprender y replicar las características faciales de una persona en otra.

La creciente sofisticación de las herramientas de edición de medios impulsadas por inteligencia artificial ha generado preocupaciones sobre los posibles impactos en la privacidad, la seguridad y la confianza pública. Como resultado, hay un creciente interés en desarrollar técnicas de detección de deepfakes, así como en establecer políticas y regulaciones para mitigar los riesgos asociados con esta tecnología.

El peligro radica en el potencial daño que estas falsificaciones pueden causar a la reputación, la privacidad y la seguridad emocional de las personas afectadas. En el contexto de la distribución de desnudos, las deepfakes pueden ser especialmente devastadoras, ya que se utilizan para crear imágenes sexualmente explícitas de individuos sin su consentimiento, con el fin de difamar, extorsionar o acosar.

LEYES Y REGULACIONES

En cuanto a las leyes y regulaciones que abordan específicamente este accionar, Liceda enfatiza que “el deepfake en si no es un delito, sino que es un medio por el cual se comete un delito.

A modo de ejemplo, si se trata de la utilización de la imagen de una persona muy conocida podría dar lugar a un delito contra los derechos intelectuales (usar la imagen de una persona sin su consentimiento para promocionar un producto en redes); lo mismo podría darse si se alterara un video sobre el que no tengo derechos. Por otro lado, si la creación vulnera la dignidad de la persona, por ejemplo incorporando su cara a un cuerpo desnudo, daría lugar a un delito contra el honor. Lo mismo ocurre con varios de los delitos legislados en nuestro código penal”.

Con respecto a los delitos de tenencia y distribución de imágenes de abuso sexual infantil, se distinguen tres situaciones diferentes: en primer lugar, aquella donde aparece un menor de edad adoptando un comportamiento sexual; aquella donde aparece un adulto representando a un menor de edad y, por último, las imágenes realistas de un menor.

“El deepfake no es un delito en sí, sino un medio por el cual se comete un delito. Si se manipula la imagen de una persona muy conocida podría dar lugar a un delito contra los derechos intelectuales, si la creación vulnera la dignidad de la persona, por ejemplo incorporando su cara a un cuerpo desnudo, daría lugar a un delito contra el honor”.

Ernesto Liceda
Abogado integrante del Grupo de Estudio de la Complejidad en la Sociedad de la Información

El especialista destaca que Argentina es parte del Convenio de cibercriminalidad de Budapest. Sin embargo, menciona que “nuestro país solo ha incorporado explícitamente el primer caso, aunque la redacción del art. 128 puede dar lugar a otras interpretaciones en el caso de los deepfakes donde se incorpore el rostro de un menor en un video sexualmente explícito”.

IMPLICACIONES LEGALES Y ÉTICAS

Las implicaciones legales y éticas de la creación y difusión de deepfakes dependen en gran medida del uso que se les dé. “Imagínate que un periodista publica un video de estas características sabiendo que es falso, las implicancias éticas no serían las mismas que si un particular lo comparte en un grupo de WhatsApp”, señala Liceda, para quien es crucial analizar cada caso en particular para determinar qué derechos se afectan, qué perjuicios se generan y quiénes son las víctimas.

La tecnología de deepfake presenta desafíos significativos para su abordaje legal

“Hay que tener en cuenta que no todo perjuicio es un delito penal. Solo lo son aquellos tipificados como tales por las leyes”, señala Liceda, añadiendo que en el ámbito civil la situación cambia radicalmente debido a un mayor ámbito de protección. “Nadie puede utilizar mi imagen sin mi consentimiento, y de hacerlo daría lugar a una reparación por los daños morales y materiales que genere”.

RECURSOS LEGALES DISPONIBLES

En términos de recursos legales para las víctimas de delitos de deepfake, el abogado menciona que “los recursos son los comunes a todo delito, dependerá de cuál sea el bien jurídico afectado”. Esto subraya la necesidad de evaluar cada caso individualmente para determinar la mejor vía legal a seguir.

Finalmente, al preguntarle sobre la eficacia de las leyes actuales en la prevención y persecución de los delitos de deepfake, Liceda reflexiona que “esta pregunta es como para un trabajo de varias páginas”. Reconoce que estamos ante un fenómeno relativamente nuevo que puede ser usado de diversas maneras, pero destaca que “en la mayoría de los casos, no genera nuevas situaciones jurídicas que no encuentre respuesta en nuestro marco normativo”.

Aunque la tecnología de deepfake presenta desafíos significativos, las herramientas legales existentes proporcionan una base sólida para abordar sus usos indebidos. Sin embargo, a medida que esta tecnología evoluciona, también deberá hacerlo el marco regulatorio que la gobierna.