La Comisión de Derechos Humanos de la Ciudad de México (CDH) se manifestó en contra de criminalizar el uso de la inteligencia artificial (IA) para generar videos, imágenes o audios que vulneren a terceros, al advertir que ese tipo de acciones afectarían otras garantías, entre ellas la libertad de expresión, tanto individual como colectiva.

En una opinión técnico-jurídica a la iniciativa del Congreso local que propone sancionar con hasta ocho años de cárcel los llamados ultraengaños (deepfakes), la presidenta del organismo, Nashielli Ramírez, consideró que los mecanismos de protección y acceso a la justicia para personas perjudicadas por ese tipo de contenidos deben abordarse desde un enfoque alternativo al de la criminalización, que abarquen medidas administrativas y civiles.

Si bien reconoce que el uso de la IA puede facilitar la suplantación de identidad, la explotación comercial no consentida, la difamación y la violación de la privacidad e intimidad de terceros, también puede aportar beneficios significativos para las personas al permitir la representación de expresiones artísticas, satíricas o críticas políticas que enriquecen el debate público y fortalecen la libertad de expresión.

De esa manera, plantea la posibilidad de imponer obligaciones a plataformas digitales para detectar y etiquetar ese tipo de contenido –como ocurre en la legislación europea, donde estos contenidos debe acompañarse de una etiqueta en la que se indique su origen artificial–, así como sanciones a personas que las hayan generado en los casos de daño comprobable, el marco actual de responsabilidad civil permite demandar una reparación del daño por la vulneración a derechos personalísimos, como la imagen y el honor.

En el caso de deepfakes que afecten de manera desproporcionada a mujeres, menores y adolescentes, sobre los que se exige un estándar de protección distinto, la comisionada estima conveniente evitar la creación de nuevos tipos penales e integrarlo a los delitos ya previstos relacionados con la intimidad sexual.

Agregó que el uso del derecho penal para combatirlos se debe analizar dentro de un marco de protección que ofrece la libertad de expresión y el principio de ultima ratio, según el cual el derecho penal sólo debe emplearse como medida extrema para casos en los que exista un daño real y comprobable, evitando criminalizar expresiones legítimas.