l lunes 8 de diciembre, el presidente de la Junta de Coordinación Política (Jucopo) del Senado, Adán Augusto López Hernández, envió un extrañamiento al departamento de Relaciones Gubernamentales y Política Pública de Google México por permitir la difusión de una campaña en la que se suplanta la identidad de la presidenta Claudia Sheinbaum mediante inteligencia artificial, a fin de defraudar a la ciudadanía. El legislador resaltó que los mensajes denunciados forman parte de “una campaña pagada por alguien, con el consentimiento y beneficio económico” de la tecnológica, y alertó sobre el “peligro que representan a la privacidad, la identidad y los recursos económicos de quienes sean víctimas de tal manipulación, pues nada de lo mencionado está basado en la verdad”. Tres días después, la compañía informó al Senado que eliminó todos los “anuncios infractores” y se comprometió a “continuar monitoreando activamente la situación y aplicar medidas firmes en caso de detectar nuevos contenidos que violen sus políticas”.
No es la primera vez que se produce este tipo de situaciones. Hace justamente dos años, este diario informó sobre la difusión de videos modificados con inteligencia artificial, en los cuales se usaban imágenes del presidente Andrés Manuel López Obrador y de Petróleos Mexicanos para invitar a los ciudadanos a invertir en una ficticia plataforma de inversiones de la paraestatal; es decir, lo mismo que ha ocurrido con la mandataria, pero ahora con un nivel mucho mayor de sofisticación técnica. La evolución de esta modalidad de fraude ilustra el riesgo creciente de la inteligencia artificial conforme los distintos modelos de esta herramienta generan contenidos audiovisuales cada vez más difíciles de distinguir de la realidad. La amenaza del uso de la IA con la intención de suplantar a figuras políticas puede analizarse desde dos grandes vertientes. Por un lado, como en los casos descritos, los internautas pueden perder su patrimonio y hasta poner en riesgo su integridad física al caer en estafas facilitadas por la confianza en los personajes e instituciones suplantados. En este sentido, es urgente reforzar la educación digital de personas de todas las edades y estratos socioeconómicos a fin de ayudarles a diferenciar entre ofertas verídicas y apócrifas.
La segunda perspectiva supone un peligro para la sociedad en su conjunto y para la estabilidad del Estado mexicano. Los políticos, personas de negocios, comunicadores, agencias de mercadotecnia y consultoras dedicados a la creación y difusión de noticias falsas tienen en la IA un arma nunca vista para implantar narrativas engañosas y manipular a la opinión pública. Incluso si posteriormente se prueba el carácter apócrifo de un video o una imagen alterada, los principios de la propaganda indican que es más fácil engañar que sacar a alguien de su engaño.
Dentro de esta vertiente debe contemplarse también que una autoridad electoral parcial y militante, como lo fue el INE en las manos de Lorenzo Córdova, legitime anuncios falsos con la intención de descarrilar candidaturas y favorecer a los grupos que les son afines. Debe recordarse que, en el marco normativo actual, para anular una candidatura basta con un spot difundido fuera de tiempo o no incluido en los reportes financieros de una campaña.
El gran obstáculo para combatir estos riesgos no es técnico, sino económico, pues los anuncios fraudulentos dejan miles de millones de dólares a las grandes tecnológicas. Hace sólo unos días, se dio a conocer que Meta (matriz de Facebook, Instagram y WhatsApp) obtiene alrededor de 10 por ciento de sus ingresos de publicidades que muestran claros indicios de estafa o comercialización de productos prohibidos, como juego ilegal, inversiones ilícitas o premios inexistentes.
Aunque la compañía afirma hacer todo lo posible contra el fraude publicitario, sus documentos internos la desmienten: mientras los usuarios se ven expuestos a 15 mil millones de anuncios de este tipo al día, sólo se han eliminado 134 millones en lo que va del año. No sólo no hace lo suficiente, sino que impide a sus empleados hacerlo: éstos tienen prohibido actuar contra publicidad que reporte ingresos sustanciales a Meta, lo cual muestra que al menos este gigante tecnológico privilegia sus ganancias sobre la seguridad de sus usuarios y el cumplimiento de la ley.
Ante el creciente uso de la tecnología para potenciar actividades ilícitas y el evidente desinterés de la iniciativa privada en proteger a los internautas, queda claro que las autoridades deben tomar cartas en el asunto mediante regulaciones y sanciones de una severidad que disuada a las empresas de mirar hacia otro lado cuando sus plataformas son empleadas con fines maliciosos.
