Nueva York. Investigadores, ejecutivos de la tecnología, políticos y ganadores del Premio Nobel hicieron un llamado conjunto para establecer un marco regulatorio que fije límites en el uso de la inteligencia artificial (IA).
Más de 200 figuras prominentes, incluidos 10 laureados con el Nobel y científicos que trabajan en gigantes de la IA como Anthropic, Google DeepMind, Microsoft y OpenAI, firmaron una carta publicada al inicio de la sesión de la Asamblea General de Naciones Unidas en Nueva York.
Peligros sin precedente
“La IA tiene un inmenso potencial para mejorar el bienestar humano, pero su trayectoria actual presenta peligros sin precedente”, asegura el grupo de científicos y expertos, quienes aclaran que deben fijarse líneas rojas que funcionen como prohibiciones internacionales consideradas demasiado riesgosas en cualquier circunstancia.
Las líneas rojas de la IA serían prohibiciones internacionales acordadas sobre usos considerados demasiado riesgosos bajo cualquier circunstancia, según los firmantes.
Los ejemplos dados incluían confiar en sistemas de IA para comandar arsenales nucleares o cualquier tipo de sistema autónomo de armas letales.
Plantean además líneas rojas sobre permitir que la IA se utilice para vigilancia masiva, puntuación social, ciberataques o suplantación de personas.
Instaron a los gobiernos a tener líneas rojas sobre la inteligencia artificial establecidas para finales del próximo año, dado el ritmo al que avanza la tecnología, con el fin de prevenir efectos devastadores para la humanidad.
En la misiva también exigen una colaboración entre líderes mundiales para llegar a “acuerdos internacionales sobre líneas rojas para la inteligencia artificial”.
“La IA podría pronto superar con creces las capacidades humanas y escalar riesgos como pandemias diseñadas, desinformación generalizada, manipulación (...) y violaciones sistemáticas de los derechos humanos”, afirman.
Una de las personalidades que forman parte de este grupo es Yoshua Bengio, ganador del Premio Turing 2018 (el galardón más importante de las Ciencias de la Computación) y reconocido como uno de los padres de la inteligencia artificial. Opina que “la carrera actual hacia sistemas de IA cada vez más capaces y autónomos plantea grandes riesgos para nuestras sociedades y necesitamos urgentemente la colaboración internacional para abordarlos. Establecer líneas rojas es un paso crucial para prevenir riesgos inaceptables”.
Algunos de esos riesgos es que, cada vez más, esta herramienta tecnológica continúe ganando autonomía. Lo que buscan este centenar de figuras es que los gobiernos tomen decisiones que permitan controlar la IA antes de que sea más difícil su supervisión.
