°C -
|

La Jornada

Últimas noticias
Anuncio
Anuncio

Musk Foundation pide pausar entrenamiento de IA de Microsoft

Logotipo de OpenAI. Foto Ap
Logotipo de OpenAI. Foto Ap
29 de marzo de 2023 18:56

Un grupo de expertos en inteligencia artificial financiada principalmente por la Musk Foundation y ejecutivos del sector, pidieron una pausa de seis meses en el entrenamiento de sistemas más potentes que el recién lanzado modelo GPT-4 de OpenAI. En una carta abierta, aluden a posibles riesgos para la sociedad y la humanidad.

A principios de este mes, el programa respaldado por Microsoft que se denomina OpenAI, presentó la cuarta versión de su programa de IA GPT (Generative Pre-trained Transformer), que ha cautivado a los usuarios por generar conversaciones similares a las humanas, composición de canciones y el resumen de documentos extensos.

“Los potentes sistemas de IA solo deberían desarrollarse cuando estemos seguros de que sus efectos serán positivos y sus riesgos controlables”, afirma la carta publicada por el Future of Life Institute. La organización sin ánimo de lucro financiada principalmente por Musk, así como por el grupo londinense Founders Pledge y la Silicon Valley Community Foundation, según el registro de transparencia de la Unión Europea.

La carta fue firmada por más de mil personas, entre ellas Elon Musk. Sam Altman, presidente ejecutivo de OpenAI, no estaba entre ellos, ni tampoco Sundar Pichai y Satya Nadella, presidentes ejecutivos de Alphabet y Microsoft.

Esta preocupación coincide con la atención de los legisladores estadounidenses sobre ChatGTP por su posible impacto en la seguridad nacional y la educación. Europol, la policía de la UE, advirtió el lunes del posible uso indebido del sistema en intentos de desinformación y ciberdelincuencia.

Por su parte, OpenAI no respondió de inmediato a una solicitud de comentarios sobre la carta abierta, que instó a una pausa en el desarrollo avanzado de IA hasta que haya protocolos de seguridad compartidos de expertos independientes y desarrolladores que trabajen con los responsables políticos en la gobernanza.

Imagen ampliada

Astrónomos captan el nacimiento de un sistema solar por primera vez

Ubicada en la nebulosa de Orión, a mil 300 años luz, HOPS-315 es una joven estrella que se parece mucho al Sol en sus inicios.

Nacen primeros bebés en Reino Unido con ADN de tres padres

La técnica experimental ayuda a las madres a evitar transmitir enfermedades raras y devastadoras a sus hijos, informaron investigadores.

Secretaría de Ciencias llama a universidades a sumarse a proyectos de innovación

La titular de la Secihti explicó que actualmente labora en el desarrollo de semiconductores, indispensables para la fabricación de equipos tecnológicos.
Anuncio