Lo que se pretende es “resolver este problema” en un plazo de cuatro años. El nuevo grupo de trabajo estará dirigido por el cofundador de OpenAI, Ilya Sutskever, y Jan Leike, un alto ejecutivo de la empresa. “El enorme poder de la superinteligencia también podría ser muy peligroso y conllevaría a la pérdida de poder de la humanidad o, incluso, a la extinción humana”, reza el documento. “Actualmente, no tenemos una solución para dirigir o controlar una IA potencialmente superinteligente y evitar que se vuelva rebelde”, agrega.

Aunque esta nueva tecnología parece todavía muy lejana, podría materializarse durante esta década. Por esta razón, es necesario el desarrollo de técnicas más avanzadas para poder controlar a la IA superinteligente, señala la publicación. “Nuestro objetivo es desarrollar un investigador de alineamiento automatizada a nivel humano”, agrega, aclarando que esta herramienta se centraría en garantizar que la IA siga siendo beneficiosa para las personas.

El portavoz indicó que Tokio continuaría evaluando las posibilidades de introducir la inteligencia artificial para reducir la carga de trabajo de los funcionarios gubernamentales y que seguía analizando cómo responder a preocupaciones como las filtraciones de datos. En cuanto a la prohibición de ChatGPT en Italia, Matsuno dijo que el Gobierno japonés estaba al tanto de las acciones de otros países.

A finales de marzo, las autoridades italianas restringieron temporalmente el acceso a ese chatbot, al sospechar que su desarrollador, la empresa estadounidense OpenAI, recopilaba ilegalmente datos personales de sus usuarios. Alemania también podría prohibir el uso de ChatGPT por problemas de privacidad.

Los comentarios de Hirokazu Matsuno tuvieron lugar antes de que el primer ministro japonés, Fumio Kishida, se reuniera esta misma jornada con el director ejecutivo de OpenAI, Sam Altman, que se encuentra de visita en Japón. Previamente, Altman había dicho que su compañía estaba “considerando abrir una oficina” en el país asiático, reportó RT.