El avance acelerado de la inteligencia artificial plantea un desafío que, según Sam Altman, ya no puede abordarse únicamente desde las empresas o desde las regulaciones de cada país. El consejero delegado de OpenAI planteó la necesidad de establecer estándares internacionales de seguridad para la IA y advirtió que la dispersión de normas entre países podría dificultar la respuesta ante sistemas cada vez más capaces y autónomos.
La propuesta fue difundida por Altman en la red social X y forma parte de un artículo que escribió junto con Jakub Pachocki, científico jefe de OpenAI, publicado en el sitio web de la compañía. Ambos sostienen que el desarrollo de sistemas avanzados requiere mecanismos de cooperación internacional que permitan establecer criterios técnicos comunes, sin que los gobiernos tengan que renunciar a su autoridad nacional.
Para explicar el tipo de coordinación que consideran necesario, los responsables de OpenAI recurren a sectores como la aviación y las finanzas. En esas áreas, distintos países han desarrollado estándares técnicos y mecanismos de cooperación que permiten compartir información y establecer reglas comunes, aun cuando cada Estado conserva sus propias instituciones y facultades regulatorias.
OpenAI advierte sobre una regulación fragmentada
Uno de los problemas que identifican Altman y Pachocki es la creciente fragmentación normativa. Los gobiernos están desarrollando marcos diferentes para regular la inteligencia artificial, mientras las empresas tecnológicas operan y desarrollan productos que pueden atravesar múltiples jurisdicciones.
Desde la perspectiva planteada por los ejecutivos de OpenAI, la existencia de estándares internacionales permitiría establecer un nivel común de exigencia técnica para los desarrolladores de sistemas avanzados. La intención sería que las compañías no trabajen con criterios de seguridad completamente distintos dependiendo del país en el que operen.
En su propuesta, Estados Unidos tendría un papel central en la creación de esos estándares, mediante organismos especializados como el Centro de Estándares e Innovación en Inteligencia Artificial y a través de la cooperación con institutos de seguridad que están surgiendo en diferentes partes del mundo.
Entre los países mencionados por los autores se encuentran Australia, Canadá, Alemania, Francia, Kenia, Japón, Corea del Sur, Singapur, India y Reino Unido, cuyos gobiernos han impulsado distintas iniciativas relacionadas con la seguridad y la gobernanza de la inteligencia artificial.
Altman también pide limitar la concentración de poder
La propuesta de regulación internacional no es el único aspecto destacado del documento. Altman y Pachocki consideran que las decisiones sobre el futuro de la inteligencia artificial no deberían quedar exclusivamente en manos de los grandes laboratorios tecnológicos.
Los autores plantean que personas ajenas a las empresas que desarrollan IA deben tener una participación real en la toma de decisiones. Según su planteamiento, incorporar a otros sectores permitiría reducir la concentración de poder y contribuiría a mantener un entorno competitivo.
La discusión adquiere especial importancia a medida que las compañías desarrollan modelos con mayores capacidades y autonomía. Para los responsables de OpenAI, la gobernanza de estas tecnologías no puede depender únicamente de quienes tienen la capacidad técnica y económica para construirlas.
El planteamiento también se relaciona con la preocupación de Altman por el ritmo de desarrollo de los modelos más avanzados. El directivo ha defendido recientemente la necesidad de ralentizar determinados avances y de coordinar medidas de seguridad con otras empresas del sector, una posición que sitúa la cooperación entre laboratorios como uno de los elementos de la estrategia para reducir riesgos.
Tres objetivos para una inteligencia artificial general
En el documento, Altman y Pachocki plantean que el desarrollo de una inteligencia artificial general debería orientarse hacia tres grandes objetivos. El primero consiste en desarrollar un investigador de IA automatizado enfocado en problemas de alineación y control humano.
La alineación se refiere, en términos generales, a la investigación destinada a conseguir que los sistemas de inteligencia artificial actúen de acuerdo con los objetivos establecidos por las personas y permanezcan sujetos a mecanismos efectivos de supervisión.
El segundo objetivo es aprovechar la tecnología para impulsar el progreso científico y el crecimiento económico. Los autores sostienen que los sistemas de IA ya están contribuyendo a acelerar descubrimientos en campos como las matemáticas y la medicina, y consideran que esas capacidades podrían aumentar conforme los modelos se vuelvan más sofisticados.
El tercer punto consiste en empoderar a las personas mediante modelos personalizados, de modo que los beneficios de la inteligencia artificial no se concentren únicamente en las empresas o instituciones que desarrollan la tecnología.
El riesgo de una IA capaz de mejorarse a sí misma
Uno de los escenarios que más preocupa a los responsables de OpenAI es el aumento de la autonomía de los sistemas. A medida que la IA puede asumir una proporción mayor de las tareas relacionadas con el desarrollo tecnológico, aparece la posibilidad de acelerar el proceso mediante lo que denominan “auto-mejora recursiva”.
La idea describe un escenario en el que sistemas de inteligencia artificial pueden contribuir al desarrollo de nuevas generaciones de sistemas más capaces, que a su vez podrían participar en nuevos ciclos de investigación y desarrollo.
Altman y Pachocki advierten que un proceso de este tipo requeriría especial precaución. Si el ritmo de mejora supera la capacidad humana para comprender y supervisar los sistemas resultantes, podría aumentar la dificultad para determinar por qué toman determinadas decisiones o para corregir comportamientos que no coincidan con los objetivos establecidos.
Por ello, los autores consideran que la investigación sobre alineación, control y seguridad debe avanzar al mismo tiempo que las capacidades de los modelos. En su planteamiento, el objetivo no es únicamente desarrollar sistemas más potentes, sino asegurar que el aumento de sus capacidades vaya acompañado de mecanismos capaces de mantener una supervisión humana efectiva.
La propuesta busca una coordinación que vaya más allá de OpenAI
El llamado de Altman se produce en medio de una discusión internacional cada vez más amplia sobre cómo establecer reglas para tecnologías que evolucionan a un ritmo diferente al de los procesos legislativos tradicionales.
Para OpenAI, los estándares internacionales podrían establecer un piso técnico común para la seguridad de los sistemas más avanzados y facilitar la cooperación entre gobiernos, instituciones científicas y empresas. La propuesta no plantea sustituir las leyes nacionales, sino complementar esas regulaciones con criterios técnicos compartidos.
El desafío consiste en encontrar un equilibrio entre innovación, competencia, seguridad y supervisión pública. Mientras los sistemas de IA incorporan mayores niveles de autonomía y pueden participar en tareas cada vez más complejas, la discusión sobre quién debe establecer los límites y cómo garantizar que sean respetados adquiere una dimensión internacional.
En ese escenario, Altman y Pachocki sostienen que la cooperación entre países y laboratorios será necesaria para evitar que la fragmentación regulatoria avance al mismo ritmo que la tecnología. Su propuesta coloca así la creación de estándares internacionales de seguridad en el centro de una discusión que ya no se limita al futuro de las empresas de inteligencia artificial, sino que abarca la forma en que los gobiernos y las sociedades podrán supervisar una tecnología con capacidad creciente para transformar la ciencia, la economía y la vida cotidiana.
Charles Spencer reabre las heridas de Diana y lanza nuevas acusaciones contra la familia real
Luis Miguel confirma su regreso: el cantante prepara una nueva gira para 2027
Gianni Infantino abre la puerta a una revisión externa de la FIFA