OpenAI, Anthropic y Google preparan organismo para supervisar riesgos de IA

OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de estándares y supervisión para evaluar los riesgos de los sistemas de inteligencia artificial (IA), informó OpenAI a la AFP este martes 15 de septiembre de 2026. La propuesta surge mientras aumentan las advertencias sobre el desarrollo acelerado de modelos avanzados.

La iniciativa busca establecer mecanismos comunes para analizar la seguridad de los modelos de IA más avanzados y llega en un momento en que distintos investigadores y ex trabajadores de grandes laboratorios han advertido sobre posibles escenarios de riesgo.

¿Qué organismo buscan crear las empresas de IA?

La propuesta contempla un organismo dedicado a establecer estándares para la seguridad de la IA y evaluar los modelos antes de su despliegue.

La idea tiene como antecedente una propuesta presentada en julio de 2026 por Demis Hassabis, director ejecutivo de Google DeepMind, quien planteó crear una institución inspirada en la Financial Industry Regulatory Authority (FINRA) de Estados Unidos.

FINRA es una organización de autorregulación del sector financiero estadounidense. Hassabis propuso trasladar parte de ese modelo al desarrollo de los sistemas de IA de frontera, con evaluaciones técnicas de los modelos antes de que sean puestos a disposición del público.

De acuerdo con la propuesta, los laboratorios podrían compartir voluntariamente sus modelos con el organismo hasta 30 días antes de su lanzamiento, con el objetivo de someterlos a pruebas de seguridad. Posteriormente, el esquema podría formalizarse.

Hassabis también planteó que la industria aportara buena parte del financiamiento y que la organización contara con expertos técnicos y capacidad de cómputo suficiente para realizar pruebas a gran escala.

Crecen las advertencias sobre los riesgos de la IA

El anuncio ocurre después de una serie de advertencias provenientes de investigadores y antiguos trabajadores de compañías dedicadas al desarrollo de inteligencia artificial.

Uno de ellos es Jacob Coxon, quien dejó Anthropic recientemente y afirmó que las empresas del sector están asumiendo riesgos que podrían afectar a la sociedad. También Bilal Chughtai, antiguo investigador de Google DeepMind, expresó públicamente su preocupación por las posibilidades de que los sistemas de IA alcancen capacidades difíciles de controlar.

Chughtai dejó Google DeepMind en julio de 2026, después de trabajar en investigación relacionada con seguridad y alineación de sistemas de IA.

Las advertencias se suman a un debate que ya involucra a los principales desarrolladores del sector: mientras algunos directivos consideran necesario establecer mecanismos de seguridad más estrictos, otros defienden mantener el ritmo de desarrollo para evitar que China tome ventaja tecnológica.

Dario Amodei pide desacelerar el desarrollo

El debate aumentó después de que Dario Amodei, director ejecutivo de Anthropic, pidiera una desaceleración coordinada del desarrollo de la IA para comprender mejor los riesgos asociados con las capacidades de los modelos más avanzados.

La postura recibió respaldo de figuras como Sam Altman, director ejecutivo de OpenAI, y Demis Hassabis, entre otros líderes tecnológicos.

La discusión se centra particularmente en los llamados modelos de frontera, sistemas cada vez más capaces de realizar tareas de manera autónoma, interactuar con herramientas digitales y ejecutar procesos de varios pasos.

Estos avances también han llevado a organismos como FINRA a identificar riesgos relacionados con los agentes de IA, entre ellos la autonomía sin validación humana, la dificultad para auditar sus procesos y la posibilidad de que actúen fuera del alcance previsto por sus usuarios.

Trump rechaza frenar el desarrollo de la IA

Mientras las empresas tecnológicas discuten mecanismos de supervisión, el presidente de Estados Unidos, Donald Trump, mantiene una posición contraria a desacelerar el desarrollo del sector.

El 14 de septiembre, Trump calificó como una “patraña” las advertencias de que la inteligencia artificial podría tomar el control del mundo o destruir a la humanidad. También acusó de formar parte de una “conspiración enfermiza” a quienes cuestionan el desarrollo de esta tecnología.

El mandatario ha defendido que Estados Unidos mantenga su ventaja tecnológica frente a China, argumento que también aparece en el debate sobre posibles regulaciones.

La postura de la Casa Blanca contrasta con las peticiones de algunos líderes de la industria, quienes consideran que establecer reglas y mecanismos de evaluación no necesariamente implica detener el desarrollo de la inteligencia artificial.

Una supervisión todavía en construcción

Por ahora, el organismo planteado por OpenAI, Anthropic y Google DeepMind se encuentra en proceso de discusión y no equivale a una nueva autoridad gubernamental con facultades legales.

El modelo propuesto apuesta inicialmente por la coordinación de la industria, evaluaciones técnicas y estándares comunes, aunque el debate también contempla la participación futura de autoridades públicas.

El reto será determinar quién establece los criterios, cómo se realizan las pruebas y qué consecuencias tendría que un modelo no supere una evaluación de seguridad.

Mientras tanto, la carrera por desarrollar sistemas de IA cada vez más capaces continúa, al mismo tiempo que aumenta la presión para establecer mecanismos que permitan identificar y reducir sus riesgos antes de que lleguen a millones de usuarios.