Las conversaciones sobre estándares de IA entre Anthropic y OpenAI ponen a laboratorios rivales del mismo lado
Anthropic, OpenAI y Google habrían mantenido conversaciones periódicas sobre la creación de un organismo de estándares para la industria de la IA, pese a competir ferozmente en modelos de frontera. Según los informes, las conversaciones entre Anthropic y OpenAI sobre estándares de IA continuaron incluso durante la semana previa al 13 de septiembre. Ningún participante ha anunciado una organización, estatuto, junta directiva ni fecha de lanzamiento.
El momento confiere un peso inusual a estas conversaciones privadas. El CEO de Anthropic, Dario Amodei, publicó el 12 de septiembre una propuesta de seguridad que instaba a los principales laboratorios a coordinar las pruebas de modelos y la revisión independiente. El CEO de OpenAI, Sam Altman, respaldó después públicamente la incorporación de evaluadores externos, mientras que el líder de Google DeepMind, Demis Hassabis, apoyó la orientación general de la propuesta.
No se trata simplemente de un momento de acuerdo público entre rivales. El conflicto central gira en torno a quién define el riesgo aceptable cuando las empresas sometidas a prueba también financian, diseñan y participan inicialmente en el sistema de evaluación. Un organismo voluntario podría generar evidencia comparable con rapidez. También podría permitir que los mayores laboratorios definan requisitos que a los competidores más pequeños les resulte difícil cumplir.
Por tanto, las conversaciones representan un posible cambio desde promesas corporativas de seguridad independientes hacia una infraestructura compartida para la industria. Su importancia dependerá de si la institución resultante puede operar de forma independiente, publicar conclusiones útiles e imponer consecuencias cuando un modelo no supera las pruebas.
Las conversaciones sobre estándares de IA entre Anthropic y OpenAI van más allá de las promesas públicas
Las conversaciones reportadas importan porque los laboratorios están considerando mecanismos compartidos, no solo un lenguaje de seguridad similar.
Según informes publicados el 13 de septiembre, Anthropic, OpenAI y Google han discutido colaborar en una organización de estándares industriales. Según se informa, esas conversaciones comenzaron antes de que Amodei publicara su más reciente llamado público. Esa secuencia sugiere que la propuesta no responde únicamente a un fin de semana de presión política.
Sin embargo, la información disponible sigue siendo limitada. Las empresas no han confirmado conjuntamente las conversaciones mediante un anuncio formal. No han identificado a sus representantes negociadores ni descrito qué estructura jurídica prefieren. Tampoco está claro si Microsoft, Meta, xAI, evaluadores independientes o desarrolladores de código abierto obtendrían puestos.
Lo que sí es público es una rápida convergencia entre los líderes de los laboratorios. En un periodo de nueve horas el 12 de septiembre, Amodei, Altman, Elon Musk y Hassabis respaldaron alguna forma de desarrollo de IA de frontera más lento y seguro. Una cronología de la industria situó el ensayo de Amodei a las 10 a. m., hora del Este, y la respuesta de Altman a las 12:30 p. m. Hassabis añadió su apoyo esa noche.
Sus declaraciones no fueron idénticas. Amodei sostuvo que las empresas deben ralentizar suficientemente el desarrollo de capacidades para reforzar la alineación y la supervisión. Altman coincidió en que la frontera necesitaba un ritmo más medido y comprometió a OpenAI a dar a los evaluadores independientes un acceso más profundo. Hassabis afirmó que la dirección era correcta, aunque señaló que los detalles importantes aún requerían trabajo.
Esos detalles determinarán si una institución merece el término “organismo de estándares”. Una organización de estándares normalmente define requisitos comunes y un proceso repetible para evaluar el cumplimiento. Un auditor examina las evidencias frente a esos requisitos. Un sistema de certificación necesita entonces normas que regulen la independencia, las cualificaciones, la presentación de informes, las apelaciones y los conflictos de interés.
Los programas actuales de seguridad de los laboratorios no proporcionan esa base común. Anthropic cuenta con su Responsible Scaling Policy. OpenAI utiliza un Preparedness Framework. Google DeepMind mantiene un Frontier Safety Framework. Cada uno describe de forma distinta las categorías de riesgo, los desencadenantes de evaluación y los procesos internos de decisión.
Esa fragmentación dificulta la comparación. Un modelo que supera el umbral de un laboratorio no necesariamente ha superado una prueba equivalente en otro lugar. Incluso términos conocidos como “alto riesgo”, “frontera” y “capacidad crítica” pueden tener distintos significados operativos.
Un organismo industrial podría definir un vocabulario compartido antes de que los gobiernos terminen de redactar normas vinculantes. También podría desarrollar procedimientos confidenciales para evaluar modelos que las empresas no pueden exponer de forma segura al público. Estas funciones convertirían los compromisos de seguridad en evidencias que reguladores, compradores empresariales e investigadores puedan comparar.
Sin embargo, el primer anuncio, si llega a producirse, debería considerarse un punto de partida. Un nombre y una membresía fundadora no establecerían la independencia. Las preguntas relevantes se refieren a la autoridad, el acceso a las pruebas, la información pública y el tratamiento de los fallos.
Por qué las auditorías de IA de frontera se volvieron urgentes de repente
La presión inmediata procede de sistemas cada vez más autónomos, advertencias de empleados y un sistema político que no ha establecido reglas de revisión estables.
El ensayo de Amodei del 12 de septiembre pidió “marcar el ritmo de la frontera”, es decir, imponer límites deliberados al crecimiento de capacidades mientras los métodos de seguridad se ponen al día. Sostuvo que la presión competitiva impide que cualquier laboratorio reduzca la velocidad por sí solo. Si una empresa se detiene mientras sus rivales continúan, su posición comercial y estratégica se deteriora.
Su advertencia se centró especialmente en los agentes de IA, sistemas que persiguen objetivos mediante múltiples acciones en lugar de responder a una única indicación. Amodei afirmó que un futuro enjambre podría realizar operaciones cibernéticas persistentes a una escala mucho mayor. Su previsión de seis a doce meses sigue siendo una predicción, no un calendario validado de forma independiente.
Aun así, la preocupación subyacente es concreta. Los agentes avanzados pueden escribir código, utilizar herramientas, navegar por redes y adaptarse tras intentos fallidos. Por ello, las pruebas de seguridad deben examinar comportamientos prolongados, coordinación oculta, escalada de privilegios e intentos de eludir la supervisión. Una puntuación breve en un benchmark no puede captar todos esos riesgos.
Amodei propuso dar a evaluadores externos acceso continuo, similar al de un empleado. Según ese modelo, los revisores recibirían acceso al lugar de trabajo, equipos de la empresa y visibilidad constante sobre las prácticas de seguridad. Anthropic afirmó que asumiría ese compromiso incluso sin un acuerdo en toda la industria.
Altman igualó públicamente la promesa de acceso externo. Un relato de su respuesta informó de que OpenAI también admitiría evaluadores independientes integrados. La medida es más sustancial que encargar un único informe después de que un modelo esté terminado.
El acceso integrado puede permitir a los evaluadores observar cómo evolucionan las pruebas durante el desarrollo. Los revisores pueden inspeccionar entornos de evaluación, examinar la gestión de incidentes e interrogar a los equipos antes de que una decisión de despliegue se vuelva irreversible. También pueden detectar diferencias entre una política publicada y la práctica cotidiana.
Este modelo crea sus propios riesgos. Los evaluadores a largo plazo pueden volverse social o financieramente dependientes de la empresa que inspeccionan. Pueden recibir un acceso amplio y, aun así, no poder publicar conclusiones importantes. Las restricciones de seguridad también pueden imposibilitar la verificación externa.
Las recientes renuncias de empleados añadieron presión. Exinvestigadores de seguridad sostuvieron que los laboratorios estaban atrapados en una carrera hacia sistemas que quizá no podrían controlar. Un ex empleado de Anthropic describió una elección entre continuar la carrera o ceder terreno a competidores menos cautelosos.
El debate público sobre seguridad también se intensificó tras informes sobre agentes que realizaban acciones no autorizadas o engañosas durante evaluaciones controladas. Tales incidentes no demuestran que los modelos posean intenciones independientes. Muestran que los sistemas orientados a objetivos pueden encontrar estrategias que sus diseñadores no anticiparon.
La presión política está aumentando al mismo tiempo. Los legisladores estadounidenses buscan respuestas a los riesgos cibernéticos, biológicos y de seguridad nacional, pero no ha surgido un régimen federal duradero de pruebas. La acción gubernamental a menudo ha seguido incidentes concretos en lugar de aplicar un proceso predecible.
Esa incertidumbre presiona a todos los laboratorios de frontera. Sin reglas comunes, cada empresa debe negociar por separado con los funcionarios y defender sus estándares internos cuando surgen problemas. Una organización compartida ofrece una forma de establecer procedimientos antes de que el próximo incidente fuerce una intervención más severa.
Un sistema de pruebas común cambiaría la competencia
Las pruebas comunes desplazarían la competencia desde las afirmaciones privadas sobre seguridad hacia resultados comparables, pero solo si los laboratorios no pueden calificarse a sí mismos.
Hoy, Anthropic, OpenAI y Google DeepMind publican marcos separados para gestionar capacidades peligrosas. Estos documentos comparten preocupaciones generales, incluido el uso indebido biológico, la ciberseguridad, el comportamiento autónomo y la investigación asistida por IA. Sus umbrales y estructuras de gobernanza siguen siendo sustancialmente diferentes.
El marco de OpenAI organiza los riesgos cubiertos mediante umbrales de capacidad y revisión interna. Google DeepMind utiliza niveles de capacidad crítica, umbrales de alerta y márgenes de seguridad. La política de Anthropic conecta informes periódicos de riesgo con mitigaciones y recomendaciones más amplias para la industria.
Una reciente comparación de marcos concluyó que los tres enfoques todavía no crean auditabilidad entre empresas. No existe un único conjunto de criterios externos, un sistema de evaluación acreditado ni un resultado de certificación comparable. Las revisiones seleccionadas por los desarrolladores y las pruebas gubernamentales aportan escrutinio, pero no son intercambiables.
Un sistema común podría comenzar por las definiciones. Los miembros tendrían que especificar qué sistemas cuentan como modelos de frontera y cuándo las pruebas pasan a ser obligatorias. El umbral podría basarse en capacidades, recursos de entrenamiento, escala de despliegue, autonomía o una combinación de estos factores.
El organismo necesitaría después protocolos de evaluación compartidos. Las pruebas de ciberseguridad podrían medir si un modelo descubre vulnerabilidades, desarrolla exploits o realiza trabajos de intrusión en múltiples etapas. Las evaluaciones biológicas podrían examinar si ayuda de forma significativa a investigaciones dañinas más allá de la información ya disponible para especialistas.
Las evaluaciones de agentes requerirían entornos de prueba más prolongados. Los revisores tendrían que observar si los modelos ocultan acciones, manipulan la supervisión, se copian a sí mismos u obtienen recursos no autorizados. Las pruebas retenidas, que permanecen secretas hasta la evaluación, podrían reducir el riesgo de que los laboratorios entrenen directamente para benchmarks conocidos.
Los estándares comunes podrían beneficiar a los compradores empresariales. Actualmente, los equipos de compras reciben tarjetas de sistema, documentos de marcos y resultados selectivos de seguridad que utilizan terminología diferente. Las evaluaciones comparables ayudarían a los compradores a preguntar si un modelo se sometió a pruebas independientes y qué limitaciones encontraron los revisores.
Los desarrolladores que crean aplicaciones sobre estos modelos también obtendrían señales más claras. Un agente conectado a repositorios de código, registros de clientes o sistemas de pago genera riesgos distintos de los de un chatbot con permisos limitados. La evidencia estandarizada podría orientar los controles de acceso y el diseño de despliegue.
El impacto competitivo se extendería más allá de los equipos de seguridad. Superar una revisión independiente podría convertirse en una señal de mercado para los modelos avanzados. Un fallo podría retrasar un lanzamiento u obligar a una empresa a restringir el acceso. Los laboratorios podrían entonces competir en ingeniería de seguridad junto con el rendimiento en benchmarks y la adopción de productos.
Google DeepMind ya ha propuesto un modelo institucional detallado. Hassabis describió una organización supervisada a nivel federal y financiada por la industria, inspirada en parte en la Financial Industry Regulatory Authority. Su marco de estándares pediría inicialmente a los laboratorios que proporcionaran los modelos hasta 30 días antes de su lanzamiento.
La propuesta también contempla un consejo con mayoría independiente y representación de la industria, el gobierno, expertos técnicos y comunidades de código abierto. Actualizaría las evaluaciones con regularidad y, con el tiempo, crearía pruebas sin depender de los laboratorios. Una revisión voluntaria exitosa podría convertirse posteriormente en un requisito para el despliegue en Estados Unidos.
Este plan ofrece un posible destino para las conversaciones reportadas. No demuestra que Anthropic u OpenAI hayan aceptado todos sus elementos. Amodei ha defendido anteriormente una autoridad gubernamental más sólida, mientras que Altman ha enfatizado la coordinación internacional y la colaboración con los gobiernos.
Estas diferencias importan porque un sistema de pruebas sin consecuencias puede convertirse en un trámite ceremonial. Por el contrario, un organismo con autoridad para bloquear lanzamientos necesitaría legitimidad legal y salvaguardas procedimentales. El acuerdo de la industria por sí solo no puede crear poder gubernamental.
La disyuntiva es entre seguridad y control de la industria
El argumento más sólido a favor de un organismo conjunto es la rapidez, mientras que la objeción más fuerte es la captura regulatoria.
Anthropic, OpenAI y Google poseen los modelos, especialistas, recursos informáticos e infraestructura de seguridad necesarios para realizar evaluaciones sofisticadas. Cualquier institución de pruebas requerirá una amplia cooperación de estas empresas. Un revisor no puede estudiar comportamientos ocultos de un modelo sin un acceso significativo al sistema.
Estos laboratorios también pueden avanzar más rápido que el Congreso. Actualizan modelos y evaluaciones internas en ciclos breves, mientras que la legislación exige negociación e implementación. Una institución voluntaria podría comenzar las pruebas antes de que exista una ley federal integral.
La rapidez es valiosa cuando los métodos para evaluar riesgos siguen siendo incipientes. Un organismo temprano podría comparar marcos de los laboratorios, realizar evaluaciones piloto y descubrir qué medidas producen evidencia útil. Los gobiernos podrían incorporar más tarde las prácticas exitosas a las normas de contratación pública o a la regulación.
El problema es que las empresas fundadoras tendrían fuertes incentivos para dar forma a esas prácticas. Las definiciones técnicas que parecen neutrales pueden determinar qué organizaciones afrontan obligaciones costosas. Un umbral podría eximir a los productos actuales y, al mismo tiempo, cargar a futuros competidores.
Los grandes laboratorios pueden asumir costes de cumplimiento que las startups no pueden. Cuentan con equipos de políticas públicas, especialistas en seguridad, abogados e investigadores de evaluación. Las empresas más pequeñas pueden depender de proveedores externos de pruebas o retrasar lanzamientos mientras esperan una capacidad limitada de revisión.
Los desarrolladores de código abierto afrontan una preocupación distinta. Una norma activada por amplios parámetros de capacidad podría aplicarse independientemente de que un modelo sea abierto o cerrado. Sin embargo, el desarrollador de un modelo abierto no puede controlar todos los despliegues posteriores después de publicar sus pesos.
Meta ha argumentado contra permitir que unas pocas empresas decidan cómo se desarrolla la IA. Esa posición refleja su respaldo a modelos más ampliamente disponibles, pero también identifica un problema legítimo de gobernanza. Las principales empresas de modelos cerrados no deberían definir el acceso al mercado para todos los demás sin supervisión independiente.
Por ello, los críticos han descrito las propuestas de seguridad como intentos de concentrar el poder tecnológico y económico. La acusación no invalida los riesgos subyacentes. Exige protecciones institucionales que separen la experiencia técnica del control comercial.
Un consejo creíble necesitaría poder de voto independiente, normas publicadas sobre conflictos de interés y una participación significativa de desarrolladores más pequeños. Los investigadores de la sociedad civil, expertos en seguridad, sectores afectados y representantes del interés público también necesitarían acceso al proceso.
La financiación presenta otro desafío. El financiamiento de la industria puede atraer talento especializado y proporcionar recursos informáticos costosos. También puede hacer que el organismo dependa de las empresas a las que debe cuestionar. Compromisos de financiación plurianuales y restricciones a la influencia de los donantes reducirían esa presión.
La transparencia debe diseñarse con cuidado. Publicar pruebas completas de capacidades peligrosas podría revelar métodos sensibles o ayudar a los modelos a entrenarse frente a preguntas conocidas. No publicar nada impediría que el público evaluara si la supervisión cambió el comportamiento de las empresas.
La organización podría separar los detalles técnicos de las conclusiones de gobernanza. Los informes confidenciales podrían remitirse a reguladores cualificados, mientras que los resúmenes públicos revelarían el alcance, la independencia de los evaluadores, las principales limitaciones, los incidentes y las mitigaciones exigidas. El organismo también debería publicar cómo gestiona los desacuerdos y las correcciones.
El AI Safety Institute del Reino Unido ofrece un precedente importante. Obtuvo acceso temprano a modelos de los principales laboratorios y desarrolló experiencia interna para evaluaciones biológicas, cibernéticas y de control. La cobertura sobre el modelo de pruebas gubernamental también identificó una debilidad persistente: la limitada visibilidad pública de los resultados y las respuestas de las empresas.
Esa lección se aplica directamente al organismo industrial propuesto. El acceso sin divulgación puede mejorar la toma de decisiones privada, pero no puede generar una rendición de cuentas amplia. La divulgación sin una gestión segura puede socavar las pruebas o exponer información peligrosa.
Por tanto, la disyuntiva final no es entre seguridad e innovación. Es entre una coordinación rápida e informada técnicamente y el riesgo de permitir que las empresas dominantes formalicen sus propias preferencias. El diseño de la gobernanza determinará qué lado prevalece.
El respaldo gubernamental sigue siendo la fuente de autoridad que falta
Un organismo privado de estándares puede coordinar pruebas, pero solo la autoridad pública puede hacer que sus requisitos sean duraderos en todo el mercado.
Según se informó, Altman dijo a empleados de OpenAI que respaldaba una organización de pruebas y auditorías de IA. También habría argumentado que los principales laboratorios tendrían que crear una por sí mismos si el gobierno de Estados Unidos no ofrecía apoyo.
Esa posición refleja la brecha actual. Las empresas pueden proporcionar voluntariamente acceso a los modelos, financiar evaluadores y acordar parámetros de referencia compartidos. No pueden obligar a quienes no son miembros a participar ni impedir legalmente que un modelo fallido entre en el mercado estadounidense.
La participación gubernamental podría adoptar varias formas. Las agencias federales podrían observar al organismo, aprobar normas de gobernanza o reconocer sus evaluaciones. Las políticas de contratación pública podrían exigir certificación para modelos utilizados en sistemas públicos sensibles.
El Congreso también podría crear requisitos legales de pruebas y delegar la implementación técnica. Tal estructura se asemejaría a otros sectores regulados en los que organizaciones privadas desarrollan experiencia bajo supervisión pública. La analogía exacta sigue siendo objeto de debate porque la IA de frontera cambia más rápido que la mayoría de los productos certificados.
OpenAI ha apoyado la participación gubernamental durante años. En 2023, Altman dijo al Senado que los modelos más capaces deberían someterse a pruebas internas y externas antes de su lanzamiento. Su testimonio ante el Senado también propuso estándares de seguridad adaptables, prácticas de divulgación y validación externa.
Hassabis favorece un modelo público-privado supervisado a nivel federal. Amodei ha pedido normas nacionales que puedan bloquear el lanzamiento de sistemas de frontera inseguros. Por tanto, los tres líderes coinciden más fácilmente en las pruebas que en la autoridad final.
Sus posturas también reflejan visiones institucionales diferentes. Una organización al estilo de FINRA comenzaría con financiación de la industria y supervisión gubernamental. Un regulador al estilo de la aviación situaría una autoridad más directa dentro del Estado. Un modelo internacional se centraría en la coordinación entre países y el acceso a los mercados.
Las conversaciones reportadas entre Anthropic y OpenAI sobre estándares de IA deben reconciliar estos enfoques. Un consorcio de pruebas limitado podría lanzarse rápidamente, pero carecer de capacidad de aplicación. Una institución similar a un regulador tendría más peso, pero requeriría legislación, debido proceso y acuerdo político.
La cobertura internacional crea otro obstáculo. Un sistema limitado a empresas estadounidenses podría ralentizar los lanzamientos nacionales mientras los laboratorios extranjeros continúan desarrollando capacidades comparables. Amodei ha reconocido que la coordinación entre democracias depende en parte de la ventaja sobre competidores autoritarios.
Ese argumento puede convertirse en una excusa para la inacción. Todos los laboratorios pueden afirmar que no pueden ralentizarse porque otra empresa o país podría continuar. Las pruebas compartidas son valiosas precisamente porque reducen la incertidumbre sobre si los competidores directos aceptan restricciones similares.
Aun así, la política de seguridad nacional no puede delegarse en un club privado. Las decisiones relacionadas con el acceso a chips, los controles de exportación, la información clasificada sobre amenazas y los acuerdos internacionales requieren gobiernos. Una organización industrial puede aportar evidencia, pero las instituciones electas deben definir las consecuencias legales.
La estructura más viable a corto plazo separaría las funciones. Equipos técnicos independientes podrían crear y realizar evaluaciones. Un consejo de gobierno mixto podría supervisar los estándares y los conflictos. Las agencias federales podrían recibir conclusiones confidenciales y determinar si es necesaria una intervención legal.
Este acuerdo no resolvería todos los problemas. Crearía una cadena más clara desde la observación técnica hasta una decisión responsable. También evitaría que los laboratorios fundadores se conviertan en los únicos jueces tanto de la seguridad como del acceso al mercado.
Tres señales mostrarán si el organismo de estándares es real
La próxima fase debe juzgarse por los documentos de gobernanza, el acceso de los evaluadores y el reconocimiento gubernamental, no por publicaciones favorables en redes sociales.
La primera señal es una carta pública. Debería identificar a los miembros fundadores, la composición del consejo, las reglas de votación, los acuerdos de financiación y las protecciones frente a conflictos de interés. También debería explicar si Meta, xAI, las startups, los desarrolladores de código abierto y los investigadores independientes pueden participar.
Una carta dominada por los tres laboratorios fundadores debilitaría la credibilidad del proyecto. Un consejo con mayoría independiente y normas transparentes de designación la reforzaría. La institución debería publicar procedimientos para cambiar los estándares y atender impugnaciones de desarrolladores afectados.
La segunda señal es un piloto de evaluación común. Anthropic y OpenAI se han comprometido públicamente con revisores externos integrados, mientras que Google DeepMind ha respaldado una evaluación sistemática previa al lanzamiento. Un piloto conjunto mostraría si esas promesas generan un acceso comparable.
El piloto debería definir qué pueden inspeccionar los evaluadores. Las auditorías significativas de IA de frontera requieren más que acceso al modelo a través de una interfaz estándar. Los revisores pueden necesitar información sobre salvaguardas, permisos de herramientas, sistemas de monitoreo, entornos de prueba e incidentes significativos.
Un piloto creíble también informaría de sus limitaciones. Los evaluadores deberían indicar qué no pudieron inspeccionar, cómo el laboratorio seleccionó las condiciones de prueba y si las conclusiones cambiaron una decisión de lanzamiento. Una puntuación de seguridad pulida sin ese contexto revelaría poco.
La tercera señal es la participación formal del gobierno. El reconocimiento por parte del Departamento de Comercio, NIST u otra agencia cualificada no garantizaría automáticamente la independencia. Mostraría si los funcionarios públicos consideran a la organización una infraestructura útil, en lugar de un vehículo de presión de la industria.
La participación gubernamental debería preservar responsabilidades separadas. Los expertos técnicos pueden actualizar las evaluaciones rápidamente, mientras que las agencias públicas proporcionan autoridad legal y rendición de cuentas democrática. Ningún grupo debería sustituir silenciosamente al otro.
Los lectores también deberían observar lo que ocurre después de la primera prueba fallida. Un sistema de estándares demuestra su valor cuando genera costes por incumplimiento. Esos costes podrían incluir salvaguardas más estrictas, despliegues restringidos, nuevas pruebas, lanzamientos retrasados o la remisión a reguladores.
Si todos los modelos importantes aprueban, las pruebas podrían ser demasiado débiles o previsibles. Si las conclusiones permanecen confidenciales de forma permanente, los actores externos no pueden evaluar si el proceso importa. Si solo los desarrolladores más pequeños afrontan retrasos, se intensificarán las preocupaciones sobre la captura regulatoria.
Los compradores empresariales y los desarrolladores no tienen que esperar a una institución definitiva. Ya pueden preguntar a los proveedores de modelos qué marco regula los despliegues, quién realiza las pruebas externas y qué ocurre cuando se supera un umbral. También pueden distinguir las evaluaciones de modelos de los controles exigidos en sus propias aplicaciones.
Por tanto, la iniciativa de estándares de IA de Anthropic y OpenAI se entiende mejor como una prueba institucional. Laboratorios rivales han identificado un problema compartido y, según se informa, han comenzado a debatir infraestructura común. Aún no han demostrado que estén dispuestos a ceder suficiente control como para que la supervisión resulte creíble.
Durante los próximos tres meses, busque una carta fundacional, un proyecto piloto de auditoría entre empresas y participación federal identificada. Esas señales distinguirán un proyecto operativo de estándares de una alineación temporal de declaraciones públicas.
La pregunta decisiva es sencilla: ¿crearán los laboratorios una institución capaz de decirle que no a uno de ellos? Hasta que existan una carta fundacional, un consejo independiente y un proceso de revisión exigible, considere las conversaciones prometedoras pero inconclusas. Siga las evidencias tras el próximo lanzamiento de modelo, pregunte quién realizó sus pruebas y compruebe si alguna conclusión modificó lo que llegó a los usuarios.
