Anthropic Google y OpenAI se someten a una prueba de la Casa Blanca sobre normas voluntarias de IA

Anthropic, Google y OpenAI se incorporaron a un nuevo experimento regulatorio el 4 de agosto, pese a la promesa de Washington de evitar la aprobación obligatoria de los lanzamientos de IA de frontera.

La reunión en la Casa Blanca congregó a esas empresas junto con Meta, Nvidia y otros representantes del sector. Los funcionarios presentaron normas para las pruebas voluntarias del gobierno sobre modelos avanzados antes de su lanzamiento público. Las conversaciones siguieron a una orden ejecutiva de junio que creó el proceso de pruebas sin establecer un sistema de licencias.

Por tanto, las conversaciones de Anthropic, Google y OpenAI trataban de algo más que otra consulta sobre políticas públicas. Pusieron a prueba si la cooperación voluntaria puede gestionar los riesgos para la seguridad nacional sin convertirse en un permiso gubernamental informal para lanzar un modelo.

Esa tensión ha crecido a medida que los principales modelos son más capaces de encontrar vulnerabilidades de software y respaldar operaciones cibernéticas complejas. También deja al descubierto una importante laguna del marco. El enfoque actual se concentra en modelos cerrados y excluye los sistemas descargables de pesos abiertos.

La distinción beneficia a las empresas que publican pesos de modelos, incluidos desarrolladores estadounidenses y extranjeros. Impone mayor presión de revisión a los laboratorios que conservan el control de sus modelos, restringen el acceso y pueden cumplir técnicamente con las pruebas previas al lanzamiento.

La reunión estaba programada antes de la fecha de publicación de este artículo. Informaciones posteriores aclararon su resultado, incluido el tratamiento que el marco da a los modelos cerrados y de pesos abiertos. Lo que empezó como un adelanto de la reunión se ha convertido en una prueba de cómo Washington pretende regular la IA de frontera.

Qué se pidió revisar a Anthropic Google y OpenAI

La reunión del 4 de agosto transformó una amplia orden ejecutiva en un marco de pruebas de modelos más específico, aunque todavía no publicado.

La Casa Blanca invitó a representantes de destacadas empresas de IA y chips a Washington para revisar las normas de pruebas propuestas por el gobierno. Según los informes, entre los asistentes figuraban Anthropic, Google, OpenAI, Meta y Nvidia.

El marco se refiere a modelos de frontera, es decir, sistemas situados cerca del límite de las capacidades líderes de la IA general. La atención del gobierno se centra en modelos que demuestran capacidades avanzadas de ciberseguridad o hacking.

El presidente Donald Trump estableció el proceso subyacente mediante una orden de IA de junio. Esta instruye a las agencias federales a buscar acuerdos voluntarios con desarrolladores estadounidenses para realizar pruebas de modelos.

Las agencias participantes incluyen los departamentos de Comercio, Defensa, Seguridad Nacional y Tesoro. La orden también otorga a las agencias de seguridad nacional funciones en el desarrollo de evaluaciones y la respuesta a los riesgos identificados.

El proceso pide a los desarrolladores participantes que proporcionen acceso antes de lanzar los modelos cubiertos. Los especialistas gubernamentales pueden entonces evaluar capacidades que podrían amenazar la infraestructura crítica o la seguridad nacional.

Sin embargo, la orden incluye un límite importante. Señala que el proceso no autoriza licencias obligatorias, autorización previa ni permisos gubernamentales para los lanzamientos de IA.

Ese lenguaje refleja el intento de la administración de mantener dos posturas a la vez. Los funcionarios quieren acceso más temprano a capacidades peligrosas, pero se oponen a un amplio sistema regulatorio que podría ralentizar a los desarrolladores estadounidenses.

El acuerdo resultante depende en gran medida de la cooperación. Un desarrollador puede participar, compartir un modelo casi terminado y considerar las conclusiones del gobierno sin renunciar formalmente al control sobre su fecha de lanzamiento.

Este diseño difiere de un sistema convencional de aprobación de productos. El gobierno no emite un certificado público ni aprueba o rechaza formalmente cada lanzamiento.

Según los informes, la reunión animó a las empresas a presentar modelos próximos a su lanzamiento. Ese enfoque daría a los evaluadores un producto más representativo que un punto de control de investigación inacabado.

También deja poco tiempo para corregir problemas. Una vulnerabilidad grave detectada cerca del lanzamiento podría obligar a una empresa a retrasar el despliegue, limitar el acceso o negociar una alternativa con los funcionarios.

La Casa Blanca no ha publicado el marco completo. Esto limita el escrutinio independiente de sus umbrales, métodos de evaluación, controles de acceso y procedimientos para resolver desacuerdos.

El carácter clasificado de algunos referentes de ciberseguridad añade otra limitación. La divulgación pública podría ayudar a adversarios a entrenar modelos específicamente para superar las pruebas sin abordar el peligro subyacente.

Sin embargo, el secreto también dificulta la rendición de cuentas externa. Investigadores, clientes y legisladores no pueden determinar fácilmente si se aplican las mismas normas entre empresas competidoras.

Por tanto, la reunión de agosto cambió el contexto práctico de la supervisión de la IA. Washington cuenta ahora con una vía definida para revisar determinados lanzamientos de frontera, aunque la participación siga siendo legalmente voluntaria.

Por qué los modelos cerrados soportan la carga regulatoria

La disyuntiva central es una cobertura desigual: los modelos que permanecen bajo control de la empresa se someten a revisión, mientras que los pesos descargables quedan fuera del marco inicial.

Según las informaciones posteriores a la reunión, el marco define un modelo de frontera cubierto como cerrado y de última generación, con capacidades relevantes para la seguridad nacional.

Un modelo cerrado mantiene sus parámetros entrenados bajo el control del desarrollador. Los clientes suelen acceder a él mediante una aplicación o una API, lo que permite que el software se comunique con el modelo de forma remota.

Un modelo de pesos abiertos pone esos parámetros entrenados a disposición para su descarga. Los usuarios pueden ejecutar, modificar, ajustar y redistribuir el modelo sin depender del servicio alojado de su desarrollador original.

Los pesos abiertos no son idénticos al software de código abierto. Un lanzamiento puede proporcionar parámetros del modelo mientras retiene los datos de entrenamiento, el código de desarrollo u otros materiales necesarios para una reproducibilidad completa.

Esa distinción importa porque un proveedor de modelos cerrados puede supervisar el acceso, actualizar las salvaguardas, suspender cuentas y retirar un modelo. Un lanzamiento de pesos abiertos se vuelve difícil de contener después de su distribución.

Pese a esa diferencia, el marco de la Casa Blanca excluye actualmente a los modelos abiertos de su ámbito de revisión. Los detalles del marco publicados tras la reunión describieron una cobertura limitada a sistemas cerrados avanzados.

Según los informes, los funcionarios también dijeron a las empresas que los modelos de pesos abiertos no pasarían por el proceso voluntario de pruebas de seguridad. Esta política refleja el respaldo de la administración al desarrollo abierto y su preocupación por restringir la innovación estadounidense.

La exención crea una aparente contradicción de seguridad. Los sistemas que los desarrolladores aún pueden actualizar y restringir reciben escrutinio previo al lanzamiento. Los sistemas que cualquiera puede descargar y modificar evitan el mismo proceso.

Hay una explicación práctica. Un gobierno puede negociar el acceso con una empresa estadounidense que opera un servicio cerrado. Tiene menos herramientas frente a un modelo publicado por un laboratorio extranjero.

Los modelos abiertos también respaldan la investigación, la personalización y el despliegue local. Las universidades y las empresas más pequeñas pueden estudiarlos sin pagar por cada solicitud a un proveedor remoto.

OpenAI ha sostenido que los sistemas cerrados y de pesos abiertos cumplen propósitos complementarios. Su postura sobre los pesos abiertos afirma que los lanzamientos abiertos pueden respaldar la investigación, ampliar el acceso y reforzar el liderazgo estadounidense en IA.

Meta y Nvidia han defendido de forma similar los modelos abiertos frente a restricciones prematuras. Su postura considera la apertura como una ventaja económica y estratégica, especialmente frente a laboratorios chinos que avanzan con rapidez.

Anthropic y Google han adoptado posturas públicas más cautelosas en torno a los lanzamientos más capaces. Ambas empresas han destacado las evaluaciones, el acceso controlado y las salvaguardas para sistemas que conllevan graves riesgos cibernéticos.

La laguna política es especialmente importante porque la arquitectura del modelo no determina su capacidad. Un modelo de pesos abiertos puede acercarse al rendimiento de un modelo cerrado, mientras que un producto cerrado puede mantenerse por debajo de cualquier umbral de riesgo significativo.

Por tanto, un marco duradero necesita desencadenantes basados en capacidades. No puede asumir que un método de distribución siempre predice el riesgo para la seguridad nacional.

El enfoque actual del gobierno parece utilizar tanto la capacidad como la estructura de lanzamiento. Según los informes, un sistema cubierto debe ser cerrado, avanzado y relevante para preocupaciones de seguridad especificadas.

Esa combinación reduce el número de modelos sujetos a revisión. También disminuye la probabilidad de que herramientas empresariales comunes o sistemas de investigación más pequeños queden atrapados en un proceso federal de pruebas.

Sin embargo, crea incentivos que los responsables políticos quizá no pretendan. Un desarrollador podría preferir un lanzamiento de pesos abiertos en parte para evitar las expectativas asociadas al despliegue cerrado.

Las empresas también podrían debatir si un modelo califica como de última generación. Sin umbrales publicados, esa etiqueta puede convertirse en una fuente de negociación en lugar de un resultado técnico objetivo.

La reunión de Anthropic, Google y OpenAI no resolvió este desequilibrio. Formalizó la distinción y dejó a los funcionarios margen para revisar los modelos abiertos a medida que avancen sus capacidades.

Las pruebas voluntarias aún pueden determinar las decisiones de lanzamiento

Un marco voluntario puede ejercer una presión considerable cuando el gobierno controla contratos, acceso a información clasificada y relaciones de seguridad nacional.

La palabra voluntario sugiere que las empresas conservan independencia total. En la práctica, rechazar las pruebas gubernamentales puede acarrear consecuencias comerciales, políticas y reputacionales.

Los laboratorios de frontera buscan contratos federales, alianzas de investigación, autorizaciones de seguridad y acceso a experiencia gubernamental. También quieren que los responsables políticos los consideren proveedores de infraestructura estadounidense de confianza.

Una empresa que rechace las pruebas después de identificar capacidades cibernéticas avanzadas suscitaría preguntas difíciles. Los clientes empresariales podrían preguntar por qué el desarrollador declinó una evaluación gubernamental disponible.

Los funcionarios también podrían reconsiderar las decisiones de contratación pública. Podrían restringir el uso de un producto en sistemas sensibles incluso sin bloquear formalmente su lanzamiento público.

La relación reciente de Anthropic con Washington ilustra esa presión. La empresa chocó anteriormente con la administración por las restricciones al uso militar y el acceso federal a Claude.

Anthropic se opuso a utilizar su tecnología para armas totalmente autónomas y vigilancia doméstica. La disputa escaló hasta intentos de restringir el uso gubernamental de sus productos.

Reuniones posteriores entre el liderazgo de Anthropic y funcionarios de la Casa Blanca se centraron en ciberseguridad, seguridad de la IA y el liderazgo estadounidense continuado. La relación mostró cuán rápidamente los desacuerdos políticos pueden afectar al negocio gubernamental de un proveedor de modelos.

La postura de la administración cambió a medida que las capacidades cibernéticas avanzadas se volvieron más urgentes. El modelo Mythos de Anthropic, según los informes, atrajo atención por afirmaciones de que podía identificar vulnerabilidades significativas de software.

Esas capacidades crearon un problema de doble uso. El mismo modelo podría ayudar a los defensores a localizar debilidades o ayudar a los atacantes a explotar sistemas antes de que haya parches disponibles.

La orden de junio surgió de ese debate sobre seguridad. Su proceso proporciona acceso temprano a los evaluadores federales sin llegar a un veto formal de lanzamiento.

Anthropic, OpenAI y Google acogieron la orden en declaraciones públicas. El director de asuntos globales de OpenAI, Chris Lehane, subrayó las instituciones democráticas, la experiencia técnica, la rendición de cuentas y la confianza pública.

Su respaldo es comprensible. Un proceso federal compartido puede sustituir las negociaciones improvisadas cada vez que un modelo demuestra una nueva capacidad alarmante.

También puede evitar que un desarrollador se convierta en la única empresa que retrasa un lanzamiento. La presión competitiva dificulta la contención unilateral cuando los rivales podrían lanzar sistemas comparables.

Un periodo común de pruebas reduce ese problema si participan todos los desarrolladores relevantes. Cada empresa obtiene cierta garantía de que sus competidores más cercanos afrontan expectativas similares.

Sin embargo, las pruebas voluntarias no eliminan la carrera. Las empresas siguen decidiendo cuándo un modelo está lo bastante terminado como para presentarlo, qué acceso reciben los evaluadores y cómo responden a los hallazgos.

El plazo de 30 días reportado es breve en comparación con una revisión regulatoria convencional. Refleja un mercado en el que los calendarios de producto cambian rápidamente y las ventajas de rendimiento pueden desaparecer en cuestión de meses.

Los comentarios del gobierno recibidos cerca del lanzamiento aún pueden modificarlo. Una empresa podría restringir ciertas herramientas, reforzar la supervisión, posponer el acceso generalizado o proporcionar el sistema solo a socios seleccionados.

Ese resultado no constituiría legalmente una aprobación gubernamental. Sin embargo, para clientes e inversores, un retraso tras una evaluación federal podría parecerse mucho a ello.

También es posible lo contrario. Una empresa podría seguir adelante pese a las preocupaciones del gobierno y afirmar que la participación nunca transfirió la decisión final.

Los funcionarios se enfrentarían entonces a una elección. Podrían revelar el desacuerdo, aplicar presión mediante contratación pública, recurrir a otra autoridad legal o aceptar la decisión de la empresa.

Por tanto, la verdadera fortaleza del marco provendrá de las relaciones, no de sanciones legales. Eso hace esencial un trato coherente.

Si un laboratorio recibe flexibilidad discreta mientras otro afronta presión pública, la cooperación voluntaria perderá credibilidad. Las empresas tratarán el proceso como una negociación política en vez de como una gestión técnica del riesgo.

Ese es el principal antagonismo de esta historia de política pública: cooperación voluntaria frente a autorización informal previa. El límite se definirá a través de disputas reales sobre lanzamientos, no solo por el lenguaje de la orden ejecutiva.

Las reglas no publicadas crean un problema de rendición de cuentas

El gobierno quiere pruebas confidenciales que los adversarios no puedan estudiar, pero el secretismo impide que terceros juzguen si el proceso es justo o eficaz.

Las evaluaciones de ciberseguridad suelen requerir detalles confidenciales. Publicar cada prompt, entorno de explotación y umbral de puntuación podría permitir que los desarrolladores optimizaran específicamente para la prueba.

También podría revelar debilidades defensivas. Un benchmark diseñado en torno a infraestructura crítica podría exponer información que atacantes podrían usar contra sistemas reales.

Por tanto, los componentes clasificados son comprensibles. Los evaluadores gubernamentales necesitan margen para probar capacidades peligrosas sin crear un manual público de instrucciones.

La preocupación abarca un secretismo más amplio en torno al propio marco. Según se informa, la Casa Blanca no planea publicar el documento completo revisado por las empresas.

Esa decisión oculta cuestiones básicas de gobernanza. El público no conoce el umbral exacto de capacidad, el proceso de decisión, el mecanismo de apelación ni las reglas que rigen el acceso de los evaluadores.

Tampoco está claro cómo separarán los funcionarios la capacidad del modelo de su comportamiento. Un sistema podría poseer conocimientos técnicos peligrosos mientras rechaza solicitudes dañinas en condiciones normales.

Los evaluadores tendrán que comprobar si las salvaguardas resisten intentos decididos de eludirlas. Esos intentos suelen denominarse jailbreaks, es decir, prompts o técnicas diseñados para derrotar las restricciones de un modelo.

Un jailbreak exitoso no establece automáticamente un riesgo catastrófico. Los evaluadores deben considerar la fiabilidad, la experiencia necesaria, las alternativas disponibles y si el modelo reduce materialmente los costes de un atacante.

La misma distinción importa para el uso defensivo. Un modelo que encuentra vulnerabilidades puede ayudar a las organizaciones a corregir software, analizar incidentes y probar aplicaciones antes de su despliegue.

Por tanto, los hallazgos gubernamentales podrían respaldar varias respuestas. Los funcionarios podrían recomendar salvaguardas más sólidas, acceso limitado, supervisión reforzada, lanzamiento retrasado o disponibilidad controlada para socios defensivos.

Sin principios públicos, los observadores no pueden saber por qué se eligió una respuesta concreta. Tampoco pueden comparar los resultados entre Anthropic, Google y OpenAI.

El marco enfrenta otro desafío de verificación. Los funcionarios gubernamentales podrían carecer de suficiente capacidad de cómputo independiente, talento de ingeniería o tiempo de evaluación para probar exhaustivamente cada modelo importante.

Una revisión breve puede identificar riesgos obvios, pero pasar por alto comportamientos inusuales. El rendimiento del modelo también cambia tras el despliegue mediante acceso a herramientas, prompts de sistema, actualizaciones e integraciones creadas por usuarios.

Las pruebas previas al lanzamiento capturan una instantánea. No pueden sustituir la supervisión continua después de que un modelo llegue a los clientes y se enfrente a condiciones reales.

La anterior directiva sobre IA se presentó como una medida limitada de seguridad nacional, no como supervisión de cada nuevo modelo. Ese alcance limitado puede mantener el proceso manejable.

Aun así, una cobertura limitada plantea preguntas de selección. Los funcionarios necesitan criterios creíbles para decidir qué sistemas merecen escrutinio y cuáles permanecen fuera del marco.

La historia política aumenta la preocupación. La administración eliminó varias salvaguardas federales anteriores sobre IA antes de reconstruir un proceso más limitado centrado en la ciberseguridad.

Los partidarios ven ese cambio como un enfoque mejor dirigido. Los críticos lo consideran un regreso improvisado a la supervisión después de que sistemas avanzados produjeran riesgos que el gobierno no podía ignorar.

El senador Mark Warner acogió la política de junio al tiempo que criticó a la administración por desmantelar las protecciones anteriores. Su respuesta reflejó la tensión bipartidista entre las pruebas necesarias y una ejecución incoherente.

El marco actual también depende de las afirmaciones de las empresas sobre sus propios modelos. Los desarrolladores poseen los mejores datos internos, pero tienen incentivos financieros para lanzar productos rápidamente.

Los evaluadores independientes pueden cuestionar esas afirmaciones. Sin embargo, su credibilidad depende de una autoridad clara, métodos coherentes y suficiente transparencia para demostrar un trato justo.

El proceso de Anthropic, Google y OpenAI no debe describirse como una regulación consolidada. Es un experimento confidencial cuyos procedimientos más importantes siguen sin probarse en disputas públicas.

Tres señales mostrarán si el marco funciona

La próxima evidencia significativa provendrá de los lanzamientos de modelos, el tratamiento de los pesos abiertos y la respuesta del gobierno a los desacuerdos.

La primera señal será la entrada de un modelo cubierto en el proceso de revisión voluntaria. Los observadores deberían vigilar si un desarrollador presenta acceso cerca del lanzamiento y luego modifica su despliegue.

Un retraso, lanzamiento restringido o actualización de salvaguardas demostraría que las pruebas afectan decisiones reales. Un lanzamiento sin cambios no demostraría un fracaso, porque los evaluadores podrían no encontrar ninguna preocupación grave.

La evidencia más sólida incluiría que una empresa explicara qué categoría de riesgo cambió sus planes. Podría proteger detalles clasificados mientras describe el razonamiento general.

Una ausencia completa de divulgación debilitaría la confianza pública. Los clientes sabrían que ocurrió una revisión, pero no si la empresa abordó hallazgos relevantes.

La segunda señal será cómo responden los funcionarios a un modelo frontier de pesos abiertos con sólidas capacidades cibernéticas. Este caso pondrá a prueba la exención más visible del marco.

Los reportes posteriores a la reunión indicaron que la administración no probaría sistemas de pesos abiertos bajo las reglas actuales. También señalaron que esta postura podría cambiar a medida que avance la tecnología.

Un lanzamiento abierto estadounidense capaz pondría a prueba si Washington valora la apertura nacional por encima de una evaluación coherente. Un lanzamiento extranjero expondría los límites de un proceso estadounidense voluntario.

La administración podría responder mediante investigación, controles de exportación, normas de contratación pública o preparación defensiva en vez de pruebas previas al lanzamiento. Cada opción conlleva implicaciones distintas para la innovación y el acceso.

La cuestión de los modelos abiertos también afecta a la competencia. Los proveedores cerrados podrían objetar si afrontan retrasos mientras rivales de pesos abiertos distribuyen capacidades comparables sin revisión gubernamental.

Esa objeción se fortalece si los evaluadores miden el riesgo por rendimiento en lugar de controlabilidad. Un modelo descargable puede seguir disponible indefinidamente después de que su desarrollador original deje de ofrecer soporte.

La tercera señal será el primer desacuerdo grave entre funcionarios y una empresa participante. Este evento definirá qué significa voluntario en la práctica.

Si la empresa sigue adelante sin represalias, el marco parecerá una consulta genuina. Si las agencias federales aplican presión no relacionada, los críticos lo llamarán concesión informal de licencias.

Un proceso transparente para las disputas podría reducir ese riesgo. Los funcionarios podrían exponer la preocupación general, permitir que la empresa responda e identificar la autoridad legal detrás de cualquier acción gubernamental.

El marco también necesitará un trato coherente entre las empresas. La difícil relación política de Anthropic no puede convertirse en una razón para aplicar estándares más duros que los utilizados con Google u OpenAI.

La misma regla se aplica a la inversa. Los contratos gubernamentales o las relaciones con ejecutivos de una empresa no deberían reducir el escrutinio aplicado a su modelo.

Para los desarrolladores y compradores empresariales, estas señales importan antes de cualquier cambio legislativo. Las revisiones voluntarias pueden afectar los calendarios de lanzamiento, la disponibilidad de funciones y el acceso a sistemas avanzados.

Los equipos de seguridad deberían esperar más despliegues escalonados. Los proveedores pueden limitar inicialmente herramientas de alto riesgo, supervisar a usuarios seleccionados y ampliar el acceso tras pruebas adicionales.

Los equipos de producto también deberían distinguir entre las garantías del proveedor y la evaluación independiente. Una revisión gubernamental puede aumentar la confianza sin garantizar un rendimiento seguro en cada flujo de trabajo.

Los trabajadores del conocimiento afrontan un impacto más discreto. Sus organizaciones podrían restringir nuevos modelos hasta que los equipos de seguridad, legal y contratación pública comprendan el resultado de la revisión.

Ese retraso puede complicar la documentación interna cuando los equipos comparan varios proveedores. Una base de conocimiento de IA con capacidad de búsqueda puede conservar notas de evaluación, cambios de políticas y decisiones de despliegue a lo largo de esas revisiones.

La reunión de la Casa Blanca no produjo un regulador integral de IA. Creó un acuerdo más limitado en el que empresas seleccionadas comparten modelos cerrados avanzados para pruebas confidenciales.

Ese acuerdo puede identificar riesgos cibernéticos reales antes del despliegue. También puede concentrar influencia entre funcionarios federales y los mayores laboratorios.

Su legitimidad dependerá de una coherencia observable. El gobierno debe demostrar que la evidencia técnica, y no la política o el poder de mercado, determina cómo responde.

La exención de pesos abiertos sigue siendo la cuestión sin resolver más difícil. Separa los sistemas por método de distribución incluso mientras sus capacidades continúan convergiendo.

Durante los próximos tres meses, estén atentos al lanzamiento de un modelo revisado, a un lanzamiento abierto de alta capacidad y al primer desacuerdo público sobre las pruebas. Juntos, esos acontecimientos revelarán si Anthropic, Google y OpenAI se sumaron a un proceso de seguridad útil o a un sistema de aprobación no publicado.

Los equipos que evalúan nuevos productos de IA deberían documentar esas señales antes de modificar flujos de trabajo sensibles. Pregunten qué modelo fue probado, qué cubrió la revisión y quién controla el acceso después del despliegue. Las respuestas importan más que el lenguaje general de seguridad de un proveedor.