La advertencia de seguridad de IA de Anthropic divide a OpenAI y Nvidia sobre quién debe gobernar los modelos de frontera
Investigadores de Anthropic emitieron este mes una advertencia extraordinaria: la IA avanzada podría amenazar a la humanidad antes de 2030 pese a las salvaguardas actuales. La advertencia de seguridad de IA de Anthropic se convirtió rápidamente en una disputa que involucra a OpenAI, xAI, Nvidia y defensores tecnológicos chinos. El conflicto ya no trata simplemente de si los modelos de frontera presentan riesgos graves. Trata de quién puede definir esos riesgos y controlar la respuesta.
El exinvestigador de Anthropic Jacob Coxon desencadenó el último debate al renunciar públicamente el 9 de septiembre. Coxon afirmó que Anthropic y OpenAI competían por alcanzar una superinteligencia capaz de mejorarse a sí misma sin actuar de forma responsable. Posteriormente, el investigador de Anthropic Evan Hubinger respaldó la advertencia y situó su estimación personal del riesgo de extinción humana por encima del 10 por ciento en la próxima década.
Estas afirmaciones siguen siendo previsiones, no mediciones verificadas de forma independiente. No hay evidencia pública que establezca que los sistemas actuales puedan adquirir recursos, mantener autonomía o provocar el resultado catastrófico descrito por Coxon. Sin embargo, según los informes, el CEO de OpenAI Sam Altman, el CEO de Anthropic Dario Amodei y Elon Musk respondieron apoyando una gobernanza externa más sólida o un desarrollo más lento de la IA de frontera.
El CEO de Nvidia, Jensen Huang, rechazó la premisa. Al ser consultado sobre las afirmaciones de un riesgo de extinción del 10 por ciento, Huang habría dicho que la estimación estaba “inventada”. Su respuesta dejó al descubierto la principal división: controles externos estrictos respaldados por desarrolladores de frontera frente a un desarrollo continuo apoyado por creadores de modelos, empresas de hardware y defensores de modelos de pesos abiertos.
Lo que realmente cambió la advertencia de seguridad de IA de Anthropic
El cambio importante no es un nuevo descubrimiento técnico. Es la alineación pública de líderes rivales de la IA de frontera a favor de la supervisión externa.
Coxon pasó tres años trabajando en preentrenamiento en OpenAI y Anthropic, según su declaración de renuncia. El preentrenamiento es el proceso inicial que enseña a un modelo patrones a partir de grandes conjuntos de datos antes de su refinamiento especializado. Su experiencia dio a la declaración una visibilidad inusual, pero no convirtió su previsión en un resultado técnico demostrado.
Coxon afirmó que investigadores dentro de las principales empresas de IA creen sinceramente que los sistemas avanzados podrían acabar con la humanidad antes de que termine la década. Describió a las empresas como impulsoras de sistemas capaces de mejorar sus propias capacidades. Esta auto-mejora recursiva sigue siendo un proceso teórico en el que una IA mejora las herramientas o métodos utilizados para desarrollar sus sucesores.
La cobertura inicial describió a Coxon como un denunciante, pero esa etiqueta requiere matices. No divulgó documentos internos, identificó conductas indebidas ocultas ni reveló un despliegue peligroso específico. Su declaración fue una renuncia pública y una advertencia basada en su evaluación de la carrera de desarrollo.
La intervención de Hubinger dio peso adicional a esa advertencia. Según se informó en la renuncia del investigador, respaldó las preocupaciones de Coxon mientras permanecía en Anthropic. Hubinger afirmó que la empresa intentaba actuar de forma responsable, pero carecía de una solución probada para alinear sistemas superinteligentes con las intenciones humanas.
La alineación consiste en lograr que un sistema de IA siga de forma fiable los objetivos previstos, incluso en situaciones desconocidas. Los investigadores pueden probar la alineación en modelos actuales, pero esas pruebas no pueden establecer directamente cómo se comportaría un sistema futuro aún no definido. Por tanto, el debate mezcla el comportamiento observable de los modelos con predicciones sobre sistemas que todavía no existen públicamente.
Esa distinción importa. Los modelos actuales pueden generar código inseguro, engañar a usuarios, perseguir objetivos mal especificados y explotar debilidades durante evaluaciones controladas. Estos comportamientos justifican un trabajo práctico de seguridad sin demostrar un escenario de extinción.
La respuesta reportada de líderes de la industria cambió el peso político de la discusión. Altman, Amodei y Musk tienen productos e intereses comerciales enfrentados. Su aparente acuerdo sobre la supervisión externa crea una señal política más fuerte que otra advertencia aislada de un investigador de IA.
El acuerdo también sigue siendo incompleto. Las peticiones de auditorías, coordinación internacional o una desaceleración no especifican qué modelos califican, qué pruebas se aplicarían ni quién podría detener un lanzamiento. Una pausa podría significar retrasar el entrenamiento, restringir la capacidad de cómputo, limitar el despliegue o exigir evaluaciones antes de la distribución.
Estas opciones generan mercados muy distintos. Una revisión de despliegue se dirige a sistemas terminados, mientras que una restricción de cómputo afecta a la investigación antes de que exista un modelo. Un sistema de licencias también puede favorecer a organizaciones que ya son lo suficientemente grandes como para cumplir requisitos de conformidad costosos.
Por eso la reciente disputa de la industria importa más allá de su lenguaje dramático. El debate ha pasado de estimaciones privadas de riesgo al control institucional sobre el desarrollo de modelos.
Por qué las empresas de IA de frontera enfrentan presión ahora
Los desarrolladores de frontera enfrentan presión porque los modelos más potentes aumentan tanto los problemas de seguridad observables como las exigencias de demostrar que las salvaguardas funcionan.
Las empresas de IA llevan años presentando modelos más grandes como más útiles, al tiempo que reconocen que una mayor capacidad puede generar riesgos adicionales. Esa postura se vuelve más difícil de sostener cuando investigadores dentro de esas empresas afirman que los planes existentes siguen siendo insuficientes.
Anthropic ha construido parte de su identidad en torno a la investigación de seguridad. OpenAI también mantiene programas de preparación y evaluación destinados a identificar capacidades peligrosas. Cuando empleados vinculados a esos esfuerzos expresan una preocupación grave, clientes y responsables políticos preguntan naturalmente qué han revelado las pruebas internas.
Sin embargo, las declaraciones públicas ofrecen respuestas limitadas. La renuncia de Coxon no incluyó registros de evaluación, informes de incidentes ni experimentos reproducibles que respaldaran su plazo. El porcentaje de Hubinger fue una estimación personal, no una tasa de fallos observada.
La falta de evidencia pública crea un difícil problema de comunicación. Las empresas pueden poseer hallazgos sensibles que no pueden divulgar sin facilitar abusos. También pueden estar extrapolando a partir de experimentos controlados cuya relación con la autonomía en el mundo real sigue siendo incierta.
Ambas posibilidades justifican escrutinio. Un sistema de gobernanza creíble no puede depender de garantías de que las empresas tienen evidencia alarmante pero no pueden explicarla. Tampoco puede asumir que toda previsión no verificada carece de sentido.
Las auditorías externas son un puente propuesto. Un auditor independiente podría inspeccionar evaluaciones de modelos, controles de seguridad, informes de incidentes y decisiones de lanzamiento sin publicar detalles técnicos peligrosos. Sin embargo, los auditores aún necesitan estándares comunes, personal cualificado, derechos de acceso y autoridad cuando una empresa falla.
Estados Unidos ya cuenta con un punto de referencia voluntario en el marco de riesgos de IA. El marco organiza la gestión de riesgos en torno a la gobernanza, la medición y el monitoreo continuo. No crea un sistema global de aplicación para modelos de frontera.
La coordinación internacional plantea un desafío aún mayor. Una restricción adoptada por varias empresas estadounidenses no obligaría automáticamente a laboratorios extranjeros, grupos académicos o comunidades de pesos abiertos. Los modelos de pesos abiertos distribuyen parámetros que otros pueden ejecutar o modificar, incluso cuando el desarrollador original cambia posteriormente su política.
Esa diferencia presiona a las empresas de modelos cerrados desde ambas direcciones. Los defensores de la seguridad quieren límites más fuertes y verificación independiente. Clientes e inversores siguen esperando mejores modelos, mayor disponibilidad y rendimiento competitivo.
Los desarrolladores también enfrentan cuestiones operativas inmediatas. Los compradores empresariales necesitan saber si un modelo puede gestionar información confidencial, ejecutar acciones o conectarse de forma segura a sistemas internos. Los ingenieros necesitan evidencia sobre límites de permisos, monitoreo y recuperación ante fallos.
Estas preguntas son menos dramáticas que las previsiones de extinción, pero son más fáciles de probar. Una empresa puede documentar si un agente accedió a recursos no autorizados. Puede medir si las salvaguardas resistieron métodos de ataque conocidos y si los humanos pudieron interrumpir una tarea.
Por tanto, la respuesta práctica debería incluir más que declaraciones sobre una futura superinteligencia. Las empresas de frontera necesitan criterios de evaluación transparentes, umbrales de lanzamiento claramente documentados y canales de información para incidentes graves.
Los equipos que adopten estos sistemas también necesitan su propio rastro de evidencia. Un registro consultable de pruebas de modelos, afirmaciones de proveedores, incidentes y decisiones puede evitar que las discusiones sobre seguridad se desvinculen de la realidad del despliegue. Una base de conocimiento técnico interna puede respaldar ese trabajo cuando preserva los documentos fuente y el contexto de las decisiones.
Por tanto, la presión sobre Anthropic y OpenAI no consiste simplemente en desacelerar. Consiste en traducir creencias internas alarmantes en controles verificables que clientes, auditores y gobiernos puedan evaluar.
OpenAI y Anthropic se enfrentan a la visión opuesta de Nvidia
El conflicto central enfrenta el desarrollo de frontera gobernado externamente con el argumento de que las previsiones especulativas no deberían restringir el progreso tecnológico.
Los partidarios de una gobernanza más sólida sostienen que los incentivos de mercado no pueden gestionar por sí solos el riesgo catastrófico. Una empresa que retrasa un modelo capaz puede perder clientes, talento e inversión frente a un competidor más rápido. Esa dinámica puede animar a cada participante a aceptar más riesgo del que preferiría colectivamente.
Esta es la carrera descrita por Coxon. Según esa interpretación, los ejecutivos responsables no pueden resolver el problema mediante la moderación voluntaria. Necesitan reglas compartidas que impidan a los competidores obtener una ventaja al ignorar las salvaguardas.
Amodei habría pedido auditores de modelos independientes. Altman apoyó la coordinación internacional, según el relato publicado. Musk también respaldó las preocupaciones pese a competir directamente con OpenAI y Anthropic a través de xAI.
Su postura compartida tiene un atractivo intuitivo. La aviación, los productos farmacéuticos y los mercados financieros no dependen exclusivamente de que las empresas juzguen sus propios riesgos más relevantes. La revisión independiente puede revelar puntos ciegos y establecer expectativas mínimas.
La IA presenta complicaciones que esas comparaciones no capturan por completo. Las capacidades de frontera evolucionan rápidamente, y los evaluadores pueden tener dificultades para distinguir demostraciones memorizadas de competencia general. Un benchmark también puede perder valor cuando los desarrolladores entrenan directamente para superarlo.
El rechazo de Huang cuestiona la base probatoria más que la conveniencia de la seguridad. Su respuesta reportada, “No deberíamos, porque está inventado”, trató la estimación de extinción como una predicción sin respaldo. También sostuvo que previsiones anteriores habían sido erróneas.
Esa crítica identifica una debilidad real. Ningún método estandarizado puede calcular una probabilidad precisa de que una superinteligencia hipotética elimine a la humanidad. Las estimaciones dependen en gran medida de supuestos sobre capacidades futuras, condiciones de despliegue, respuestas humanas y comportamiento competitivo.
Sin embargo, rechazar un porcentaje no elimina todos los riesgos subyacentes. El abuso de la ciberseguridad, el fraude automatizado, la asistencia biológica y los agentes poco fiables pueden evaluarse sin aceptar una previsión concreta de extinción. Por tanto, la postura de Huang debilita la afirmación más contundente sin resolver el caso más amplio en favor de la seguridad.
Nvidia también ocupa un lugar diferente en el mercado. Su negocio se beneficia cuando laboratorios, proveedores de nube, empresas y gobiernos compran más infraestructura informática. Una desaceleración generalizada del entrenamiento afectaría esa demanda y podría limitar la experimentación en todo el sector.
Las empresas de modelos de frontera tienen sus propios intereses. OpenAI y Anthropic ya han acumulado grandes equipos técnicos, relaciones de computación y experiencia en despliegue. Las regulaciones que exijan pruebas o licencias costosas podrían dificultar la entrada de competidores más pequeños.
Esto no demuestra que ninguna de las partes actúe de mala fe. Los incentivos comerciales pueden coexistir con creencias genuinas sobre la seguridad. Aun así, merecen consideración cuando las empresas proponen normas que reformarían su entorno competitivo.
Por tanto, la comparación más útil no es entre héroes y negacionistas. Es entre la preferencia de OpenAI y Anthropic por una supervisión coordinada y la exigencia de Nvidia de contar con evidencia antes de imponer restricciones amplias.
Una política viable requeriría ambas cosas. Utilizaría umbrales de capacidad medibles en lugar de nombres de empresas, y aplicaría estándares equivalentes a sistemas comparables. También separaría los peligros demostrados de los escenarios especulativos al decidir la intervención apropiada.
Ese enfoque no satisfaría las demandas de una pausa global inmediata. También rechazaría la idea de que la incertidumbre justifica no hacer nada. El desacuerdo solo se vuelve productivo cuando cada parte indica qué evidencia cambiaría su posición.
El debate sobre seguridad también es un debate sobre pesos abiertos
Las normas diseñadas en torno a los modelos cerrados más grandes pueden proteger a los usuarios, pero también pueden consolidar el control entre unos pocos proveedores autorizados.
OpenAI y Anthropic suelen distribuir el acceso a sus sistemas líderes mediante servicios alojados. Los usuarios envían solicitudes a infraestructura controlada por las empresas, mientras que los pesos de los modelos permanecen privados. Esta estructura otorga al proveedor un control considerable sobre el acceso, las actualizaciones, la supervisión y la retirada del servicio.
Los desarrolladores de pesos abiertos publican parámetros de modelos bajo licencias que permiten a organizaciones externas ejecutar sistemas en su propia infraestructura. El término no siempre significa código fuente totalmente abierto. Los datos de entrenamiento, el código o los derechos de uso pueden seguir estando restringidos.
Esa distinción cambia el problema de gobernanza. Un proveedor cerrado puede actualizar una salvaguarda en todo su servicio o suspender a un cliente. Una vez que los pesos circulan ampliamente, el desarrollador original no puede imponer de forma fiable cambios posteriores en cada copia.
Los defensores de la seguridad consideran esa pérdida de control una preocupación seria. Un modelo capaz de pesos abiertos puede modificarse para eliminar restricciones de comportamiento. También puede operar de forma privada, lo que dificulta la supervisión centralizada.
Los defensores de los pesos abiertos señalan riesgos distintos. Concentrar la IA avanzada detrás de unas pocas interfaces corporativas otorga a esas empresas una influencia significativa sobre la investigación, la expresión, los precios y el acceso. Los investigadores independientes también pueden tener dificultades para verificar las afirmaciones de seguridad sin inspeccionar o ejecutar el sistema subyacente.
Las empresas chinas añaden una dimensión geopolítica. El informe publicado afirma que comentarios chinos caracterizaron las propuestas occidentales de desaceleración como alarmismo y como un posible intento de contener el desarrollo chino. La respuesta china refleja la preocupación de que las normas de seguridad puedan convertirse en barreras competitivas.
Esa preocupación no puede descartarse simplemente porque provenga de un competidor estratégico. Una estructura de gobernanza liderada por empresas estadounidenses establecidas podría perjudicar a desarrolladores extranjeros y de pesos abiertos. Este resultado se vuelve más probable si el cumplimiento depende de evaluaciones privadas controladas por esas empresas establecidas.
Al mismo tiempo, la sospecha geopolítica no resuelve cuestiones genuinas de seguridad. El país de origen de un modelo no determina si puede facilitar ciberataques, producir instrucciones peligrosas o comportarse de forma poco fiable cuando recibe herramientas.
La política debe centrarse en las capacidades y las condiciones de despliegue. Un pequeño modelo de investigación no debería enfrentar los mismos requisitos que un sistema capaz de descubrir vulnerabilidades de forma autónoma y ejecutar código. Un sistema publicado abiertamente puede requerir controles distintos de los de un asistente alojado con puntuaciones idénticas en pruebas de referencia.
Los datos de mercado pueden informar este debate, pero no resolverlo. Las clasificaciones de uso revelan qué modelos selecciona la gente, mientras que los índices de calidad y coste comparan el rendimiento práctico. Plataformas como Artificial Analysis ofrecen comparaciones útiles de modelos, pero la popularidad no demuestra seguridad.
La disyuntiva más profunda se refiere a la reversibilidad. Los sistemas cerrados permiten una intervención centralizada, pero exigen que los usuarios confíen en el proveedor. Los sistemas de pesos abiertos mejoran el control local y el escrutinio, pero las decisiones de publicación se vuelven difíciles de revertir.
La gobernanza externa debe abordar ambos modelos sin declarar discretamente legítima una estructura empresarial. De lo contrario, las normas de seguridad corren el riesgo de convertirse en un sistema de permisos que protege a las empresas establecidas mientras reduce la competencia independiente.
El marco más sólido definiría obligaciones de prueba antes de la publicación, requisitos de divulgación tras incidentes graves y normas más estrictas para sistemas que superen umbrales específicos de capacidad. No otorgaría una aprobación permanente a empresas seleccionadas.
Ese marco también preservaría la investigación legítima de seguridad. Los evaluadores independientes necesitan acceso protegido para poner a prueba las afirmaciones e informar de vulnerabilidades. Sin ese acceso, la gobernanza externa puede ser externa solo de nombre y seguir dependiendo de evidencia seleccionada por las empresas.
Lo que la afirmación de extinción no demuestra
La afirmación de “matarnos a todos” es seria por su fuente, pero su plazo y su probabilidad siguen sin estar respaldados por evidencia pública.
Coxon y Hubinger poseen experiencia técnica relevante. Sus opiniones merecen atención, especialmente porque ambos trabajaron cerca del desarrollo de modelos de frontera. Sin embargo, la experiencia no convierte una previsión en un hecho medido.
El registro público descrito en los informes carece de una cadena causal desde los sistemas actuales hasta la extinción humana. No identifica un modelo específico con la autonomía, persistencia, acceso o competencia estratégica necesarios. Tampoco establece por qué la transición decisiva debería producirse antes de 2030.
La previsión se vuelve especialmente difícil cuando la categoría objetivo no está definida. “Superinteligencia” puede significar superioridad intelectual amplia, rendimiento excepcional en tareas económicamente útiles o poder estratégico autónomo. Esos significados implican riesgos diferentes.
Un sistema podría superar a expertos en muchas tareas digitales sin controlar infraestructura crítica. A la inversa, un sistema menos capaz podría causar daños graves si se conecta a herramientas sensibles sin supervisión. Por tanto, la capacidad y la autoridad de despliegue deben evaluarse conjuntamente.
La cifra del 10 por ciento debe interpretarse como la estimación personal de riesgo de Hubinger. No es una frecuencia derivada de eventos comparables repetidos. No ha habido casos históricos de superinteligencia artificial a partir de los cuales los investigadores puedan calcular una tasa empírica de extinción.
Esta limitación también afecta a la afirmación opuesta. Huang puede cuestionar razonablemente la precisión de la previsión, pero calificarla de inventada no demuestra que el riesgo subyacente sea insignificante. La incertidumbre opera en ambas direcciones.
El contexto histórico muestra por qué este argumento persiste. En 2023, investigadores y líderes tecnológicos firmaron una carta para pausar la IA que solicitaba una pausa de seis meses para sistemas más capaces que GPT-4. La pausa propuesta no produjo una detención global, y el desarrollo de frontera continuó.
Ese precedente revela un problema básico de aplicación. La moderación voluntaria solo funciona cuando participan suficientes competidores y acuerdan el límite. Una empresa también puede describir el trabajo de seguridad como una desaceleración mientras continúa la investigación que mejora modelos posteriores.
El público también debe distinguir el riesgo catastrófico del daño actual. Las decisiones sesgadas, los fallos de privacidad, la disrupción laboral, la desinformación y las acciones automatizadas inseguras ya afectan a usuarios reales. Estos problemas no dependen de aceptar un plazo de extinción en 2030.
Centrarse exclusivamente en el resultado más extremo puede debilitar la rendición de cuentas por esos problemas presentes. Las empresas pueden debatir sobre una superinteligencia distante mientras proporcionan pocos detalles sobre fallos ordinarios. Del mismo modo, los críticos pueden rechazar el riesgo existencial mientras pasan por alto debilidades de seguridad medibles.
La mejor prueba es si una propuesta mejora la seguridad observable. Las evaluaciones independientes pueden examinar la capacidad peligrosa, el engaño durante las pruebas, el uso no autorizado de herramientas y la resistencia a la interrupción humana. La divulgación de incidentes puede revelar si los sistemas desplegados cruzaron límites establecidos.
Una propuesta creíble de desaceleración debe responder varias preguntas. Qué actividades se detienen, qué sistemas cumplen los requisitos, quién verifica el cumplimiento y qué evidencia permite reanudar el desarrollo. Sin esos detalles, “desacelerar” sigue siendo una posición y no un plan operativo.
Un rechazo creíble necesita una especificidad similar. Los escépticos deberían explicar en qué evaluaciones confían, qué nivel de fallo justificaría una intervención y cómo debería asignarse la responsabilidad tras un incidente grave.
Ninguna de las partes ha completado públicamente ese trabajo. La advertencia de Anthropic sobre la seguridad de la IA eleva lo que está en juego, pero no cierra la brecha de evidencia en el centro del debate.
Tres señales mostrarán si la gobernanza externa de la IA es real
La próxima prueba es si los líderes convierten el acuerdo público en normas auditables sin utilizar la seguridad para cerrar el mercado.
La primera señal es una propuesta concreta de auditoría externa de Anthropic, OpenAI o xAI. Debería definir el acceso a los modelos, la independencia de los evaluadores, los umbrales de capacidad y las consecuencias del fracaso. Un respaldo general a la auditoría no será suficiente.
Una propuesta detallada reforzaría la idea de que las empresas quieren una supervisión exigible. Un proceso cerrado controlado por las empresas participantes la debilitaría. La cuestión decisiva es si evaluadores independientes pueden cuestionar las decisiones de publicación utilizando evidencia que ellos seleccionen.
La segunda señal es el estándar de evidencia de Nvidia. Huang ha rechazado la estimación de extinción que aparece en los titulares, pero Nvidia debería aclarar qué riesgos acepta y qué pruebas considera válidas. Eso distinguiría la crítica a un porcentaje sin respaldo de la oposición al escrutinio externo en sí.
Los criterios de evaluación publicados acotarían el desacuerdo. Un rechazo general sin un marco alternativo dejaría a los clientes sin certeza sobre cómo Nvidia evalúa sistemas cada vez más autónomos construidos sobre su infraestructura.
La tercera señal es la respuesta internacional, especialmente de desarrolladores de pesos abiertos e instituciones chinas. Cualquier marco eficaz necesita normas que puedan aplicarse más allá de un pequeño grupo de empresas estadounidenses. También debe evitar tratar a los modelos extranjeros o abiertos como peligrosos por defecto.
Los estándares basados en capacidades reforzarían el argumento a favor de la gobernanza. Las restricciones basadas en la nacionalidad o las licencias controladas por empresas establecidas respaldarían la preocupación de que la seguridad se esté convirtiendo en una barrera competitiva.
Los lectores también deberían observar lo que hacen las empresas, no solo lo que dicen sus líderes. Los calendarios de entrenamiento, las prácticas de lanzamiento, los informes de seguridad y las políticas de acceso aportan pruebas más sólidas que las publicaciones virales. Una desaceleración proclamada que se traduce en lanzamientos más rápidos merece escepticismo.
Para desarrolladores y compradores empresariales, la lección inmediata es práctica. Documenten qué modelos reciben acceso a datos y herramientas. Prueben los límites de permisos, conserven los resultados de las evaluaciones y exijan a los proveedores que expliquen los fallos graves. No traten la identidad de seguridad de un proveedor como sustituto de los controles de despliegue.
Los trabajadores del conocimiento deberían aplicar la misma disciplina a menor escala. Verifiquen los resultados relevantes, mantengan la información sensible dentro de los sistemas aprobados y conserven el contexto de las fuentes. La inteligencia de los modelos no elimina la necesidad de decisiones humanas responsables.
La advertencia de Anthropic sobre la seguridad de la IA ha impuesto una confrontación útil, aunque su pronóstico más dramático sigue sin verificarse. Los desarrolladores de frontera ahora deben demostrar qué significa la gobernanza externa en términos operativos. Nvidia y otros escépticos deben demostrar qué salvaguardias aceptarían en su lugar.
La cuestión central de los próximos meses no es si un ejecutivo gana la discusión. Es si la industria aporta pruebas, revisión independiente y umbrales exigibles antes de que llegue la próxima afirmación sobre capacidades.
