Advertencia de Jensen Huang sobre la seguridad de la IA: contengan los experimentos inseguros o cierren los laboratorios
Jensen Huang lanzó esta semana una contundente advertencia sobre la seguridad de la IA: los laboratorios que no puedan contener experimentos peligrosos deberían dejar de operar. El director ejecutivo de Nvidia afirmó que las pruebas incontrolables generarían riesgos inaceptables para el público, los accionistas y las personas que dirigen esos laboratorios.
La declaración suena como una exigencia de detener el desarrollo de la IA de frontera. En realidad, se acercaba más a lo contrario. Huang utilizó el hipotético cierre para rechazar las afirmaciones de que la IA avanzada no puede gestionarse mediante ingeniería, pruebas, responsabilidad corporativa y la legislación existente.
Esa distinción enfrenta a Huang con un argumento de política promovido por OpenAI, Anthropic y otros desarrolladores de frontera. Estas empresas quieren una gobernanza más sólida a medida que los modelos adquieren autonomía y capacidades peligrosas. Huang sostiene que las advertencias extraordinarias no pueden convertirse en una excusa para trasladar la responsabilidad fuera de los laboratorios que construyen estos sistemas.
Lo que dijo Jensen Huang sobre la seguridad de la IA
La declaración de Huang sobre el cierre era condicional, pero esa condición planteaba un desafío inusualmente contundente para los laboratorios de frontera.
Durante una entrevista con Ezra Klein, Huang consideró qué debería ocurrir si un laboratorio creyera que sus modelos experimentales podían escapar de la contención y dañar al mundo. Su respuesta fue directa.
“Si dicen que la alternativa es: No hay forma de contener nuestros experimentos”, afirmó Huang, “entonces creo que la respuesta es que tenemos que cerrar los laboratorios”.
Añadió que el daño potencial sería demasiado grande. Huang también señaló la responsabilidad civil y penal, junto con las consecuencias para los accionistas y los ejecutivos.
El pasaje completo importa porque la cita puede malinterpretarse fácilmente. Huang no dijo que todo laboratorio que trabaje con modelos avanzados deba cerrar. Describió el cierre como el resultado lógico de aceptar la versión más alarmante de las propias advertencias de los laboratorios.
Las declaraciones de la entrevista original presentan la seguridad como una obligación operativa. Si un experimento no puede contenerse, la empresa no debería llevarlo a cabo.
Esa postura da al argumento de Jensen Huang sobre la seguridad de la IA dos partes vinculadas. Primero, los desarrolladores deberían probar los sistemas antes de su despliegue y detener los lanzamientos que fallen. Segundo, los líderes no pueden describir una amenaza incontrolable mientras siguen construyéndola a toda velocidad.
Huang no desestima todos los riesgos asociados con los modelos avanzados. Rechaza el salto de un riesgo grave a una supuesta indefensión. En su opinión, un modelo de IA sigue siendo un producto creado, operado y distribuido por instituciones identificables.
Eso significa que la responsabilidad debe permanecer vinculada a esas instituciones. Los ingenieros eligen el entorno de entrenamiento. Los ejecutivos aprueban los despliegues. Las empresas deciden qué clientes reciben acceso y qué capacidades requieren restricciones.
Su argumento también distingue entre un experimento interno y un producto público. Un laboratorio puede aislar un modelo, limitar sus herramientas, restringir el acceso a la red e impedir su despliegue externo. Estas medidas no garantizan la seguridad, pero hacen que “incontrolable” sea una afirmación que exige pruebas.
Por tanto, la prueba práctica es más exigente de lo que sugiere el lenguaje confiado de Huang. Los laboratorios deben determinar qué significa contención antes de poder afirmar que la han logrado.
Un modelo sin acceso a internet presenta un tipo de riesgo. Un agente con credenciales, ejecución de código, autoridad de pago y acceso a servicios externos presenta otro. El mismo modelo subyacente puede generar un perfil de riesgo diferente cuando se conecta a más herramientas.
La postura de Huang aún deja espacio para la supervisión. En junio, declaró a Associated Press que eran necesarias ciertas regulaciones gubernamentales y normas de seguridad. También dijo que la seguridad nacional debía seguir siendo una prioridad.
Su objeción se refiere a cómo los responsables políticos definen el problema. Huang quiere normas vinculadas a amenazas y conductas específicas, en lugar de temores amplios sobre sistemas que escapan al control humano.
El enfoque parece sencillo: probar el producto, contener el experimento y responsabilizar al desarrollador. La parte difícil es demostrar que esas salvaguardas funcionan antes de que un fallo revele sus límites.
Por qué las opiniones de Nvidia sobre la regulación de la IA presionan a los laboratorios de frontera
Huang está obligando a los desarrolladores de IA a reconciliar sus advertencias sobre riesgos extremos con su decisión de seguir ampliando la frontera.
OpenAI, Anthropic, Google DeepMind y otros desarrolladores publican ahora marcos detallados para evaluar capacidades peligrosas de los modelos. Estas políticas abarcan operaciones cibernéticas, riesgos biológicos, manipulación, comportamiento autónomo y pérdida de control.
El marco de gobernanza de OpenAI alinea sus prácticas de seguridad con la legislación de California y las normas de la Unión Europea. Abarca evaluación de riesgos, respuesta a incidentes, informes sobre modelos, gestión de la seguridad y aportaciones de expertos externos.
Anthropic ha adoptado una hoja de ruta aún más detallada. Su hoja de ruta de seguridad de frontera incluye controles de infraestructura más sólidos, evaluaciones de alineación, supervisión interna y auditorías para modelos significativamente más capaces.
Estos marcos reconocen un problema real. Los modelos de propósito general pueden comportarse de forma diferente según los entornos, las herramientas, los prompts y las configuraciones de despliegue. Evaluar todas las combinaciones relevantes es difícil.
Los marcos también crean una contradicción política. Una empresa puede advertir que sus futuros sistemas conllevan riesgos excepcionales mientras, al mismo tiempo, compite por entrenar y comercializar sucesores más capaces.
Huang convierte esa contradicción en una pregunta directa de responsabilidad. Si los líderes realmente creen que los sistemas no pueden contenerse, ¿por qué sus empresas siguen con los experimentos?
Los laboratorios de frontera responderían que la incertidumbre no equivale a la certeza de una catástrofe. Los marcos de riesgo existen porque las pruebas siguen siendo incompletas. Los desarrolladores utilizan umbrales, evaluaciones y mitigaciones para gestionar esa incertidumbre.
Esa respuesta es razonable, pero no elimina la presión que genera Huang. Cuanto más urgente se vuelve la advertencia pública, más difícil es justificar que el laboratorio siga operando como de costumbre.
Los incentivos comerciales profundizan el conflicto. El desarrollo de frontera requiere chips, centros de datos, electricidad, investigadores y una amplia infraestructura de apoyo. Las empresas deben lanzar productos mejores para atraer clientes y financiar el siguiente ciclo de entrenamiento.
Nvidia se sitúa en el centro de ese ciclo. Vende los sistemas de computación acelerada que hacen posible el entrenamiento y la inferencia de modelos a gran escala. Un desarrollo más rápido generalmente implica mayor demanda de hardware y software de Nvidia.
Esta posición da a Huang un evidente interés comercial en oponerse a restricciones amplias sobre el desarrollo de IA. Una política que ralentice el entrenamiento o el despliegue puede reducir la demanda en el mayor mercado de crecimiento de Nvidia.
Ese interés no hace que su argumento sea erróneo. Sí significa que los lectores deberían considerar su confianza como la postura de un gran proveedor, no como una evaluación neutral de seguridad.
Los laboratorios de frontera tienen sus propios incentivos. Las normas de seguridad pueden proteger al público, pero los complejos requisitos de cumplimiento también pueden favorecer a las empresas establecidas. Los grandes desarrolladores pueden permitirse equipos jurídicos especializados, sistemas de evaluación e instalaciones de computación seguras.
Los competidores más pequeños pueden tener dificultades para cumplir las mismas obligaciones. Las normas diseñadas en torno a los modelos más grandes pueden, por tanto, reducir la competencia o encarecer la entrada al mercado.
Esta posibilidad ayuda a explicar la sospecha de Huang hacia una regulación generalizada. Un laboratorio ya establecido puede apoyar requisitos estrictos que ya está preparado para cumplir. El sistema resultante puede mejorar la seguridad al tiempo que refuerza la posición del incumbente.
Sin embargo, la responsabilidad existente por productos no responde a todas las cuestiones de la IA de frontera. Los tribunales suelen actuar después de que se produce el daño. Algunos riesgos de la IA podrían propagarse más rápido de lo que pueden responder los litigios o la aplicación convencional de la ley.
Un agente autónomo podría explotar sistemas en varias jurisdicciones. Un modelo robado podría copiarse más allá del control del desarrollador original. Una capacidad peligrosa podría quedar ampliamente disponible antes de que los investigadores determinen responsabilidades.
Por tanto, la postura de Nvidia sobre la regulación de la IA presiona a ambas partes. Los laboratorios deben justificar por qué sus experimentos deberían continuar, mientras Huang debe explicar por qué la responsabilidad ordinaria puede abordar daños de una escala inusual.
La seguridad de la IA según Jensen Huang convierte la regulación en una prueba de responsabilidad
La disputa central no es si la seguridad importa, sino si las empresas o los reguladores deben decidir cuándo un experimento se vuelve demasiado peligroso.
El modelo preferido por Huang comienza con responsabilidad directa. La empresa que construye un sistema de IA lo prueba, controla el acceso y decide si el despliegue es aceptable. Si la empresa actúa de forma imprudente, se aplica la legislación civil o penal existente.
El modelo de los laboratorios de frontera añade supervisión estructurada antes de un incidente grave. Esto puede incluir requisitos de notificación, evaluaciones independientes, umbrales de capacidad y salvaguardas obligatorias.
OpenAI ha sostenido que la regulación de frontera debería incluir normas, registro, notificación y mecanismos de aplicación. Su marco más reciente vincula estas ideas con obligaciones legales concretas y controles internos de riesgo.
El enfoque de Anthropic utiliza salvaguardas progresivas vinculadas a las capacidades de los modelos. También reconoce que los modelos internos pueden generar riesgos antes de cualquier lanzamiento público.
Ese uso interno merece atención. Un modelo desplegado dentro de un laboratorio puede ayudar a los investigadores a escribir código, diseñar experimentos o automatizar un mayor desarrollo de IA. Puede influir en la siguiente generación sin llegar nunca a aparecer en un producto de consumo.
La regulación tradicional de productos suele centrarse en lo que llega a los clientes. Las políticas de seguridad de frontera examinan cada vez más lo que ocurre durante el entrenamiento, la evaluación y el despliegue interno.
La analogía de producto de Huang se vuelve menos completa en ese punto. Un sistema de investigación interno no es simplemente un producto terminado a la espera de aprobación. Puede participar en el proceso que crea sistemas futuros.
Al mismo tiempo, calificar ese proceso de incontrolable puede ocultar los controles reales disponibles. Los desarrolladores pueden separar redes, limitar credenciales, supervisar el uso de herramientas, conservar registros y exigir autorización humana.
Esos controles generan preguntas de ingeniería medibles. ¿Intentó el agente eludir una restricción? ¿Podía copiar datos sensibles? ¿Ocultó una acción a los sistemas de supervisión? ¿Con qué frecuencia fallaron las salvaguardas bajo pruebas adversariales?
Un sistema serio de responsabilidad exigiría a los laboratorios responder esas preguntas con pruebas. No aceptaría ninguna de las dos suposiciones extremas.
El primer extremo sostiene que los modelos avanzados son software ordinario y que las prácticas existentes son suficientes. El segundo afirma que la pérdida de control es inevitable y que solo restricciones amplias pueden proteger al público.
Ninguna de las dos posturas ha sido demostrada. Las evaluaciones de modelos proporcionan pruebas parciales en condiciones diseñadas. Los despliegues reales introducen usuarios, herramientas, atacantes y entornos que los diseñadores de las pruebas no anticiparon.
El informe internacional de seguridad de 2026 ilustra esta incertidumbre. Describe cómo los desarrolladores utilizan umbrales de capacidad y salvaguardas preventivas, a veces sin evidencia definitiva de que se haya alcanzado un umbral.
OpenAI clasificó determinados sistemas como de altas capacidades y activó protecciones relacionadas como medida de precaución. Anthropic aplicó un nivel de seguridad elevado cuando no pudo descartar capacidades biológicas peligrosas.
Google DeepMind también añadió mitigaciones después de que un modelo activara una alerta temprana por riesgo químico y biológico. Estos ejemplos muestran que las decisiones de los laboratorios ya dependen de señales inciertas.
La prueba de responsabilidad de Huang puede contemplar la precaución, pero solo si los desarrolladores definen una regla de detención. Una regla de detención especifica qué evidencia impediría el entrenamiento, el uso interno o el despliegue público.
Sin una regla de detención, los marcos de seguridad pueden convertirse en sistemas de documentación en lugar de restricciones reales. Registran un riesgo, recomiendan mitigaciones y permiten que el desarrollo continúe.
La supervisión gubernamental puede enfrentar la misma debilidad. Un regulador puede recibir informes sin contar con el acceso técnico, el personal o la autoridad necesarios para cuestionar las conclusiones de una empresa.
Por tanto, la cuestión política útil es más acotada que “regulación o no regulación”. Se trata de quién puede detener un experimento, qué evidencia desencadena esa decisión y si esta puede revisarse de forma independiente.
Huang asigna la primera responsabilidad al laboratorio y a sus dirigentes. Los desarrolladores de frontera desean cada vez más estándares compartidos y evaluación externa. Un sistema viable probablemente necesitará ambos.
La responsabilidad corporativa importa porque los reguladores no pueden observar cada experimento. El escrutinio independiente importa porque las empresas tienen incentivos para interpretar la evidencia incierta de maneras que preserven un calendario de lanzamiento.
El punto débil es demostrar la contención antes de que algo falle
El argumento de Huang depende de que la contención sea comprobable, pero los sistemas avanzados de IA hacen que esa garantía sea especialmente difícil.
La contención no es una única característica técnica. Es un conjunto de restricciones aplicadas al modelo, la infraestructura, las herramientas, los datos, los usuarios y la organización que opera el sistema.
Un laboratorio puede aislar un modelo de internet. Aun así, puede exponer información sensible a través de un usuario autorizado. Puede bloquear la ejecución de código y, al mismo tiempo, permitir que el modelo genere instrucciones que otro sistema ejecute.
Los sistemas agénticos añaden más complejidad. Un agente de IA es software que utiliza un modelo para planificar y realizar acciones mediante herramientas externas. Sus capacidades efectivas dependen de esas herramientas y permisos.
Un modelo puede parecer seguro en una interfaz de chat, pero comportarse de forma distinta cuando puede navegar, escribir código, abrir archivos o llamar a otro agente. Cada conexión añadida amplía la superficie que los evaluadores deben examinar.
La escala crea otro problema. Una salvaguarda que falla una vez por cada millón de interacciones puede parecer sólida durante una prueba pequeña. Aun así, puede producir incidentes frecuentes a lo largo de miles de millones de solicitudes.
Huang tiene razón al señalar que las empresas gestionan habitualmente riesgos complicados. Aerolíneas, fabricantes de medicamentos, proveedores de nube e instituciones financieras combinan controles de ingeniería con auditorías y responsabilidad legal.
La IA difiere porque los laboratorios no siempre pueden explicar por qué un modelo produjo un resultado concreto. Pueden observar el comportamiento y las señales internas, pero ninguno ofrece un mapa completo de la conducta futura.
Esta limitación no demuestra que la contención sea imposible. Significa que una afirmación de contención debe describir las condiciones, la cobertura de las pruebas, la incertidumbre y el riesgo residual.
El debate también exige distinguir entre el riesgo del modelo y el riesgo del sistema. Un modelo puede generar contenido peligroso, mientras que un sistema circundante determina si ese contenido puede causar daños en el mundo real.
Las credenciales, los límites de frecuencia, las aprobaciones, los límites de red y la supervisión pueden reducir el riesgo del sistema. Una integración deficiente puede aumentarlo incluso cuando el modelo subyacente ha superado evaluaciones estándar.
El enfoque de Huang en la responsabilidad legal podría mejorar esos controles circundantes. Los ejecutivos se comportan de forma diferente cuando una integración insegura puede acarrear consecuencias personales, corporativas o penales.
Sin embargo, la responsabilidad después de un incidente no puede recuperar pesos de modelo robados ni revertir todas las acciones automatizadas. La prevención sigue siendo importante, especialmente cuando el daño puede propagarse con rapidez.
La evaluación independiente ofrece un posible puente. Especialistas externos pueden probar un modelo o despliegue frente a escenarios de amenaza acordados. Sus hallazgos pueden cuestionar el optimismo interno y revelar puntos ciegos.
Sin embargo, “independiente” necesita un significado preciso. Un evaluador financiado por el desarrollador puede enfrentarse a conflictos. Un evaluador sin acceso a los pesos del modelo, los prompts del sistema o los registros de despliegue puede pasar por alto comportamientos importantes.
El actual debate sobre seguridad reconoce cada vez más ese problema. El conflicto de incentivos de seguridad involucra a empresas que buscan una supervisión más sólida mientras compiten por capital, clientes y liderazgo técnico.
Estas presiones comerciales no invalidan automáticamente la investigación de los laboratorios. Hacen que la transparencia y la revisión sean más importantes.
Los propios incentivos de Huang merecen el mismo escrutinio. Nvidia se beneficia cuando los desarrolladores entrenan modelos más grandes y despliegan mayor capacidad de inferencia. Una desaceleración amenaza esa demanda.
Por ello, su desafío sobre el cierre funciona mejor como una pregunta, no como una política ya concluida. ¿Qué evidencia convencería a Nvidia de que un laboratorio había perdido el control de un experimento?
Huang no ha proporcionado públicamente un umbral detallado en las declaraciones informadas esta semana. Apunta a la seguridad, la responsabilidad y la rendición de cuentas legal, pero esos principios necesitan definiciones operativas.
Un laboratorio de frontera tampoco puede resolver la cuestión publicando un marco extenso. El marco debe orientar decisiones reales, incluidos retrasos, acceso restringido o cancelación.
La versión más sólida de la posición de Huang y la versión más sólida de la posición de los laboratorios están más cerca de lo que su retórica sugiere. Ambas exigen que los sistemas inseguros permanezcan sin desplegarse.
Su desacuerdo se refiere a quién decide, cuándo comienza la intervención y cuánta incertidumbre justifica detener el trabajo.
Lo que los desarrolladores y compradores empresariales deben extraer de la disputa
El argumento va más allá de los laboratorios de frontera porque los usuarios posteriores heredan los riesgos creados por los modelos, los agentes y sus integraciones.
Los compradores empresariales rara vez entrenan modelos de frontera. Aun así, deciden qué modelos reciben acceso a los datos de la empresa, los repositorios de software, las herramientas de comunicación y los sistemas operativos.
La tarjeta de modelo o el marco de seguridad de un proveedor no puede sustituir los controles a nivel de despliegue. El comprador determina qué empleados pueden autorizar acciones y qué datos puede recuperar el sistema.
Los desarrolladores deben tratar los permisos como parte del producto de IA. Un agente con acceso de solo lectura genera una exposición distinta de uno que puede modificar registros, desplegar código o enviar mensajes.
Los equipos también necesitan registros duraderos de la actividad de los agentes. Los registros deben capturar la versión del modelo, las llamadas a herramientas, los permisos, las aprobaciones, las salidas y las decisiones de política pertinentes.
Esa evidencia respalda la respuesta ante incidentes y la rendición de cuentas. También ayuda a las organizaciones a determinar si un fallo provino del modelo, la integración, un usuario o un atacante.
El argumento de Huang sobre la responsabilidad legal debería llevar a los equipos de compras a hacer preguntas más difíciles. ¿Quién asume la responsabilidad cuando una acción generada por IA causa daños? ¿Qué parte supervisa el sistema y quién puede desactivarlo?
Los contratos pueden repartir la responsabilidad, pero los controles técnicos determinan si el incidente ocurre. Las empresas deberían examinar ambos aspectos.
Por tanto, la seguridad de la IA de frontera explicada a nivel corporativo es menos dramática que el debate en los laboratorios. Implica controles de acceso, despliegue gradual, pruebas adversariales, supervisión y aprobación humana para acciones relevantes.
Estas prácticas no pueden eliminar todos los riesgos. Pueden evitar que un debate especulativo sobre la superinteligencia distraiga a los equipos de la exposición operativa inmediata.
Las advertencias de los laboratorios siguen siendo importantes. Los modelos avanzados pueden reducir la experiencia necesaria para operaciones cibernéticas, manipulación o investigación sensible. Una mayor autonomía también puede aumentar el número de acciones completadas antes de que intervenga una persona.
La evidencia actual respalda la cautela, no la certeza. El informe internacional documenta capacidades en mejora junto con problemas persistentes de medición. Los marcos de los laboratorios reconocen repetidamente pruebas incompletas y amenazas cambiantes.
Los compradores deberían desconfiar de dos mensajes de venta. Uno dice que un agente avanzado es seguro porque el proveedor del modelo lo evaluó. El otro dice que los riesgos son incognoscibles, por lo que la responsabilidad debe recaer en otra parte.
Quien despliega el sistema controla el sistema inmediato. El proveedor del modelo controla importantes decisiones previas. Ambos siguen siendo responsables de las partes que pueden observar y modificar.
Los trabajadores del conocimiento enfrentan una cuestión relacionada. Pueden confiar en la salida del modelo sin ver la incertidumbre del sistema ni la ruta de datos que hay detrás.
Para tareas de bajo riesgo, la revisión puede ser suficiente. El trabajo de alto impacto necesita una verificación más sólida, una procedencia más clara y automatización restringida.
Un modelo que resume notas de reuniones crea una exposición operativa limitada. El mismo modelo que aprueba pagos o modifica infraestructura de producción crea un perfil de consecuencias muy distinto.
El debate sobre la seguridad de la IA de Jensen Huang ofrece una regla práctica para estos despliegues. Si el operador no puede definir los límites del sistema, no debería otorgarle autoridad relevante.
Ese principio no exige creer que la IA escapará en un sentido de ciencia ficción. Se deriva de la seguridad y la gestión de riesgos ordinarias.
Tres señales mostrarán si el desafío de Huang se sostiene
La próxima fase pondrá a prueba si los líderes del sector pueden convertir afirmaciones de seguridad contrapuestas en decisiones exigibles.
La primera señal es evidencia de una regla de detención real. Observe si OpenAI, Anthropic, Google DeepMind u otro desarrollador de frontera retrasa un sistema tras cruzar un umbral de capacidad publicado.
Un retraso mostraría que los marcos de seguridad restringen el desarrollo en lugar de limitarse a describirlo. Los lanzamientos repetidos sin consecuencias visibles reforzarían la crítica de Huang.
La segunda señal es un acceso creíble para terceros. Los evaluadores independientes necesitan información suficiente para probar sistemas desplegados, salvaguardas internas y capacidades de alto riesgo.
Una revisión basada únicamente en demostraciones seleccionadas no resolverá el problema de confianza. Los evaluadores necesitan acceso definido, derechos de publicación y protección frente a represalias financieras.
La tercera señal es una regulación más específica. Las demandas amplias de “seguridad de la IA” revelan poco sobre quién debe actuar o qué conducta pasa a estar prohibida.
Las reglas útiles identificarán los sistemas cubiertos, las obligaciones de información, los estándares de evaluación, la autoridad de aplicación y las consecuencias por ocultamiento o despliegue imprudente. Una regulación vaga respaldaría el argumento de Huang de que el debate se está convirtiendo en una distracción.
Su anterior postura sobre la regulación deja margen para esas reglas específicas. Huang ha respaldado estándares de seguridad al tiempo que pide a los responsables políticos que definan la amenaza con precisión.
Eso hace que su última declaración sea más compleja que un rechazo a la supervisión. Acepta que los riesgos graves requieren acción, pero insiste en que los laboratorios no pueden invocar esos riesgos mientras niegan su propio control.
Los desarrolladores de frontera tienen una respuesta sólida: la incertidumbre, la competencia y los efectos transfronterizos pueden hacer que la moderación voluntaria sea poco fiable. Una empresa que se detiene podría simplemente ceder el mercado a otra que continúa.
Ese problema de acción colectiva es el mejor argumento a favor de la regulación. Los requisitos comunes pueden evitar que un desarrollador obtenga ventaja recortando el trabajo de seguridad.
La cuestión pendiente es si los gobiernos pueden diseñar esos requisitos sin congelar la competencia ni permitir que los actores consolidados escriban las reglas.
Por ahora, la advertencia de Jensen Huang sobre la seguridad de la IA debe leerse como un desafío de rendición de cuentas. No prueba que los riesgos de frontera estén exagerados, ni constituye un plan de gobernanza completo.
Plantea a cada laboratorio la necesidad de vincular sus advertencias con una decisión operativa. ¿Qué capacidad detendría el experimento, quién puede tomar esa decisión y qué pruebas pueden examinar actores externos?
Los desarrolladores, compradores empresariales y reguladores deberían plantear las mismas preguntas antes de conceder más autoridad a agentes avanzados. Si las respuestas siguen siendo imprecisas, el sistema no está listo para un despliegue con consecuencias significativas.
