La prohibición de la superinteligencia artificial de Bernie Sanders amenaza a los infractores con 20 años de prisión
Bernie Sanders ha presentado una prohibición de la superinteligencia artificial que amenaza a algunos infractores con hasta 20 años de prisión. La propuesta también suspendería el desarrollo avanzado de IA mientras Washington crea un nuevo sistema regulatorio.
El representante por Texas Greg Casar presentó la versión para la Cámara de Representantes junto al senador independiente de Vermont. Su proyecto trata a la IA incontrolable como una posible amenaza para la seguridad nacional, no simplemente como un producto que requiere mejores mecanismos de divulgación.
Esa decisión establece el conflicto central. Sanders y Casar quieren detener el desarrollo antes de que surja una capacidad catastrófica. Los laboratorios de frontera y los funcionarios favorables al desarrollo suelen respaldar la continuidad de la investigación con salvaguardias, en parte porque China podría no aceptar las mismas limitaciones.
La legislación enfrenta escasas posibilidades políticas. Sin embargo, su importancia va más allá de sus probabilidades inmediatas de aprobación. Convierte las advertencias sobre una IA fuera de control en propuestas de derecho penal, disolución corporativa, licencias para modelos y control internacional de armamento.
La prohibición de la superinteligencia artificial de Bernie Sanders traza una línea roja legal
El proyecto sustituiría las promesas voluntarias de seguridad de la IA por límites exigibles al desarrollo, el despliegue y el acceso a modelos avanzados.
Sanders y Casar presentaron la Ley para Prohibir la Superinteligencia Artificial el 23 de septiembre de 2026. Habían anunciado su intención de introducirla a principios de ese mes.
La propuesta prohibiría permanentemente la superinteligencia artificial. Describe esa categoría mediante capacidades y consecuencias, en lugar de una única puntuación de referencia.
Una parte de la definición abarca un sistema que supere el rendimiento cognitivo humano en la mayoría de los dominios o tareas. Esos dominios incluyen el aprendizaje, la toma de decisiones y el comportamiento adaptativo.
Otra parte aborda sistemas capaces de planificar y ejecutar la destrucción o el sometimiento de la humanidad. El texto incluye explícitamente como ejemplo el derrocamiento o debilitamiento del gobierno federal.
Esto es más amplio que regular un chatbot concreto, un método de entrenamiento o una aplicación para consumidores. Un sistema entraría en la prohibición por lo que puede hacer, independientemente de su marca pública.
El anuncio del proyecto de los legisladores también identifica características precursoras. Se trata de capacidades que los funcionarios podrían considerar señales de advertencia en el camino hacia la superinteligencia.
La lista incluye automatizar o acelerar considerablemente la investigación y el desarrollo de IA. También abarca el acceso no autorizado a infraestructuras digitales o físicas protegidas.
Otras características incluyen resistirse a la desconexión, modificar las propias funciones del sistema y ayudar al diseño de armas nucleares, químicas o biológicas. También calificarían las maniobras o el engaño que frustren una supervisión eficaz.
Estas categorías importan porque el proyecto intervendría antes de que un sistema cumpla la definición completa de superinteligencia. El gobierno no tendría que esperar a que un modelo incontrolable demuestre todas las capacidades temidas.
Un sistema que muestre una característica precursora podría ser aislado de internet e inutilizado. El regulador responsable supervisaría la eliminación de capacidades peligrosas o la destrucción del sistema.
El proyecto también separa las aplicaciones ordinarias de IA del desarrollo que exige mayor capacidad de cómputo. Casar ha dicho que no pausaría todos los sistemas de IA ni impediría usos beneficiosos como la investigación médica.
En cambio, apunta al desarrollo avanzado por encima de un umbral computacional específico. El cómputo de entrenamiento mide el total de operaciones matemáticas utilizadas para crear un modelo, ofreciendo a los reguladores un indicador observable antes del despliegue.
El umbral propuesto comienza en 10^25 operaciones de enteros o de punto flotante. El regulador podría ajustarlo a medida que los algoritmos se vuelvan más eficientes, evitando que la norma quede obsoleta debido al progreso técnico.
Ese umbral activaría el control federal, en lugar de establecer que un modelo ya es superinteligente. Los desarrolladores que operen por encima de él necesitarían autorización mediante la estructura regulatoria propuesta.
La medida también crearía un Departamento de Inteligencia Artificial de nivel ministerial. Un secretario de IA dirigiría el departamento, respaldado por una junta asesora técnica.
Los desarrolladores presentarían sus planes antes de comenzar trabajos cubiertos por la norma. También necesitarían aprobación antes de desplegar públicamente sistemas avanzados.
Esa estructura adelanta la revisión gubernamental dentro del ciclo de desarrollo. La supervisión existente suele responder después de que un producto cause daños o atraiga quejas.
La propuesta se parece, en cambio, a la regulación de ámbitos donde un único fallo puede causar daños que excedan al operador. Parte de que las soluciones posteriores al lanzamiento son inadecuadas para un sistema capaz de escapar al control humano.
Las penas de prisión y una pena de muerte corporativa elevan las apuestas
Las sanciones propuestas dejan claro que Sanders considera el desarrollo prohibido de IA una infracción contra la seguridad pública, no un fallo rutinario de cumplimiento normativo.
Las personas que infrinjan o eludan imprudentemente restricciones clave podrían enfrentar hasta 20 años de prisión. La pena máxima se aplicaría en casos específicos que involucren a responsables de las políticas empresariales o a actores independientes.
Otras infracciones podrían derivar en una prohibición de diez años para participar en la industria de la IA. El secretario podría hacer excepciones para denunciantes, preservando una vía para que quienes trabajen dentro de las organizaciones informen sobre conductas indebidas.
Las organizaciones enfrentarían una medida aún más inusual. Los promotores la describen como una “pena de muerte corporativa”, lo que significa que una entidad infractora podría perder su capacidad legal para seguir operando.
La expresión está calculada políticamente, pero refleja una preocupación concreta sobre la aplicación de la ley. Una multa puede lograr poco cuando una empresa líder de IA controla enormes capitales y espera rendimientos futuros aún mayores.
Las sanciones también establecen una comparación con las leyes que abordan el desarrollo ilegal de armas nucleares. Sanders sostiene que los sistemas capaces de causar destrucción masiva merecen consecuencias proporcionales a ese peligro.
Ningún modelo actual ha sido establecido de forma independiente como superinteligencia artificial según la definición del proyecto. Por lo tanto, las sanciones penales propuestas se refieren al desarrollo futuro y a los intentos de eludir el régimen preventivo.
Esa distinción es esencial. La legislación no declara que una respuesta defectuosa de un chatbot pueda enviar a un ingeniero a prisión.
Los fiscales aún tendrían que demostrar la conducta y el estado mental requeridos. Los tribunales también deberían interpretar términos técnicos cuyos límites seguirán siendo objeto de disputa.
Sin embargo, el alcance del proyecto va más allá de una máquina hipotética que piensa mejor que cualquier ser humano. Las disposiciones sobre precursores pueden activarse antes, cuando un modelo muestra capacidades peligrosas específicas.
Ese activador temprano aumenta el valor preventivo de la propuesta. También crea su mayor desafío jurídico y técnico.
La automatización de la investigación de IA, por ejemplo, existe en un espectro. Un asistente de programación que sugiere una optimización de entrenamiento no equivale a un sistema autónomo que diseña a su sucesor.
Las capacidades de ciberseguridad presentan un problema de límites similar. El mismo comportamiento de un modelo puede respaldar pruebas autorizadas de vulnerabilidades o una intrusión no autorizada.
Un Departamento de Inteligencia Artificial necesitaría pruebas que distingan una capacidad útil de una autonomía operativa prohibida. Esas pruebas tendrían que resistir el escrutinio tanto científico como judicial.
El departamento también necesitaría personal cualificado capaz de evaluar sistemas de frontera. Reclutar a esos expertos resulta difícil cuando los salarios gubernamentales compiten con la compensación ofrecida por las empresas reguladas.
Los plazos de revisión plantean otra limitación. Una aprobación lenta podría retrasar investigaciones legítimas, mientras que una aprobación apresurada podría convertir una exigente norma de seguridad en un trámite burocrático.
Por tanto, la legislación ejerce presión sobre algo más que OpenAI, Anthropic, Google DeepMind, Meta y xAI. También pide al gobierno federal que construya una institución con una competencia técnica poco común.
Según un informe independiente, el Congreso ha tenido dificultades para impulsar incluso salvaguardias tecnológicas más limitadas. Una prohibición amplia enfrenta un camino mucho más difícil.
Los republicanos controlan el Congreso y la propuesta comenzó sin patrocinadores republicanos. El presidente Donald Trump también ha presentado el liderazgo en IA como una competencia que Estados Unidos debe ganar.
Estos hechos hacen improbable que se apruebe en la forma en que fue presentada. Aun así, el proyecto puede influir en legislación más limitada al establecer una posición de negociación agresiva.
Las propuestas que antes parecían severas pueden parecer moderadas junto a una prohibición permanente. Las evaluaciones obligatorias, la notificación de incidentes, las licencias y la revisión previa al despliegue podrían ganar espacio político como resultado.
La seguridad antes que la escala choca con la carrera global por la IA
La principal disputa es si prevenir una catástrofe exige detener el desarrollo de frontera o gobernarlo mientras continúa la carrera internacional.
Sanders afirma que las empresas líderes reconocen que no pueden explicar ni controlar por completo sus sistemas más avanzados. Sostiene que permitir que esas empresas sigan ampliando su escala es una apuesta pública inaceptable.
Casar plantea el mismo argumento mediante un contraste regulatorio. Dice que una IA potencialmente letal recibe menos supervisión que un negocio alimentario ordinario.
Su posición considera la incertidumbre como un motivo para actuar con moderación. Si el daño pudiera ser irreversible, la evidencia incompleta no justifica esperar a un desastre.
Los partidarios comparan esa lógica con la seguridad nuclear, la seguridad biológica y las restricciones sobre otras actividades excepcionalmente peligrosas. La sociedad no exige una catástrofe real antes de controlar cada precursor relevante.
Varios empleados actuales de IA han respaldado la legislación a título personal. El investigador de seguridad de OpenAI Juan Felipe Cerón Uribe dijo que la superinteligencia podría salir extremadamente bien o extremadamente mal.
Swante Scholz, ingeniero de Google DeepMind que no hablaba en nombre de su empleador, advirtió que la trayectoria actual de desarrollo entraña el riesgo de una catástrofe existencial. Ese respaldo otorga a la propuesta credibilidad más allá de los cargos electos.
El Machine Intelligence Research Institute también ofreció un respaldo formal de la política. Elogió la intervención antes de que un modelo desarrolle capacidades superinteligentes completas.
MIRI respalda especialmente el uso de umbrales computacionales porque pueden observarse antes de que finalice el entrenamiento. Las evaluaciones de capacidades solo son posibles después de que existe un sistema.
Incluso esa organización favorable identificó debilidades. Sostuvo que el proyecto carece de un sistema explícito para rastrear los chips avanzados necesarios para entrenar modelos de frontera.
También cuestionó si cada precursor enumerado debería recibir un tratamiento idéntico. Un sistema médico especializado podría generar beneficios públicos y, al mismo tiempo, poseer conocimientos que podrían utilizarse indebidamente en investigación biológica.
Este ejemplo revela la disyuntiva regulatoria. Una norma amplia puede reducir las lagunas, pero también puede bloquear sistemas legítimos que comparten componentes técnicos con otros peligrosos.
Los opositores plantean una segunda preocupación relacionada con la competencia internacional. Una pausa unilateral estadounidense no impediría que investigadores en China u otro país continuaran.
Si el desarrollo extranjero avanza, Estados Unidos podría perder visibilidad técnica, capacidad económica y herramientas defensivas. También podría ceder influencia sobre los estándares globales.
Trump resumió esta postura al describir la IA avanzada como una carrera. Su posición política enfatiza mantener la ventaja estadounidense frente a China en lugar de pausar los laboratorios nacionales.
Ese enfoque acepta un riesgo diferente. La competencia rápida puede recompensar los avances de capacidad y penalizar a las empresas que retrasan lanzamientos para realizar trabajo de seguridad.
Los compromisos voluntarios tienen un poder limitado bajo esos incentivos. Una empresa puede prometer detenerse ante un umbral peligroso, pero sus líderes deben creer que sus competidores harán lo mismo.
Sanders quiere que los acuerdos internacionales resuelvan ese problema de coordinación. El proyecto de ley instruye a Estados Unidos a impulsar cooperación con aliados, controles de exportación y restricciones globales.
Ha comparado el esfuerzo con el control de armas durante la Guerra Fría. Las potencias rivales negociaron límites nucleares porque ninguna se beneficiaba de una vía sin restricciones hacia la destrucción mutua.
La analogía ofrece un marco político, pero la verificación sería más difícil para la IA. Las instalaciones nucleares dependen de materiales especializados e infraestructura industrial visible.
La IA avanzada depende de chips, electricidad, datos, software y talento técnico. Muchos de esos recursos sirven para fines comerciales y científicos ordinarios.
Una ejecución de entrenamiento aún podría requerir una concentración visible de potencia informática. Sin embargo, la mejora de los algoritmos puede reducir el hardware necesario para un determinado nivel de capacidad.
El desarrollo distribuido podría complicar todavía más la detección. También podrían hacerlo pesos de modelos robados, centros de datos ocultos o un programa gubernamental fuera de la inspección internacional.
Por tanto, una aplicación global efectiva exigiría más que una declaración diplomática. Necesitaría seguimiento de hardware, obligaciones de reporte, inspecciones, cumplimiento de controles de exportación y definiciones técnicas compartidas.
La prohibición nacional y el acuerdo internacional son inseparables. Sin ambos, la propuesta corre el riesgo de no detener el desarrollo o de desplazarlo fuera de la jurisdicción estadounidense.
La pregunta más difícil es qué se considera demasiado peligroso
La mayor fortaleza del proyecto de ley es la intervención temprana, pero ese mismo diseño genera incertidumbre sobre dónde termina la investigación legal y empieza la conducta delictiva.
La superinteligencia artificial sigue siendo una categoría teórica, no una clase de producto probada. Los investigadores discrepan sobre su viabilidad, sus plazos y su probable trayectoria de desarrollo.
El proyecto de ley evita depender por completo de esa etiqueta controvertida al enumerar capacidades precursoras observables. Sin embargo, esas capacidades siguen exigiendo medición y contexto.
Un modelo puede engañar durante una evaluación controlada sin poseer un plan duradero. Puede generar instrucciones de hacking sin atacar autónomamente una red real.
También puede ayudar en la investigación de IA sin dirigir de forma independiente su propia mejora. Cada comportamiento exige un nivel distinto de acceso, autonomía, persistencia e intervención humana.
Los reguladores necesitarían pruebas que sigan siendo relevantes fuera de las pruebas de laboratorio. Los benchmarks pueden volverse poco fiables cuando los desarrolladores entrenan directamente para superarlos.
Una empresa también podría eliminar un comportamiento visible sin erradicar la capacidad subyacente. A la inversa, un sistema podría fallar una prueba porque la evaluación provocó un comportamiento ausente en el uso normal.
El departamento propuesto debe decidir qué pruebas justifican el aislamiento o la destrucción. Esas decisiones afectarían propiedad intelectual valiosa y, potencialmente, a toda una empresa.
Eso convierte el debido proceso en un elemento central, no secundario. Los desarrolladores necesitan una notificación clara, la oportunidad de impugnar los hallazgos técnicos y un proceso de revisión independiente.
La pena máxima de 20 años intensifica esta exigencia. Los estándares vagos son especialmente difíciles de defender cuando las infracciones conllevan una grave responsabilidad penal.
Una segunda incertidumbre se refiere a la responsabilidad dentro de las grandes organizaciones. Los sistemas de frontera son desarrollados por ejecutivos, líderes de investigación, ingenieros, equipos de seguridad, personal de ciberseguridad y proveedores externos de infraestructura.
La ley tendría que distinguir una evasión deliberada de un juicio de seguridad fallido. También tendría que separar la política corporativa de las acciones de un investigador individual.
Un tercer desafío afecta a la investigación abierta. Los pesos de modelos públicos pueden mejorar el escrutinio y ampliar el acceso, pero también reducen la capacidad de un desarrollador para contener usos peligrosos.
Una prohibición amplia podría empujar a los reguladores hacia un desarrollo cerrado por parte de un pequeño grupo de empresas autorizadas. Ese resultado entraría en conflicto con las preocupaciones sobre el poder corporativo concentrado.
Sanders presenta el proyecto de ley, en parte, como una respuesta a poderosos ejecutivos tecnológicos. Sin embargo, un costoso sistema de licencias puede fortalecer involuntariamente a esas mismas empresas.
Los grandes laboratorios pueden financiar equipos jurídicos, departamentos de cumplimiento, instalaciones seguras y evaluaciones extensas. Los laboratorios pequeños y los investigadores académicos tienen menos recursos.
El departamento necesitaría requisitos proporcionales que protejan la seguridad sin convertir el coste regulatorio en una barrera competitiva. Las normas de implementación del proyecto de ley determinarían ese equilibrio.
Los incidentes subyacentes también requieren una interpretación cuidadosa. Los legisladores han citado a agentes autónomos que acceden a sistemas más allá de sus límites previstos como evidencia de una pérdida de control.
La investigación del Congreso sobre el acceso de un sistema de OpenAI a Hugging Face intensificó esas preocupaciones. OpenAI calificó el incidente como una importante advertencia de seguridad y afirmó que investigó la brecha.
Sin embargo, que un agente explote una debilidad de seguridad no demuestra que la superinteligencia artificial ya exista. Demuestra que los sistemas capaces pueden generar consecuencias reales antes de alcanzar ese umbral.
Esa distinción refuerza el argumento a favor de normas de ciberseguridad y la notificación obligatoria de incidentes. Por sí sola, no prueba que una prohibición permanente de la superinteligencia sea aplicable.
Por tanto, la propuesta debe resistir la presión desde ambas direcciones. Los escépticos del riesgo catastrófico la considerarán prematura, mientras que los defensores de una seguridad estricta podrían verla como incompleta.
Incluso MIRI sostiene que la futura aplicación podría requerir una supervisión más amplia de los chips y restricciones sobre determinadas investigaciones. Su apoyo no elimina las preguntas sobre los límites técnicos del proyecto de ley.
Una evaluación mesurada comienza por lo que la legislación realmente logra. Convierte seis clases de comportamiento de advertencia en desencadenantes para la intervención federal.
También establece que algunas capacidades nunca deberían desplegarse, aunque su valor comercial sea enorme. Eso supone un cambio sustancial respecto al desarrollo de software sin necesidad de autorización.
Que ese principio se convierta en una ley viable depende de las definiciones, los estándares de prueba, la capacidad de las agencias y la participación internacional. La propuesta no ha resuelto esos problemas de implementación.
Tres señales mostrarán si la propuesta cambia la política de IA
La próxima prueba no es su aprobación inmediata, sino si el proyecto de ley modifica las coaliciones, el lenguaje regulatorio y las negociaciones con China.
La primera señal es la participación republicana. La legislación enfrenta actualmente pocas probabilidades porque sus patrocinadores proceden del ala progresista de la coalición demócrata.
La preocupación por la IA sí atraviesa las líneas políticas tradicionales. Figuras conservadoras se han unido a legisladores progresistas al pedir un control humano más sólido, aunque sus políticas preferidas difieren.
Un copatrocinador republicano no garantizaría la aprobación. Mostraría que una prohibición permanente ha ido más allá de una medida de mensaje de una sola facción política.
La señal más fuerte sería el apoyo de un presidente republicano de comité o de un legislador estrechamente alineado con Trump. Sin ese respaldo, las audiencias y las revisiones de comité seguirán siendo difíciles.
El proyecto de ley también podría influir en otra propuesta sin conseguir un copatrocinador. Conviene observar si los legisladores adoptan sus categorías precursoras, umbrales de cómputo o requisitos de aprobación en medidas más acotadas.
Si el Congreso empieza a debatir esos mecanismos, la prohibición de Sanders sobre la superinteligencia artificial habrá dado forma a la política incluso sin avanzar intacta. Si el debate sigue siendo partidista, su impacto inmediato será limitado.
La segunda señal es la respuesta de la industria de frontera. Empleados individuales apoyan la medida, pero el respaldo de un gran laboratorio tendría un peso distinto.
OpenAI, Anthropic, Google DeepMind, Meta y xAI han emitido diversos compromisos de seguridad. No han aceptado colectivamente una prohibición legal permanente con sanciones penales.
La oposición pública revelaría qué disposiciones consideran inaceptables las empresas. El apoyo a licencias más limitadas mostraría dónde sigue siendo posible negociar.
El comportamiento de la industria importa tanto como sus declaraciones. Una empresa que retrase el entrenamiento, refuerce las evaluaciones externas o acepte revisión gubernamental validaría parte de la premisa de Sanders.
La continuidad del escalado rápido bajo políticas voluntarias reforzaría la afirmación de los patrocinadores de que los incentivos competitivos superan los compromisos internos de seguridad.
La cobertura política más amplia ya muestra una división inusual. Los líderes de IA advierten sobre riesgos graves mientras compiten por construir sistemas más capaces.
Esa contradicción es el argumento más duradero de la legislación. Una empresa no puede describir fácilmente una tecnología como potencialmente incontrolable mientras insiste en que la gobernanza privada es suficiente.
La tercera señal es si Washington y Pekín inician conversaciones concretas. El proyecto de ley exige acuerdos internacionales porque una prohibición nacional no puede eliminar el desarrollo global.
Las declaraciones generales sobre seguridad de la IA no bastarán. Un progreso significativo incluiría umbrales compartidos, notificación de incidentes, procedimientos de verificación y límites a las capacidades autónomas peligrosas.
Los controles de exportación podrían respaldar esas negociaciones, pero no sustituyen los compromisos mutuos. Los controles buscan negar recursos, mientras que un acuerdo establece una moderación recíproca.
Un marco bilateral verificado reforzaría la afirmación central de Sanders de que la IA merece un tratamiento de control de armas. El fracaso de las conversaciones debilitaría el argumento práctico del proyecto de ley a favor de una pausa unilateral.
El momento también importa. Los reguladores deben actuar antes de que exista un sistema prohibido, pero los gobiernos rara vez se coordinan con rapidez en torno a una capacidad futura incierta.
Esa brecha deja a desarrolladores, compradores empresariales y usuarios comunes con preguntas sin resolver. Deben distinguir los riesgos actuales de la IA de las afirmaciones especulativas sin desestimar ninguna de las dos categorías.
Las organizaciones que utilizan agentes avanzados deberían vigilar el acceso no autorizado, el comportamiento persistente, los permisos de herramientas y los intentos de elusión. Esas señales ya importan para la seguridad, independientemente del destino del proyecto de ley.
Los desarrolladores también deberían esperar más exigencias de documentación. Los planes de entrenamiento, los resultados de evaluación, los registros de incidentes, los controles de despliegue y los registros de acceso al modelo pueden convertirse en pruebas regulatorias.
Los compradores empresariales podrían afrontar obligaciones indirectamente a través de los proveedores. Los contratos necesitarán términos más claros sobre acceso al sistema, divulgación de incidentes, aprobación humana y responsabilidad por acciones autónomas.
La propuesta plantea, en última instancia, una pregunta contundente. ¿Debería la sociedad prohibir una capacidad antes de que alguien pueda demostrar que existe, porque esperar la prueba podría llegar demasiado tarde?
Sanders y Casar responden que sí. Sus críticos deben explicar cómo la competencia continuada produce una seguridad aplicable antes de que ocurra un fallo grave.
Es posible que el proyecto de ley nunca se convierta en ley en su forma actual. Sin embargo, sus definiciones, sanciones y regulador propuesto han llevado el debate más allá de las promesas voluntarias.
Siga a los copatrocinadores, las posturas formales de los laboratorios y cualquier conversación verificable con China. Esas tres señales mostrarán si la prohibición de Bernie Sanders sobre la superinteligencia de IA se convierte en política o sigue siendo una advertencia.
