La crítica de Joe Lonsdale a la regulación de la IA pone bajo presión la campaña de seguridad de Anthropic
Joe Lonsdale acusó a las principales empresas de IA de utilizar advertencias sobre riesgos existenciales para influir en las políticas públicas, pese a su propia inversión en Anthropic. Su crítica convierte el debate sobre la regulación de la IA planteado por Joe Lonsdale en un conflicto directo sobre seguridad, competencia y poder político.
Durante el evento Reuters Momentum AI celebrado en Austin el 25 de septiembre, Lonsdale apuntó a personas cercanas a Anthropic y OpenAI. Sostuvo que su apoyo a grupos externos de defensa de causas podría ayudar a unas pocas empresas líderes a definir las normas que rigen la IA.
La acusación llegó cuando el CEO de Anthropic, Dario Amodei, el CEO de OpenAI, Sam Altman, y Elon Musk pedían un desarrollo más lento de los sistemas avanzados. Sus advertencias se centran en la posibilidad de que las medidas de seguridad queden rezagadas frente a modelos cada vez más capaces.
Lonsdale no desestimó todos los riesgos de la IA. Afirmó que las preocupaciones de seguridad eran reales y elogió el talento técnico de Anthropic. Su argumento más específico era que una regulación impulsada por el miedo podría afianzar a las empresas que ya controlan los modelos más capaces.
Esta distinción importa porque ambas partes aceptan ahora que la IA puede causar daños graves. Su desacuerdo se refiere a quién debe definir el riesgo inaceptable, cómo deben responder los gobiernos y si los costes de cumplimiento protegerán al público o a las empresas ya establecidas.
La crítica de Joe Lonsdale a la regulación de la IA apunta al poder de mercado
La afirmación central de Lonsdale es que una campaña de seguridad de la IA también puede funcionar como una estrategia de control del mercado.
Según el recuento de Reuters, Lonsdale calificó de peligrosas las propuestas actuales de las principales empresas de IA. Advirtió contra permitir que un oligopolio controle las políticas gubernamentales.
Su crítica se centró en parte en grupos externos que defienden una regulación más estricta. Estas organizaciones pueden encargar investigaciones, reunir expertos, promover legislación e influir en cómo los votantes interpretan los riesgos técnicos.
Esa actividad no es inherentemente impropia. Las empresas participan habitualmente en debates políticos que afectan a sus productos, clientes y responsabilidades legales. Los desarrolladores de IA de frontera también poseen conocimientos técnicos de los que carecen muchas agencias públicas.
La preocupación surge cuando resulta difícil separar la experiencia técnica de la influencia financiera. Una empresa puede identificar sinceramente un riesgo y, al mismo tiempo, respaldar normas que favorezcan su propio modelo operativo.
Los grandes laboratorios pueden mantener equipos de seguridad, encargar evaluaciones, asegurar infraestructura informática y preparar amplias divulgaciones. Los desarrolladores más pequeños pueden tener dificultades para cumplir las mismas obligaciones, incluso cuando sus sistemas presentan menos riesgo.
La posición de Lonsdale vincula, por tanto, la regulación de la IA con la captura regulatoria. La captura regulatoria ocurre cuando normas diseñadas para el interés público terminan sirviendo cada vez más a las organizaciones que deberían supervisar.
Su relación con Anthropic hace que la crítica sea más notable. Reuters lo describió como un pequeño inversor en la empresa, mientras él también elogió a Amodei y el desempeño de Anthropic.
Esta combinación impide que la disputa encaje en un simple marco a favor o en contra de las empresas. Lonsdale cuestiona las consecuencias políticas de la agenda de seguridad de Anthropic sin rechazar los logros comerciales o técnicos de la empresa.
También tiene intereses en el lado opuesto de la disputa política. Como fundador de 8VC, ha respaldado startups que se benefician de mercados accesibles y de menos barreras para expandirse.
Lonsdale ha apoyado por separado a grupos favorables a un desarrollo más rápido de la IA y una regulación más ligera. Esto significa que su crítica también procede de un participante en la disputa por la influencia, no de un árbitro externo.
Esto no invalida su advertencia. Muestra que el debate sobre la regulación de la IA se ha convertido en una disputa entre coaliciones organizadas con capital, relaciones políticas y teorías de riesgo contrapuestas.
La coalición de Anthropic pone el énfasis en amenazas catastróficas, evaluación independiente, transparencia y aplicación gubernamental. La coalición opuesta enfatiza la competencia, la fortaleza nacional, el despliegue rápido y los límites a la autoridad regulatoria concentrada.
La pregunta difícil no es si alguna de las partes tiene intereses comerciales. Ambas los tienen. La cuestión es si sus normas propuestas siguen siendo proporcionales a la evidencia y abiertas a los competidores.
Una norma puede abordar un peligro legítimo y, aun así, crear una ventaja para las empresas establecidas. Del mismo modo, una campaña contra la regulación puede defender la competencia y dejar peligros graves insuficientemente controlados.
La crítica de Joe Lonsdale a la regulación de la IA importa porque obliga a los responsables políticos a evaluar ambas posibilidades a la vez. Las afirmaciones sobre seguridad requieren escrutinio técnico, mientras que los diseños regulatorios requieren escrutinio económico.
El debate se vuelve especialmente importante cuando las empresas proponen umbrales de capacidad, pruebas de ingresos o restricciones al despliegue. Cada límite determina qué desarrolladores afrontan auditorías, sanciones o intervención gubernamental.
Esos límites deberían proceder de evidencia transparente y revisión independiente. No deberían depender únicamente de las preferencias de los mayores laboratorios ni de sus opositores más vocales.
Anthropic quiere una autoridad gubernamental con capacidad de imponer sanciones
Anthropic no se limita a pedir que las empresas hagan promesas voluntarias. Quiere que los gobiernos dispongan de autoridad exigible sobre los despliegues peligrosos.
El Advanced AI Framework de la empresa propone pruebas, transparencia pública, evaluación independiente y requisitos de seguridad más estrictos para los desarrolladores de frontera.
También afirma que los gobiernos deberían poder bloquear o disuadir modelos que presenten un riesgo significativo de daño catastrófico. Las sanciones propuestas estarían vinculadas a los ingresos anuales globales y aumentarían en caso de infracciones reiteradas.
Anthropic define los sistemas de frontera mediante importantes umbrales informáticos y financieros. Su marco se dirige a modelos entrenados con más de 10²⁵ operaciones de coma flotante, una medida del trabajo computacional.
También aplicaría condiciones financieras. La propuesta identifica a empresas con más de 500 millones de dólares en ingresos relacionados con IA o más de 1.000 millones de dólares en gasto de investigación en IA.
Estos umbrales respaldan la respuesta de Anthropic a la preocupación por la captura regulatoria. Están diseñados para evitar aplicar obligaciones de modelos de frontera a todas las startups, grupos de investigación o empresas convencionales de software.
El marco se concentra en cuatro categorías de riesgo. Abarcan el uso indebido biológico, los ciberataques, la pérdida de control humano y la investigación automatizada de IA que acelera otras capacidades peligrosas.
Anthropic sostiene que los desarrolladores deberían evaluar sus sistemas antes de su lanzamiento y publicar resúmenes de sus hallazgos. También respalda informes periódicos de riesgo y el examen independiente de pruebas internas sensibles.
Su Responsible Scaling Policy describe los informes de riesgo como evaluaciones que conectan las capacidades del modelo, los escenarios de amenaza, las salvaguardas y la exposición restante. La empresa planea publicarlos cada tres a seis meses.
Esta estructura tiene una lógica atractiva. Las obligaciones aumentan con la capacidad y el riesgo demostrados, en lugar de tratar todo el software como igualmente peligroso.
Sin embargo, la regulación basada en umbrales siempre crea problemas de delimitación. Los desarrolladores pueden cuestionar el método de medición, mientras que el progreso técnico puede volver obsoleto un umbral fijo.
Un límite computacional también puede pasar por alto sistemas ensamblados a partir de varios modelos, herramientas y fuentes de datos externas. Estas combinaciones pueden producir una capacidad operativa significativa sin una única ejecución de entrenamiento excepcionalmente grande.
Los umbrales financieros introducen otra complicación. Un desarrollador por debajo del umbral aún puede lanzar un sistema especializado peligroso, mientras que una gran empresa podría afrontar obligaciones no relacionadas con el riesgo real de un modelo concreto.
Estas preocupaciones no demuestran que el marco de Anthropic sea interesado. Demuestran por qué el diseño de políticas no puede limitarse a aceptar la evaluación de amenazas de la empresa.
Los expertos independientes necesitan acceso a evidencia suficiente para poner a prueba tanto las afirmaciones sobre capacidades como las relativas a seguridad. Las agencias también necesitan capacidad técnica que no dependa por completo de las empresas reguladas.
Anthropic reconoce la necesidad de una evaluación externa, pero la independencia práctica sigue siendo difícil. Los evaluadores cualificados pueden trabajar para laboratorios, asesorarlos, buscar su financiación o depender de un acceso controlado a los modelos.
La autoridad gubernamental plantea su propia disyuntiva. El poder para detener un despliegue peligroso puede prevenir daños graves. Ese mismo poder puede ser objeto de abuso, politización o ampliarse más allá de su propósito original.
Anthropic afirma que las restricciones deberían evitar los excesos gubernamentales. Su marco incluye salvaguardas destinadas a limitar el alcance de la aplicación.
Sin embargo, la empresa también sostiene que la transparencia por sí sola es insuficiente. Esta posición plantea con claridad el desacuerdo con Lonsdale.
Lonsdale teme que una regulación justificada mediante escenarios extremos consolide el control institucional. Anthropic cree que los compromisos voluntarios no pueden gestionar riesgos cuyas consecuencias podrían ser irreversibles.
Ambas afirmaciones merecen examen. Ninguna debería tratarse como demostrada simplemente porque provenga de un inversor, ejecutivo, investigador o funcionario gubernamental.
La prueba de las políticas debería ser concreta. Los reguladores deben identificar la capacidad que se mide, la evidencia de daño, la mitigación exigida y la vía para impugnar una decisión.
Sin esos elementos, el “riesgo catastrófico” puede convertirse en una expresión política elástica. Con ellos, la regulación puede convertirse en un proceso revisable en lugar de una expresión de miedo.
El debate sobre seguridad es ahora una contienda política de financiación
La gobernanza de la IA ya no se limita a artículos de investigación y equipos de seguridad empresariales. Se está convirtiendo en una contienda organizada por la influencia electoral y legislativa.
Un análisis de Axios describió varias organizaciones bien financiadas que buscan dar forma a la política estadounidense sobre IA durante el ciclo electoral de 2026.
Leading the Future respalda el desarrollo rápido y una regulación más ligera. Axios informó que el cofundador de OpenAI Greg Brockman, Lonsdale, Andreessen Horowitz y Perplexity figuraban entre sus apoyos financieros.
El grupo afirmó haber recaudado más de 125 millones de dólares. Sus organizaciones asociadas incluían comités de acción política que respaldaban a candidatos alineados con una agenda política favorable al desarrollo.
En el lado de la seguridad, Anthropic anunció una contribución de 20 millones de dólares a Public First Action. Esa organización defiende la transparencia, una supervisión más estricta y requisitos de seguridad para la IA.
Meta ha respaldado grupos políticos independientes que se oponen a lo que considera legislación estatal gravosa. El resultado no es una simple batalla entre defensores de la seguridad y empresas tecnológicas.
Las empresas tecnológicas están presentes en todo el conflicto. Algunas apoyan controles más estrictos, otras se oponen a ellos y otras respaldan normas diferentes en distintas jurisdicciones.
Este gasto político da a la crítica de Lonsdale un contexto factual. Las empresas de IA y sus inversores utilizan la defensa organizada de causas para dar forma a las normas que rigen su sector.
Sin embargo, la misma evidencia complica su posición. Lonsdale participa en una red rival que también busca influencia política.
Por tanto, el conflicto principal no es la influencia de la industria frente a un proceso democrático intacto. Es una coalición industrial contra otra, con responsables políticos y votantes llamados a juzgar sus afirmaciones.
El lenguaje sobre riesgos existenciales tiene una fuerza política particular. Describe daños tan graves que esperar una certeza absoluta puede parecer irresponsable.
Ese encuadre puede justificar pruebas preventivas, obligaciones de divulgación, límites al despliegue o poderes gubernamentales de emergencia. También puede relegar a un segundo plano los daños inmediatos.
Los sistemas de IA actuales ya generan preocupaciones relacionadas con el fraude, la discriminación, la privacidad, el desplazamiento laboral, la ciberseguridad y las decisiones automatizadas poco fiables. Estos daños son más fáciles de observar que los escenarios de extinción humana.
Sin embargo, los riesgos a corto plazo y los catastróficos no se excluyen mutuamente. Una política sólida puede abordar daños presentes medibles mientras se prepara para capacidades que aún no se han manifestado plenamente.
El peligro surge cuando los escenarios lejanos se vuelven inmunes a la evaluación. Si toda solicitud de pruebas se considera una imprudencia, el argumento de la seguridad se vuelve políticamente infalsable.
También es posible el fracaso opuesto. Si la incertidumbre se convierte en una razón para no hacer nada, los gobiernos podrían esperar hasta que una capacidad peligrosa esté ampliamente disponible.
La evaluación de seguridad de 2026 describió como inusualmente ambiguas la probabilidad, la naturaleza y el momento de los riesgos de pérdida de control. Más de 100 expertos independientes orientaron ese informe.
Encontró indicios tempranos de capacidades relevantes, pero no niveles que permitieran una pérdida de control. Esa conclusión no respalda ni una alarma incondicional ni una tranquilidad incondicional.
Sugiere que la política debería vincular las obligaciones con la evidencia observada. Las evaluaciones deberían examinar capacidades específicas en biología, ciberseguridad, autonomía y replicación antes de activar restricciones más estrictas.
El proceso también debería revelar la incertidumbre. Un modelo podría rendir bien en pruebas controladas y, aun así, fallar de manera impredecible tras su despliegue. Un resultado de laboratorio llamativo también podría resultar difícil de reproducir.
Las campañas políticas rara vez recompensan ese nivel de matización. Los mensajes construidos en torno a la extinción o la rivalidad económica son más fáciles de comunicar que las evaluaciones condicionales de riesgos.
Eso genera presión sobre votantes y legisladores. Deben distinguir el mensaje público más contundente de la evidencia subyacente más sólida.
También presiona a los desarrolladores más pequeños. Pueden carecer de acceso a responsables políticos, información clasificada sobre amenazas o los fondos necesarios para promover un diseño regulatorio alternativo.
El proceso político necesita representación más allá de los laboratorios de frontera y los inversores de capital riesgo. Científicos independientes, grupos de la sociedad civil, profesionales de la seguridad, trabajadores, startups y comunidades afectadas poseen conocimientos relevantes.
De lo contrario, la disputa sobre la gobernanza de la IA puede convertirse exactamente en lo que teme Lonsdale: una competencia entre personas adineradas con acceso privilegiado para decidir cuáles de ellas escribirán las reglas.
El riesgo existencial de la IA sigue siendo real, pero profundamente incierto
Lonsdale identifica un riesgo creíble para la gobernanza, pero su argumento no demuestra que las advertencias sobre una IA catastrófica sean inventadas.
Los sistemas de IA han adquirido capacidades más fuertes en programación, uso de herramientas, ciberseguridad y ejecución autónoma de tareas. Estas capacidades generan beneficios reales y vías plausibles hacia usos indebidos graves.
Anthropic cita las amenazas biológicas, las operaciones cibernéticas, la pérdida de control y la investigación automatizada como sus principales categorías catastróficas. Cada categoría contiene incertidumbre, pero ninguna es conceptualmente imposible.
El riesgo cibernético ofrece la conexión actual más clara. Un modelo capaz puede ayudar a los defensores a descubrir vulnerabilidades, explicar código desconocido y priorizar la remediación.
Las mismas funciones pueden ayudar a atacantes a inspeccionar sistemas o automatizar partes de una intrusión. Por tanto, los controles de acceso y la supervisión son importantes incluso antes de que un modelo se acerque a una inteligencia general de nivel humano.
El riesgo biológico es más difícil de medir públicamente. Las evaluaciones pertinentes pueden contener información sensible, lo que limita lo que empresas y gobiernos pueden revelar.
Ese secretismo genera un problema real de supervisión. Los responsables políticos pueden recibir conclusiones alarmantes sin suficiente evidencia pública para una verificación independiente.
Los escenarios de pérdida de control son aún más inciertos. Suelen implicar sistemas que persiguen objetivos más allá de la tarea asignada, eluden salvaguardas u obtienen recursos sin autorización.
Las pruebas controladas han mostrado modelos que emprenden acciones inesperadas en condiciones artificiales. Tales resultados merecen atención, pero no predicen automáticamente el comportamiento en despliegues ordinarios.
Associated Press informó que los expertos aún carecen de una estimación ampliamente aceptada sobre el momento o la probabilidad de una catástrofe de IA. Esa ausencia de consenso debería dar forma al lenguaje empleado por ambas partes.
Los defensores de la seguridad no deberían presentar pronósticos disputados como resultados establecidos. Los defensores de la desregulación no deberían tratar la incertidumbre como prueba de que el riesgo subyacente es imaginario.
La postura de Anthropic adquirió urgencia después de que Amodei advirtiera sobre agentes interconectados que operan en internet. Sostuvo que las salvaguardas deben ponerse al día antes de que esos sistemas alcancen capacidades amplias.
Altman, de OpenAI, también pidió un ritmo más lento y una mayor coordinación entre desarrolladores. Estas declaraciones refuerzan la impresión de una preocupación compartida por toda la industria.
También respaldan la sospecha de Lonsdale de que las empresas pueden establecer expectativas políticas mediante advertencias públicas coordinadas. Las mismas declaraciones pueden ser tanto juicios de seguridad sinceros como mensajes estratégicamente útiles.
Los incentivos comerciales no apuntan en una sola dirección. Una empresa puede beneficiarse de normas que dificulten el trabajo a sus competidores, pero también pierde ingresos cuando las restricciones de seguridad retrasan el despliegue.
Los ejecutivos pueden discrepar sinceramente sobre cuál de esos efectos importa más. Distintos equipos dentro de la misma empresa también pueden sostener opiniones contrapuestas.
Los inversores enfrentan tensiones similares. Quieren que las empresas de sus carteras crezcan, pero un incidente grave de seguridad puede destruir valor, generar responsabilidad legal y provocar una regulación más severa.
El enfoque analítico más seguro separa tres afirmaciones. Primero, la IA avanzada crea riesgos catastróficos plausibles. Segundo, la probabilidad y el momento siguen siendo muy inciertos.
Tercero, las empresas que promueven regulación pueden obtener ventajas estratégicas de las normas que respaldan. Aceptar cualquiera de estas afirmaciones no exige rechazar las demás.
Por tanto, la política debería incluir mecanismos que funcionen bajo incertidumbre. Los requisitos pueden escalarse según la capacidad sometida a pruebas, el contexto de despliegue, el nivel de acceso y la evidencia de uso indebido.
Las normas también deberían permitir revisiones. Un umbral que parece sensato en 2026 puede volverse irrelevante tras cambios en la arquitectura de los modelos o en la eficiencia computacional.
La replicación independiente es fundamental. Cuando una empresa informa de una capacidad peligrosa, evaluadores externos autorizados deberían poner a prueba esa afirmación en condiciones seguras.
Los reguladores deberían publicar tanta metodología como permita la seguridad. Deberían explicar por qué una prueba activó una intervención y cómo un desarrollador puede impugnar el resultado.
Las cláusulas de caducidad pueden reducir el peligro de barreras permanentes al mercado. Una norma debería expirar o someterse a revisión salvo que la evidencia actual siga respaldándola.
Los desarrolladores pequeños también necesitan vías proporcionadas. Una infraestructura compartida de evaluación y reportes estandarizados podrían reducir los costes de cumplimiento sin debilitar las salvaguardas esenciales.
Por último, la aplicación de las normas debería centrarse en el riesgo y no en la identidad corporativa. El gobierno debería aplicar estándares comparables a Anthropic, OpenAI, Meta, xAI y futuros participantes.
Estas protecciones no pondrían fin a la disputa sobre el riesgo existencial de la IA. Harían más difícil que cualquiera de los bandos convierta pronósticos inciertos en poder político sin controles.
Tres señales mostrarán quién tiene razón
La próxima fase de la disputa sobre la regulación de la IA entre Joe Lonsdale se decidirá por el diseño de las políticas, las pruebas independientes y el acceso al mercado.
La primera señal es si los legisladores adoptan normas basadas en capacidades y en evidencia revisable. El marco de Anthropic ofrece un punto de partida detallado, pero las propuestas gubernamentales deben resistir un escrutinio más amplio.
Observe cómo las leyes definen un modelo de frontera, un daño catastrófico y un despliegue inaceptable. Las definiciones vagas reforzarían la advertencia de Lonsdale sobre una autoridad expansiva.
Los desencadenantes claros reforzarían el caso de Anthropic. Una norma se vuelve más creíble cuando los desarrolladores saben qué resultados de pruebas activan la supervisión y cómo apelar.
La segunda señal es la calidad de las evaluaciones independientes. La política de escalado de Anthropic exige una revisión externa cuando sus modelos alcanzan condiciones definidas.
La cuestión decisiva es si los revisores reciben un acceso significativo. Un resumen público pulido no puede sustituir el examen de los métodos, los fallos, las mitigaciones y la evidencia sin censurar.
La independencia de los evaluadores también necesita protección. Los gobiernos y organismos de normalización deberían revelar conflictos, relaciones de financiación, restricciones de acceso y ámbitos en los que las conclusiones siguen siendo inciertas.
La evidencia reproducible de capacidades peligrosas debilitaría las afirmaciones de que las empresas dependen principalmente del miedo. Los hallazgos inconsistentes o inaccesibles reforzarían el escepticismo.
La tercera señal es lo que ocurra con los competidores más pequeños tras la llegada de nuevas normas. La estructura del mercado ofrece una prueba práctica del argumento de Lonsdale sobre la captura regulatoria.
Si los costes de cumplimiento bloquean a las startups mientras las prácticas de los actores establecidos permanecen sin cambios, los responsables políticos deberían reconsiderar el diseño. El público gana poco con normas que simplemente formalizan el poder corporativo existente.
Si los requisitos proporcionados mejoran la seguridad sin reducir la entrada, el enfoque de Anthropic parecerá más defendible. Las herramientas compartidas de pruebas y las obligaciones cuidadosamente focalizadas pueden ayudar a lograr ese equilibrio.
La influencia financiera también merece atención continua. Las divulgaciones de organizaciones políticas pueden mostrar qué empresas, inversores y ejecutivos financian cada postura política.
El dinero por sí solo no determina si un argumento es correcto. Sí revela quién tiene los recursos para repetir ese argumento y convertirlo en lenguaje legislativo.
Los lectores también deberían observar si las empresas de IA modifican su propio comportamiento de lanzamiento. Los llamados a un desarrollo más lento tienen más peso cuando las empresas aceptan restricciones medibles sobre sí mismas.
Si los laboratorios siguen acelerando mientras exigen restricciones que sus competidores no pueden costear, la incoherencia será difícil de ignorar.
Por el contrario, las pausas voluntarias no sustituyen por completo a las normas públicas. Un compromiso privado puede cambiar cuando cambian los ejecutivos, los inversores o las condiciones competitivas.
El sistema más creíble combinaría pruebas de las empresas, verificación independiente, estándares públicos y aplicación gubernamental responsable. Cada capa controlaría a las demás.
La intervención de Lonsdale no resuelve si la IA de frontera representa una amenaza existencial. Cambia la carga de la prueba en torno a las políticas propuestas en nombre de esa amenaza.
Anthropic y otros laboratorios deben demostrar que sus normas se dirigen a riesgos medibles sin proteger un oligopolio. Lonsdale y sus aliados deben explicar cómo una regulación más ligera afronta peligros creíbles de alto impacto.
Para desarrolladores y compradores empresariales, esto es más que un desacuerdo filosófico. Las nuevas normas pueden afectar a la disponibilidad de modelos, los calendarios de productos, los requisitos de evaluación y el número de proveedores viables.
Los trabajadores del conocimiento también tienen un interés en juego. Las decisiones de gobernanza determinarán qué sistemas de IA llegan a los lugares de trabajo, qué salvaguardas incluyen y quién sigue siendo responsable cuando fallan.
La pregunta correcta no es si la seguridad o la competencia importan más. Los responsables políticos deben demostrar que cada restricción responde a la evidencia y, al mismo tiempo, preserva espacio para competidores responsables.
Sigue de cerca las próximas definiciones legislativas, las primeras evaluaciones de riesgos realmente independientes y la tasa de supervivencia de los desarrolladores más pequeños. Estas señales revelarán si la gobernanza de la seguridad protege al público o consolida el poder.
