Las salvaguardias de IA de Josh Shapiro desafían la estrategia de Washington de priorizar la carrera
Josh Shapiro pidió salvaguardias federales estrictas para la IA el 17 de septiembre, cuestionando la preferencia de Washington por un desarrollo más rápido con menos barreras regulatorias. El gobernador de Pennsylvania quiere supervisión independiente, mayor transparencia y requisitos de seguridad aplicados a las empresas que desarrollan sistemas avanzados de inteligencia artificial, según el informe de Bloomberg sobre sus declaraciones.
La propuesta de salvaguardias de IA de Josh Shapiro es más que otra advertencia sobre riesgos tecnológicos hipotéticos. Vincula la supervisión de modelos con disputas inmediatas relacionadas con niños, suplantación de profesionales, costes de electricidad, uso de agua y control local sobre los centros de datos.
Esta posición enfrenta a Shapiro con el énfasis de la administración Trump en el desarrollo rápido y menos barreras regulatorias. Shapiro sostiene que este planteamiento presenta una falsa disyuntiva. Estados Unidos, afirma, puede aprovechar los beneficios económicos de la IA sin pedir al público que acepte todos los riesgos.
El informe de Bloomberg establece lo que Shapiro defendió en el evento de Pittsburgh; los documentos oficiales de Pennsylvania registran lo que su administración ya ha implementado. Son categorías distintas. Las salvaguardias federales que solicita siguen siendo propuestas, mientras que la orden ejecutiva de Pennsylvania, las iniciativas de agencias, la demanda y la legislación pendiente tienen distintos estatus jurídicos y límites.
Las salvaguardias de IA de Josh Shapiro llevan el debate al Congreso
Shapiro pide al Congreso que cree obligaciones exigibles para las empresas de IA, no que simplemente publique otro marco voluntario.
Durante la AI Horizons 2026 Summit en Pittsburgh, Shapiro instó al Congreso y al gobierno federal a establecer salvaguardias estrictas para la inteligencia artificial. Sus principales peticiones incluyeron supervisión independiente por terceros, mayor transparencia y el requisito de que las empresas sitúen la seguridad más cerca del centro del desarrollo, según la transcripción oficial de sus declaraciones preparadas de su administración.
La supervisión independiente implica una evaluación realizada por una organización que no desarrolla ni vende el sistema examinado. Puede incluir pruebas, revisiones de documentación, evaluaciones de seguridad y verificación de las afirmaciones de riesgo de una empresa.
En términos técnicos, esa evaluación podría examinar si un desarrollador ha identificado daños previsibles, medido el rendimiento en condiciones realistas, documentado limitaciones, supervisado incidentes y asignado responsabilidad para la remediación. Estas funciones corresponden en líneas generales a las actividades de gobernar, mapear, medir y gestionar del Marco de Gestión de Riesgos de IA del National Institute of Standards and Technology, aunque Shapiro no ha especificado públicamente que el Congreso deba adoptar el marco de NIST como norma jurídica.
Esta distinción importa porque gran parte de la información disponible sobre modelos avanzados sigue procediendo de sus desarrolladores. Las empresas deciden qué pruebas comparativas publicar, cómo definir los riesgos graves y cuánto detalle revelar sobre sus pruebas internas.
Un requisito de terceros no resolvería automáticamente esas cuestiones. Sin embargo, reduciría el grado en que los desarrolladores califican su propio trabajo y seleccionan las pruebas presentadas a los responsables políticos.
La diferencia práctica sería visible durante la adquisición. Un hospital que evalúa un asistente de IA podría recibir actualmente una puntuación agregada de precisión y una declaración de seguridad redactada por el proveedor. Una revisión externa cualificada podría, en cambio, probar indicaciones médicas, identificar grupos o situaciones en los que el rendimiento empeora, documentar si el sistema inventa citas y verificar que las respuestas inciertas se deriven a un profesional clínico.
En sus declaraciones preparadas, Shapiro se describió como optimista respecto a las oportunidades de la IA, al tiempo que sostenía que los daños emergentes requieren una respuesta gubernamental más firme. También rechazó la etiqueta de “doomer” de IA, un término aplicado habitualmente a quienes esperan que los sistemas avanzados causen daños catastróficos.
Su posición declarada es más acotada y políticamente más significativa. La IA no necesita presentar un riesgo inevitable de extinción para que el gobierno pueda exigir pruebas, divulgación y rendición de cuentas.
Este enfoque amplía el argumento a favor de las salvaguardias más allá de un escenario dramático. Un modelo puede causar daños materiales mediante consejos engañosos, decisiones discriminatorias, fallos de privacidad, debilidades de seguridad o resultados poco fiables sin convertirse en una amenaza global autónoma.
El discurso también modificó quién asume la carga de la prueba. Una política puramente promocional presupone que las restricciones requieren una justificación extraordinaria. El enfoque de Shapiro pide a los desarrolladores que demuestren que los sistemas de alto impacto han recibido un escrutinio significativo antes de que el público absorba sus riesgos.
Su propuesta sigue siendo una demanda política, no una ley federal promulgada. El Congreso aún tendría que definir qué sistemas requieren revisión, quién reúne los requisitos como evaluador independiente, a qué pruebas pueden acceder los evaluadores y qué conclusiones deben hacerse públicas.
Esos detalles no resueltos son sustanciales. Sin embargo, la intervención de Shapiro establece una prueba clara para los legisladores federales: si la política nacional de IA impondrá obligaciones medibles o seguirá basándose principalmente en las promesas de las empresas.
Por qué el gobernador de Pennsylvania presiona ahora a Washington
Pennsylvania se ha encontrado con la IA como una cuestión física, de consumo y administrativa, lo que hace cada vez más difícil defender garantías abstractas.
El estado está observando la tecnología a través de varios canales distintos. Los chatbots de IA pueden interactuar con niños y ofrecer respuestas relacionadas con la salud. Los empleados estatales utilizan herramientas generativas en la administración pública. Los desarrolladores también quieren construir la infraestructura de alto consumo energético necesaria para entrenar y operar modelos más grandes.
Estas cuestiones no encajan claramente dentro de una sola política tecnológica. Afectan a la concesión de licencias profesionales, la protección del consumidor, la educación, la regulación eléctrica, los permisos ambientales, el trabajo y la autoridad del gobierno local.
La administración de Shapiro comenzó a endurecer su enfoque antes del discurso de Pittsburgh. En febrero, anunció un kit de herramientas de alfabetización en IA y esfuerzos coordinados de supervisión en los que participaron las agencias de educación, salud, servicios humanos, estado, envejecimiento y finanzas de Pennsylvania.
La iniciativa oficial de seguridad de IA de la administración incluyó recursos para padres, estudiantes, docentes, cuidadores y consumidores. También dirigió a los residentes hacia un proceso de reclamación para bots acompañantes de IA que parecen ofrecer servicios profesionales regulados.
Para una familia, esta distinción puede surgir durante una conversación cotidiana en lugar de una consulta médica evidente. Un adolescente podría preguntar a un bot acompañante sobre depresión, un trastorno alimentario o medicación y recibir una respuesta segura redactada con la voz de un terapeuta o médico. Es posible que un padre no vea ninguna advertencia de que la respuesta se generó sin que un profesional autorizado revisara las circunstancias del menor.
Esa iniciativa planteó la alfabetización como necesaria, pero insuficiente. Enseñar a los usuarios a reconocer un sistema poco fiable puede reducir la exposición al daño. No elimina la responsabilidad de un desarrollador cuando un producto se presenta falsamente como un médico u otro profesional regulado.
Posteriormente, Pennsylvania demandó a Character.AI, alegando que los chatbots se presentaban ilegalmente como profesionales médicos autorizados y ofrecían consejo médico. En la presentación formal, Commonwealth of Pennsylvania, Department of State, State Board of Medicine v. Character Technologies, Inc., el estado solicitó una medida cautelar preliminar y alegó ejercicio no autorizado de la medicina. Las alegaciones de la demanda presentada por el Commonwealth siguen sujetas a resolución judicial. La responsabilidad de Character Technologies no ha sido establecida, y la presentación representa las alegaciones del Commonwealth, no conclusiones judiciales.
No obstante, el caso ilustra por qué Shapiro ahora pone el énfasis en la rendición de cuentas y no solo en la educación de los usuarios. Plantea si las normas existentes sobre licencias profesionales pueden alcanzar a un servicio de IA cuando el aparente “interlocutor” es un personaje generado en lugar de un profesional humano.
El gobernador también ha encontrado resistencia en torno al desarrollo de centros de datos. Estas instalaciones convierten el debate sobre la IA en cuestiones que los residentes pueden ver en sus facturas de servicios públicos, avisos de zonificación y solicitudes de permisos ambientales.
En agosto, Shapiro firmó la Orden Ejecutiva 2026-05. Vinculó el apoyo estatal a nuevos centros de datos a requisitos de energía, medioambiente, fuerza laboral, transparencia y comunidad.
Según el relato oficial de la administración sobre la Orden Ejecutiva 2026-05, Pennsylvania eliminó las propuestas de centros de datos de IA de su programa de permisos acelerados, prohibió los acuerdos de confidencialidad en esos proyectos y exigió la aprobación local antes de que pudieran emitirse los permisos que reúnen los requisitos. La orden también exige a los desarrolladores celebrar acuerdos de consentimiento exigibles que incorporen los requisitos GRID del estado.
Los desarrolladores que buscan la cooperación del estado deben asumir compromisos vinculantes conforme a los requisitos Responsible Infrastructure Development del gobernador, conocidos como GRID. Esos compromisos incluyen pagar los costes de infraestructura asociados a sus proyectos en lugar de trasladarlos a otros clientes de electricidad.
Los operadores también deben informar sobre el consumo de energía y agua. El estado afirma que mantendrá un mapa público de las propuestas que hayan contactado con los reguladores ambientales.
Para los residentes, estos requisitos determinan si pueden conocer una instalación propuesta antes de que las decisiones importantes queden efectivamente resueltas. De otro modo, un hogar cercano podría enterarse del proyecto solo después de recibir un aviso de zonificación o de escuchar predicciones sobre una mayor demanda de electricidad. Un mapa público de proyectos, estimaciones divulgadas de recursos y un proceso de aprobación local proporcionan a los residentes información que pueden utilizar en las audiencias, aunque esas herramientas no garantizan que prospere cada objeción.
Estas medidas no equivalen a una prohibición del desarrollo de IA. Establecen condiciones para proyectos que imponen costes identificables a las comunidades anfitrionas. También siguen sujetas a la implementación por parte de las agencias estatales y a cualquier futura impugnación legal sobre el alcance de la autoridad ejecutiva.
Este historial explica el momento de la demanda federal de Shapiro. Pennsylvania ya está tratando de gestionar consecuencias que el Congreso suele debatir como posibilidades futuras. Las agencias estatales afrontan reclamaciones sobre chatbots, propuestas de infraestructura, preocupaciones por suplantación profesional y decisiones sobre el uso de IA dentro del gobierno.
La presión inmediata recae sobre los legisladores federales y los principales desarrolladores de IA. El Congreso debe decidir si los estados deben seguir siendo el principal campo de pruebas para las salvaguardias. Los desarrolladores deben decidir si apoyan una supervisión coherente o si continúan oponiéndose a normas que limitan el despliegue.
La disputa central es la rendición de cuentas en materia de seguridad frente a la velocidad de despliegue
El conflicto principal no es innovación frente a prohibición. Es desarrollo responsable frente a una política que trata la fricción regulatoria como una debilidad estratégica.
La administración Trump ha descrito el liderazgo en IA como una carrera internacional. Su política prioriza el rápido desarrollo del sector privado, una adopción más amplia, la construcción de infraestructura y la eliminación de normas consideradas obstáculos innecesarios.
Ese argumento tiene peso económico y de seguridad nacional. Un conjunto fragmentado de requisitos estatales puede elevar los costos de cumplimiento, especialmente para las empresas más pequeñas. Las normas redactadas en torno a la tecnología actual también pueden quedar obsoletas rápidamente a medida que cambian las arquitecturas y los usos de los modelos.
El marco legislativo nacional sobre IA de la administración pide una política federal coherente y sostiene que las leyes estatales en conflicto pueden debilitar la competitividad estadounidense. El mismo documento también solicita al Congreso abordar la seguridad infantil, el fraude habilitado por IA, la seguridad nacional y el efecto de los centros de datos sobre los usuarios residenciales.
La Casa Blanca ha buscado autoridad para impugnar las leyes estatales que considera excesivas. Su postura declarada es que el desarrollo de la IA tiene implicaciones interestatales y de política exterior que los estados individuales no pueden gestionar eficazmente.
Shapiro coincide en que es necesaria una acción federal, pero discrepa sobre lo que esa acción debería lograr. En su opinión, una norma nacional debería establecer un nivel mínimo de seguridad, en lugar de funcionar principalmente como un techo para la autoridad estatal.
Esta diferencia representa la disyuntiva central del artículo. La uniformidad puede simplificar el cumplimiento, pero una norma uniforme débil también puede impedir que los estados respondan a daños que el Congreso no ha abordado.
La disputa se vuelve más marcada cuando la política federal separa la regulación de productos de ámbitos tradicionalmente controlados por los estados. El marco de la Casa Blanca mantiene la aplicación estatal de leyes de protección infantil de aplicación general y reconoce la autoridad estatal y local sobre la zonificación y la ubicación de centros de datos, al tiempo que se opone a regulaciones estatales contradictorias sobre el desarrollo de IA.
En la práctica, esas categorías pueden solaparse. Consideremos un chatbot que ofrece consejos médicos peligrosos. Pensilvania puede aplicar leyes de licencias profesionales y de protección al consumidor. Sin embargo, reducir el riesgo subyacente podría requerir normas que regulen la evaluación de modelos, las pruebas de despliegue, la divulgación de información o los controles de acceso.
Un marco federal centrado principalmente en la preeminencia normativa podría dejar a los estados responsables de las consecuencias mientras limita su capacidad de regular las decisiones técnicas y empresariales que producen esas consecuencias.
La exigencia de Shapiro de supervisión independiente apunta a esa brecha. Situaría la responsabilidad en una fase más temprana de la cadena de desarrollo, antes de que un investigador estatal reciba denuncias o una familia tenga que demostrar el daño.
La misma lógica se aplica a la transparencia. Un regulador no puede evaluar si una salvaguarda funciona sin saber cómo la empresa la probó, qué limitaciones aparecieron y qué condiciones de despliegue cambiaron.
Aun así, la transparencia no es un interruptor único. La divulgación pública de cada detalle técnico podría revelar debilidades de seguridad, secretos comerciales o información que ayude a actores maliciosos. Una legislación eficaz necesitaría canales separados para reguladores, auditores cualificados, investigadores, clientes empresariales y el público general.
La supervisión independiente plantea problemas de diseño similares. Un auditor pagado por la empresa que revisa puede enfrentar incentivos que debiliten su independencia. Un pequeño grupo de evaluadores aprobados también podría convertirse en un cuello de botella o producir revisiones estandarizadas que pasen por alto riesgos inusuales.
Por lo tanto, un sistema creíble requeriría normas sobre conflictos de interés, competencias mínimas de prueba, acceso protegido a evidencia no pública y un mecanismo para que los reguladores revisen el trabajo del evaluador. Los requisitos de rotación o la asignación aleatoria podrían reducir la dependencia de un único cliente, aunque cada opción añadiría costos y complejidad administrativa.
Estos desafíos no invalidan el enfoque de Shapiro. Muestran por qué el Congreso debe definir el mecanismo en lugar de aprobar una ley construida alrededor de términos generales como seguridad y responsabilidad.
La verdadera medida de las salvaguardas de IA de Josh Shapiro será si generan evidencia fiable antes del despliegue. Si la política solo produce informes de cumplimiento, añadirá burocracia sin cambiar los incentivos.
La acción estatal muestra tanto la promesa como los límites de las salvaguardas de IA
Pensilvania puede responder a daños locales, pero no puede crear por sí sola un sistema completo de supervisión para un mercado tecnológico nacional.
Las acciones recientes del estado muestran lo que puede lograr una regulación focalizada. Las leyes de licencias profesionales pueden abordar sistemas que se presentan como médicos. Las agencias de protección al consumidor pueden investigar prácticas engañosas. Las autoridades educativas pueden crear directrices para estudiantes y docentes.
Los gobiernos locales y estatales también poseen autoridad directa sobre el uso del suelo, los permisos, las condiciones ambientales y el apoyo a la infraestructura. Eso da a Pensilvania una influencia significativa sobre los centros de datos, incluso cuando tiene una capacidad limitada para influir en el desarrollo de modelos en otros lugares.
La orden de agosto utiliza esa influencia con cautela. No afirma que todos los centros de datos sean inseguros. Distingue entre proyectos dispuestos a aceptar requisitos comunitarios exigibles y propuestas especulativas que buscan apoyo público sin obligaciones comparables.
Entre los partidarios hay representantes laborales y comunitarios que ven una vía entre la construcción sin restricciones y una moratoria general. El Pennsylvania State Building and Construction Trades Council respaldó los principios GRID como una forma de mantener el desarrollo al tiempo que se abordan las preocupaciones energéticas, ambientales y comunitarias, según el anuncio estatal.
Esa coalición importa porque los debates sobre infraestructura de IA suelen dividir los intereses económicos y ambientales. Los sindicatos de la construcción buscan empleo, los municipios buscan inversión y los residentes quieren protección frente a costos más altos o el agotamiento de recursos.
Un enfoque basado en requisitos da a cada grupo algo concreto que evaluar. Los desarrolladores pueden avanzar si aceptan condiciones definidas. Las comunidades reciben información y un papel formal. Los trabajadores pueden buscar compromisos de contratación local.
Sin embargo, la acción ejecutiva tiene límites. Una futura administración puede modificar una orden ejecutiva. Las agencias pueden enfrentar impugnaciones legales sobre el alcance de las condiciones de los permisos. Las normas estatales tampoco pueden obligar a un desarrollador con sede en otro lugar a revelar todos los hechos relevantes sobre sus modelos.
La legislación ofrece mayor durabilidad, pero la experiencia de Pensilvania muestra cuán lentamente pueden avanzar incluso las propuestas focalizadas. El proyecto de ley del Senado 1090, que aborda divulgaciones y salvaguardas para las interacciones de IA con menores, fue aprobado por el Senado estatal por 49 votos a 1 el 17 de marzo de 2026.
El proyecto pasó entonces al Comité de Comunicaciones y Tecnología de la Cámara. Su historial legislativo oficial documenta la votación y la posterior remisión. Al 19 de septiembre de 2026, el proyecto no había completado el proceso de la Cámara ni se había convertido en ley.
Esta es una de las razones por las que la inacción federal no produce un mercado libre de regulación. Produce un mosaico formado por órdenes ejecutivas, antiguas leyes de protección al consumidor, demandas judiciales, directrices de agencias y proyectos de ley estatales focalizados.
Las empresas siguen enfrentando incertidumbre, pero las normas surgen después de conflictos y acciones de aplicación, en lugar de mediante un sistema nacional coherente.
Los desarrolladores también operan en sectores con estándares diferentes. Un chatbot de propósito general puede utilizarse para entretenimiento, educación, empleo, preguntas de salud o decisiones financieras. El riesgo cambia según el contexto, incluso si el modelo subyacente sigue siendo el mismo.
Por tanto, una ley federal viable debe distinguir entre capacidad y uso. La supervisión debería volverse más estricta cuando un sistema pueda afectar materialmente la salud, la seguridad, el empleo, el crédito, las prestaciones públicas o la infraestructura crítica.
Este principio también se aplica dentro de las organizaciones. Los equipos que adoptan IA necesitan registros del material de origen, las limitaciones del modelo, las decisiones de revisión y los cambios en los flujos de trabajo automatizados. Una base de conocimiento de ingeniería con capacidad de búsqueda puede respaldar ese trabajo, pero la documentación no puede sustituir la rendición de cuentas externa.
En la práctica, un equipo de adquisiciones podría ver la puntuación de precisión de un proveedor sin recibir un desglose que muestre que el rendimiento se deteriora en preguntas médicas o entre determinados grupos de usuarios. Un equipo de atención al cliente también podría no detectar que una actualización del modelo debilitó las normas de escalamiento hasta que los usuarios comiencen a informar respuestas perjudiciales. La revisión independiente puede revelar esas brechas antes de que se conviertan en fallos habituales.
El mismo problema puede aparecer después del despliegue. Los empleados pueden enterarse de que un sistema fue actualizado, pero no recibir una explicación útil de lo que cambió. Si una versión anterior transfería de forma fiable los mensajes de autolesión a un revisor humano y una versión posterior no lo hace, un número de versión y una nota general de lanzamiento no darán al equipo de soporte información suficiente para gestionar el nuevo riesgo.
Las empresas pueden mantener excelentes registros internos y, aun así, optar por no revelar debilidades graves. A la inversa, un mandato de divulgación puede producir miles de páginas que ofrecen poca información utilizable.
La versión más sólida de la propuesta de Shapiro conectaría la documentación con la acción. Un evaluador debería poder identificar un problema, exigir o recomendar una corrección conforme a un proceso legal definido y verificar si el cambio funcionó. Los reguladores también necesitarían autoridad para intervenir cuando un desarrollador rechace una conclusión relevante.
Sin esa cadena de aplicación, la «supervisión independiente» corre el riesgo de convertirse en otra etiqueta de confianza adherida a sistemas que los usuarios comunes no pueden inspeccionar de forma significativa.
Una supervisión más estricta aún deja preguntas difíciles sin respuesta
Shapiro ha identificado una brecha de rendición de cuentas, pero su propuesta pública aún no responde quién audita, qué se prueba ni qué ocurre después de un fallo.
La primera incertidumbre se refiere al alcance. El Congreso podría aplicar supervisión a todos los productos de IA, solo a los modelos de propósito general más grandes o a usos específicos de alto impacto.
Una norma excesivamente amplia incorporaría software empresarial sencillo a un proceso costoso diseñado para sistemas de frontera. Una norma demasiado limitada permitiría a las empresas reorganizar productos o mantenerse por debajo de un umbral técnico, aun cuando sigan afectando a millones de usuarios.
Los legisladores también necesitan una forma duradera de definir los sistemas cubiertos. Los umbrales fijos de cómputo son medibles, pero las mejoras de eficiencia pueden volverlos obsoletos. El número de usuarios revela alcance, pero no gravedad. Las pruebas de capacidad pueden captar mejor el riesgo, aunque los desarrolladores podrían optimizar los modelos en torno a evaluaciones conocidas.
La segunda incertidumbre es la independencia del evaluador. El Congreso necesitaría normas sobre conflictos de interés, estándares de acreditación, requisitos de acceso y procedimientos para gestionar información confidencial.
Los auditores deben tener suficiente acceso técnico para comprobar afirmaciones relevantes. Una demostración pulida o una interfaz restringida no pueden revelar cómo se comporta un sistema bajo presión adversarial, después de un ajuste fino o cuando está conectado a herramientas externas.
Por ejemplo, un asistente de oficina que parece inofensivo en una ventana de chat puede comportarse de forma diferente cuando puede abrir correo electrónico, recuperar archivos o iniciar transacciones. Una evaluación realista probaría el flujo de trabajo desplegado completo, incluido si instrucciones maliciosas incrustadas en un documento pueden redirigir el sistema o exponer información de otro usuario.
Sin embargo, el acceso ilimitado de los evaluadores crea preocupaciones reales de seguridad y propiedad intelectual. La ley debe establecer entornos de prueba seguros y sanciones por el manejo indebido de información sensible.
La tercera cuestión es la divulgación. Shapiro quiere más transparencia, pero diferentes audiencias necesitan materiales distintos.
Los consumidores necesitan un aviso claro cuando interactúan con IA y cuando sus recomendaciones no cuentan con licencia profesional. Los compradores empresariales necesitan pruebas sobre fiabilidad, seguridad, manejo de datos y supervisión. Los reguladores necesitan informes de incidentes, resultados de pruebas internas y suficiente documentación técnica para investigar las afirmaciones.
El público también necesita información agregada sobre fallos graves. Sin ella, investigadores y periodistas no pueden identificar patrones entre empresas o productos.
La cuarta cuestión implica remedios. Descubrir una vulnerabilidad significa poco si una empresa puede desplegar el sistema sin corregirla.
El Congreso debe decidir si los reguladores pueden retrasar un lanzamiento, exigir restricciones, ordenar notificaciones, imponer supervisión o requerir la retirada de usos de alto riesgo. Cada opción plantea cuestiones procedimentales y constitucionales.
Una pausa obligatoria podría estar justificada para un producto sanitario claramente peligroso. Aplicar el mismo remedio a un asistente de redacción de propósito general sería más difícil de defender.
También existe el riesgo de que el cumplimiento normativo fortalezca a las empresas más grandes. Los principales desarrolladores pueden crear equipos de auditoría, contratar asesores especializados y absorber retrasos. Las empresas más pequeñas podrían tener dificultades con los mismos costes fijos.
Ese resultado sería especialmente contraproducente si las reglas protegen a las empresas dominantes sin generar una mayor seguridad. El Congreso podría considerar recursos compartidos de pruebas, obligaciones escalonadas y estándares que se ajusten al alcance, la capacidad y el uso de un sistema.
Los críticos de la regulación estatal plantean un argumento válido cuando advierten sobre obligaciones incoherentes. Una empresa no debería necesitar 50 auditorías técnicas sustancialmente distintas para el mismo modelo.
Sin embargo, ese argumento respalda un estándar nacional creíble. Por sí solo, no demuestra que las normas estatales deban eliminarse antes de que exista un reemplazo federal adecuado.
La preeminencia federal sin una aplicación federal sólida trasladaría el poder de los estados a los desarrolladores. La preeminencia acompañada de una supervisión significativa podría ofrecer tanto coherencia como rendición de cuentas.
La incertidumbre final se refiere a la coordinación internacional. Los sistemas avanzados cruzan fronteras, y muchas cadenas de suministro incluyen investigación extranjera, chips, datos, servicios en la nube y usuarios.
Shapiro criticó un enfoque aislacionista de la gobernanza de la IA. La coordinación con aliados puede respaldar métodos comunes de evaluación e informes de incidentes. También puede reducir la posibilidad de que las empresas trasladen trabajos riesgosos a la jurisdicción menos exigente.
La cooperación internacional no eliminará las diferencias políticas. Aun así, puede establecer un lenguaje técnico compartido para evaluar la seguridad, la controlabilidad y los riesgos de uso indebido.
La conclusión escéptica es sencilla: las salvaguardas de IA de Josh Shapiro son una dirección, no un diseño regulatorio acabado. Su valor depende de detalles que el discurso dejó en manos del Congreso.
Tres señales mostrarán si el desafío de Shapiro importa
La siguiente prueba es si la propuesta de Shapiro cambia la legislación federal, el comportamiento de los desarrolladores o el historial de aplicación de Pennsylvania.
La primera señal es el contenido de cualquier proyecto de ley federal sobre IA que avance en el Congreso. La cuestión clave no es si los legisladores usan la palabra “seguridad”. Es si la legislación exige evaluación independiente, da a los reguladores acceso a pruebas, define los sistemas cubiertos y crea consecuencias para fallos graves.
El lenguaje sobre preeminencia será igual de importante. Un proyecto de ley que bloquee la acción estatal mientras preserve compromisos voluntarios débiles iría en contra de la posición de Shapiro. Un mínimo federal que deje espacio para los poderes estatales tradicionales en materia de consumidores, seguridad infantil, licencias e infraestructura la reforzaría.
Los lectores deben distinguir entre un borrador de debate, un proyecto presentado, una medida aprobada por un comité y una ley promulgada. Cada uno representa un grado distinto de consecuencia jurídica, y las declaraciones públicas sobre un marco no imponen por sí mismas obligaciones a los desarrolladores.
La segunda señal es cómo responden los principales desarrolladores a la supervisión independiente. El respaldo público a las pruebas de seguridad es habitual, pero las empresas suelen discrepar sobre el acceso obligatorio, los requisitos de publicación y la aplicación de las normas.
Un cambio significativo incluiría apoyo a evaluadores externos cualificados que puedan examinar pruebas no públicas. Otra señal sería la presentación estandarizada de informes sobre incidentes graves y una divulgación clara cuando un producto entra en un entorno de alto impacto.
La acción voluntaria por sí sola no puede sustituir a la ley. Puede revelar si el sector considera que una supervisión creíble es compatible con la competencia o un límite inaceptable a la velocidad de despliegue.
La tercera señal procede de la propia Pennsylvania. El estado debe demostrar que sus condiciones para centros de datos y sus protecciones al consumidor funcionan en la práctica.
Hay que observar si los desarrolladores suscriben compromisos GRID vinculantes, obtienen aprobaciones locales e informan sobre el uso de energía y agua. También hay que observar si el mapa público de proyectos del estado ofrece a las comunidades información oportuna, en lugar de documentar decisiones después de que sean difíciles de modificar.
Las pruebas pertinentes serán concretas: ubicaciones de proyectos publicadas, acuerdos de consentimiento, informes de uso de recursos, avisos de aplicación, registros de audiencias locales y sanciones documentadas por incumplimiento. Los anuncios por sí solos no demostrarán si la orden cambia la conducta de los desarrolladores o protege a los contribuyentes de las tarifas.
La aplicación de la ley en torno a los bots de IA de compañía ofrecerá otra prueba práctica. Los tribunales y organismos determinarán cómo se aplican las leyes vigentes sobre licencias y consumidores cuando un sistema conversacional parece ofrecer asesoramiento profesional.
Una resolución que acepte la teoría jurídica de Pennsylvania podría demostrar que la legislación actual puede abordar algunos daños de la IA. Una desestimación basada en jurisdicción, inmunidad de plataforma, legitimación procesal o una definición legal poco clara podría aumentar la presión para una legislación específica. Hasta que el tribunal se pronuncie, ambos resultados siguen siendo inciertos, y la demanda no debe tratarse como prueba de responsabilidad.
Para los desarrolladores y compradores empresariales, este debate cambia las expectativas de adquisición. Las organizaciones deberían anticipar más preguntas sobre pruebas de modelos, respuesta a incidentes, gobernanza de datos de entrenamiento, revisión humana, cambios de versión y acceso de terceros.
Un distrito escolar, por ejemplo, puede necesitar saber si un chatbot dirigido a estudiantes almacena conversaciones sensibles, cómo gestiona las revelaciones de autolesión y quién recibe una alerta. Un empleador que utiliza IA para filtrar candidatos puede necesitar datos de desempeño por subgrupos y un proceso de apelación humana. Una empresa de servicios públicos que despliega un asistente automatizado puede necesitar pruebas de que no inventa normas de pago ni políticas de corte del servicio.
Los trabajadores del conocimiento también deberían preocuparse, porque la política de seguridad determina quién asume el coste de un resultado poco fiable. Sin una rendición de cuentas clara, los usuarios y empleadores deben detectar los fallos después del despliegue. Unas normas más sólidas pueden devolver parte de esa responsabilidad a las empresas que diseñan y venden los sistemas.
En última instancia, el argumento de Shapiro pregunta si la velocidad debe seguir siendo la medida predeterminada del éxito nacional en IA. Modelos más rápidos y más infraestructura pueden generar valor económico, pero también pueden distribuir los riesgos con mayor rapidez.
Los próximos uno a tres meses deberían revelar si Washington traduce su intervención en texto legislativo o la deja como una exigencia de política pública. Los lectores deben observar el texto del proyecto de ley, la autoridad de los organismos, el expediente judicial y los datos de implementación - no los eslóganes - y formular una pregunta directa: ¿las salvaguardas finales de IA de Josh Shapiro otorgan a los revisores independientes suficiente acceso y autoridad para identificar problemas graves antes de que el público asuma su coste?
