Audiencia del Concejo Municipal de NYC sobre OpenAI somete a los laboratorios de IA a juramento
OpenAI comparecerá en una audiencia del Concejo Municipal de NYC junto a tres grandes rivales, bajo juramento, después de que la mayoría aceptara asistir solo cuando los legisladores amenazaron con citaciones. La sesión del 5 de octubre situará a Anthropic, Google, Meta y OpenAI ante los 51 miembros del concejo. También se espera el testimonio del exinvestigador de Anthropic Jacob Coxon, tras advertir públicamente que la IA avanzada podría escapar al control humano.
La audiencia del Concejo Municipal de NYC sobre OpenAI no es simplemente otra mesa redonda sobre políticas. Los miembros del concejo estudian propuestas que podrían exigir validación externa de modelos, recompensar a denunciantes, establecer responsabilidad por daños previsibles y obligar a informar rápidamente de incidentes. Esas medidas convertirían las amplias promesas de seguridad en obligaciones que las empresas, los validadores y quienes despliegan sistemas podrían tener que documentar.
El conflicto central enfrenta la rendición de cuentas con la gobernanza voluntaria. Las empresas de IA han publicado marcos de seguridad y aceptado deberes de pruebas internas. Ahora, los legisladores de New York City quieren pruebas independientes, recursos legales y testimonios registrados. La audiencia pondrá a prueba si los principales laboratorios pueden defender sus controles de riesgo cuando las preguntas procedan de funcionarios electos en lugar de sus propios evaluadores.
La audiencia del Concejo Municipal de NYC sobre OpenAI tiene un objetivo más amplio
La audiencia desplaza la seguridad de la IA de los documentos de políticas empresariales al testimonio público bajo juramento.
El Concejo Municipal de New York City programó su audiencia del Committee of the Whole para las 11 a. m. del 5 de octubre en City Hall. Un Committee of the Whole reúne al Concejo completo, en lugar de asignar el asunto a un comité permanente.
El Concejo describe la sesión como un examen de los riesgos planteados por la inteligencia artificial. Su agenda de la audiencia enumera un asunto de supervisión y nueve propuestas legislativas. Estas propuestas abarcan validación de modelos, denunciantes, privacidad de chatbots, reporte de incidentes, responsabilidad, planificación de emergencias y afirmaciones publicitarias.
Meta se comprometió a enviar a un representante de alto nivel antes de que el Concejo amenazara con un proceso obligatorio. OpenAI y Google aceptaron participar tras la advertencia de citación. Anthropic inicialmente se negó, pero confirmó su asistencia poco antes del plazo amenazado.
El Concejo afirma que este será el primer testimonio público bajo juramento de las cuatro empresas sobre los peligros de la IA y las posibles respuestas legislativas. Esa descripción es importante. Proviene del Concejo, y la audiencia aún no ha establecido qué concederá, cuestionará o incorporará al registro cada empresa.
No se espera que las empresas invitadas envíen a sus directores ejecutivos. Bloomberg informó que funcionarios de políticas y seguridad representarían a los laboratorios. Sus identidades, autoridad y disposición a responder preguntas técnicas determinarán el valor de la audiencia.
SpaceXAI también pasó a formar parte de la disputa después de no responder a la invitación inicial del Concejo. La presidenta Julie Menin emitió una citación en virtud de la autoridad investigadora del Concejo. El Concejo indicó que podría solicitar su ejecución ante la Corte Suprema del Estado de New York si la empresa no cumplía.
Un informe local posterior señaló que se esperaba la participación de SpaceXAI. Esa posible incorporación amplía la lista de empresas, pero no altera la confrontación principal. Los legisladores quieren saber si los desarrolladores de IA de frontera pueden demostrar que sus salvaguardas funcionan fuera de demostraciones controladas.
Coxon aporta un tipo de testimonio diferente. Según informes sobre su salida, anteriormente realizó investigación de preentrenamiento en OpenAI y Anthropic. El preentrenamiento es el proceso a gran escala mediante el cual un modelo aprende patrones a partir de extensos conjuntos de datos antes de un refinamiento posterior.
Dejó Anthropic en septiembre y acusó a los principales laboratorios de asumir riesgos inaceptables. Según un informe sobre su testimonio, Coxon afirmó que quienes construían sistemas avanzados creían que la IA podría matar a la humanidad antes de que terminara la década.
Esa es una afirmación extraordinaria, no una previsión establecida. Reuters también indicó que no pudo verificar de forma independiente el informe de Bloomberg sobre la prevista comparecencia de Coxon. El Concejo citó por separado su renuncia al explicar por qué había organizado la audiencia más amplia.
Según los informes, Coxon comparecerá junto al exinvestigador de Google DeepMind Alex Turner y Daniel Kokotajlo, exinvestigador de OpenAI que dirige el AI Futures Project. Su presencia podría hacer que la sesión sea más confrontativa que una audiencia compuesta únicamente por testigos empresariales.
Los representantes de las empresas probablemente describirán evaluaciones, controles de despliegue y procedimientos de incidentes. Los exmiembros internos pueden cuestionar si esas salvaguardas abordan los sistemas que los laboratorios compiten por construir. Los miembros del concejo podrán entonces comparar ambas versiones bajo las mismas reglas públicas.
Esa comparación constituye el cambio inmediato. Los debates sobre seguridad de la IA suelen separar las garantías empresariales de las advertencias de los críticos. New York City las está reuniendo en una misma sala mientras considera leyes que vinculan consecuencias a una validación incompleta o a daños evitables.
New York quiere pruebas antes del despliegue
La propuesta más trascendental convertiría la validación independiente en una condición para ofrecer o desplegar modelos de IA cubiertos en la ciudad.
La propuesta del Concejo, incluida como T2026-2602 en la agenda, prohibiría comercializar, vender o desplegar un modelo de IA en New York City sin validación de terceros. También exigiría una capacidad técnica que permitiera a un operador humano apagar el modelo.
La validación de terceros implica que un evaluador externo examine un sistema en lugar de depender únicamente de la evaluación del desarrollador. La propuesta identifica el desempeño en tareas, el impacto dispar, la privacidad y la seguridad como áreas relevantes. También solicita a los validadores que examinen si funciona la capacidad de apagado humano.
Los validadores tendrían que revelar intereses relacionados con el modelo. También informarían si el sistema fue validado o estaba listo para su despliegue. New York City Cyber Command definiría las reglas de implementación y las cualificaciones de los validadores.
Las sanciones crearían incentivos para ambas partes de la relación de evaluación. La agenda señala que las sanciones civiles podrían alcanzar los $25,000, incluida una sanción fija de $25,000 por cada caso de oferta o despliegue de un modelo sin la validación exigida. Las validaciones falsificadas podrían conllevar el mismo importe.
Las normas de IA propuestas van más allá de la validación. Una medida permitiría a las personas presentar denuncias sobre infracciones de IA cubiertas ante el Department of Consumer and Worker Protection. Esa agencia normalmente investigaría, salvo que una denuncia fuera frívola, falsa o duplicada.
Un denunciante podría recibir el 25 por ciento de los ingresos recuperados si la ciudad persiguiera el caso utilizando los hechos alegados. Esa proporción podría aumentar al 50 por ciento si los funcionarios designaran al denunciante para notificar una infracción o iniciar una acción civil.
Este mecanismo de incentivos busca resolver un problema de información. Las personas externas rara vez saben cómo se diseñaron las evaluaciones internas, qué advertencias se elevaron o por qué avanzó un despliegue. Los empleados y contratistas suelen tener mejor acceso, pero denunciar irregularidades puede poner en riesgo sus carreras.
Otro proyecto de ley aclararía las protecciones para denunciantes de empleados municipales y contratistas cubiertos. Protegería las denuncias sobre el desarrollo o uso de IA que los trabajadores crean razonablemente que presenta un riesgo sustancial y específico para la seguridad pública.
El paquete también aborda los incidentes vinculados a contratos municipales. Los contratistas y las agencias de la ciudad tendrían que notificar a Cyber Command en un plazo de 24 horas tras descubrir un incidente de seguridad de IA notificable. Cyber Command divulgaría entonces públicamente el evento reportado dentro de otro período de 24 horas.
Ese requisito es más limitado que una obligación general de informar sobre cada fallo de modelo. Se centra en los contratos municipales cubiertos. Aun así, crearía un registro visible que investigadores, periodistas, proveedores y residentes podrían comparar con el tiempo.
Un derecho privado de acción abordaría otra brecha de aplicación. Bajo T2026-2600, una persona podría demandar a una empresa cuyo modelo disponible comercialmente causara daño mediante el uso malicioso o indebido de terceros. La reclamación exigiría un daño previsible y salvaguardas inadecuadas vinculadas a ese uso indebido.
La previsibilidad será objeto de disputa. Los desarrolladores no pueden impedir todos los prompts maliciosos ni todas las modificaciones posteriores. Sin embargo, las empresas tampoco pueden tratar un abuso predecible como imprevisible simplemente porque otra persona proporcionó la instrucción final.
La propuesta sitúa esa cuestión ante los tribunales en lugar de dejarla únicamente en manos de los equipos de políticas de las empresas. Eso crea presión para conservar resultados de evaluaciones, previsiones de abuso, advertencias internas y decisiones de despliegue.
Otras medidas regularían las prácticas de datos de los chatbots y la publicidad sobre seguridad. Los proveedores de chatbots afrontarían requisitos de privacidad, seguridad, transparencia y acceso de los usuarios. Los proveedores no podrían insinuar que un chatbot ofrece asesoramiento equivalente al de un profesional autorizado.
La publicidad de un modelo de IA tendría que revelar si un tercero lo validó. Las afirmaciones de seguridad materialmente falsas o engañosas podrían acarrear sanciones de hasta $25,000.
Estas disposiciones convierten el lenguaje de seguridad en algo más cercano a una declaración sobre el producto. Si un desarrollador anuncia un modelo como seguro, la ciudad quiere que esa declaración esté vinculada a un proceso de evaluación identificable.
Todo el paquete sigue siendo legislación propuesta. La audiencia del 5 de octubre no es una votación final, y los proyectos de ley podrían cambiar sustancialmente. La acción del Concejo también iría seguida de cuestiones de implementación, impugnaciones legales, normas de agencias o decisiones del alcalde.
Esa incertidumbre no debería ocultar la dirección general. New York City está pasando de una supervisión algorítmica limitada a un escrutinio más amplio de los modelos de IA de propósito general y de las empresas que los suministran.
La seguridad voluntaria de la IA se enfrenta a pruebas exigibles
La disputa central no es si las empresas prueban sus modelos, sino quién define unas pruebas adecuadas y quién puede verificar el resultado.
OpenAI, Anthropic, Google y Meta realizan evaluaciones de modelos. Publican distintas combinaciones de system cards, informes de seguridad, políticas de escalado responsable, artículos de investigación y restricciones de despliegue.
Esos documentos aportan pruebas útiles. También dejan a las empresas un amplio control sobre el diseño de las pruebas, el umbral de divulgación, el momento y la respuesta ante un resultado preocupante.
La propuesta de New York transferiría parte de esa autoridad a validadores independientes y funcionarios de la ciudad. Ese cambio explica por qué la audiencia importa más allá de New York. Cuestiona un modelo de gobernanza construido en gran medida sobre compromisos voluntarios y transparencia selectiva.
Las pruebas dirigidas por las empresas pueden avanzar rápidamente y utilizar acceso interno del que carece un evaluador externo. Los desarrolladores de modelos entienden sus sistemas, infraestructura y planes de despliegue mejor que la mayoría de los reguladores. También pueden realizar pruebas durante el desarrollo, antes de que un lanzamiento público cree presión para defender el resultado.
La revisión externa ofrece una ventaja diferente. Puede cuestionar supuestos que se han vuelto normales dentro de una empresa. Puede comparar pruebas entre proveedores y preguntar si una afirmación de seguridad utiliza estándares coherentes.
Ninguno de los dos enfoques garantiza una supervisión fiable. Un validador independiente podría carecer de acceso al modelo, capacidad técnica o tiempo suficiente. Una prueba de cumplimiento mal diseñada puede premiar el papeleo en lugar de una reducción significativa del riesgo.
El requisito de conflicto de intereses de la propuesta reconoce una debilidad evidente. Un validador pagado por un desarrollador puede enfrentarse a presiones para aprobar el sistema de su cliente. La divulgación ayuda, pero por sí sola no elimina la dependencia financiera.
El requisito de un “interruptor de apagado” plantea otra cuestión difícil. La capacidad de que una persona desconecte un sistema parece sencilla, pero los productos de IA se despliegan en servicios en la nube, aplicaciones, agentes e infraestructura de clientes.
Un proveedor central puede desactivar el acceso a su modelo alojado. No necesariamente puede detener cada resultado copiado, artefacto exportado, integración local o acción posterior que ya haya desencadenado un usuario.
La legislación necesitará una definición precisa del sistema que se desactiva. También debe distinguir entre un servicio deshabilitado y un incidente contenido. De lo contrario, los desarrolladores podrían cumplir un control formal sin abordar las vías por las que se produce el daño.
El rendimiento de las tareas también depende del contexto. Un modelo que funciona bien en una prueba de referencia podría fallar dentro de un hospital, un proceso de contratación, un servicio jurídico o un agente de software autónomo. La validación debe conectar las capacidades generales del modelo con su despliegue previsto.
Nueva York ya ha encontrado este problema mediante la supervisión automatizada de la contratación. La Ley Local 144 restringe a empleadores y agencias de empleo el uso de herramientas automatizadas cubiertas de decisión laboral sin una auditoría reciente de sesgo y los avisos requeridos.
La ciudad comenzó a aplicar ese régimen en julio de 2023. Sus normas de auditoría de contratación crearon un precedente importante, pero las propuestas actuales son más amplias.
La Ley Local 144 se centra en un uso laboral definido. T2026-2602, según el resumen del Concejo, se aplica a modelos de IA comercializados, vendidos o desplegados en la ciudad. Ese lenguaje plantea cuestiones mucho mayores sobre alcance, jurisdicción y viabilidad técnica.
Una herramienta limitada tiene usuarios, decisiones y resultados identificables. Un modelo de propósito general puede servir para programación, análisis de documentos, atención al cliente, investigación, trabajo creativo y acciones autónomas. El riesgo cambia con cada integración.
Por tanto, la audiencia debe exigir a los testigos pruebas concretas. ¿A qué acceso al modelo tendría un validador? ¿Qué evaluaciones deben realizarse antes del despliegue? ¿Con qué frecuencia debe renovarse la validación tras una actualización del modelo?
Los miembros del Concejo también deberían preguntar quién asume la responsabilidad cuando un desarrollador suministra el modelo, pero otra empresa crea la aplicación. Una regla amplia podría alcanzar a proveedores de modelos, distribuidores, implementadores o a los tres.
Aquí es donde la rendición de cuentas y la innovación se convierten en una verdadera disyuntiva. Las normas débiles permitirían que prosperen afirmaciones poco fiables. Las normas vagas o excesivamente amplias podrían desalentar despliegues útiles sin generar una mayor seguridad.
Los principales laboratorios tienen incentivos para defender normas técnicamente fundamentadas y coherentes a nivel nacional. Los legisladores municipales tienen incentivos para actuar cuando las normas federales parecen insuficientes. La audiencia incorpora esas prioridades contrapuestas al mismo registro público.
Las Advertencias de los Denunciantes Necesitan Más que Titulares
La advertencia de Coxon eleva las apuestas políticas, pero los legisladores aún necesitan pruebas verificables sobre sistemas, decisiones y fallos específicos.
Las afirmaciones sobre riesgos existenciales captan la atención porque el daño alegado es inmenso. También pueden eclipsar cuestiones más inmediatas sobre privacidad, discriminación, fraude, ciberseguridad y automatización insegura.
El paquete del Concejo intenta abordar ambos niveles. La planificación de emergencias y los requisitos de apagado del modelo responden a fallos graves. La privacidad de los chatbots, las divulgaciones publicitarias, las normas de contratación y los recursos privados abordan daños que los residentes podrían encontrar antes.
El testimonio de Coxon será más útil si pasa de las afirmaciones de probabilidad a los detalles operativos. Los legisladores necesitan entender qué capacidades le preocupan, qué pruebas cambiaron su juicio y qué salvaguardas considera que faltan en los laboratorios actuales.
También deberían distinguir las estimaciones personales de riesgo de las conclusiones documentadas de las empresas. La advertencia de un antiguo empleado puede revelar un desacuerdo grave. No demuestra de forma independiente que vaya a producirse un resultado catastrófico.
El mismo criterio se aplica al testimonio de las empresas. Las declaraciones sobre la cultura de seguridad no prueban que un modelo haya superado pruebas adversariales significativas. Un marco de escalamiento responsable no demuestra que los empleados puedan detener un lanzamiento cuando aumenta la presión empresarial.
El Concejo debería preguntar a cada empresa cómo se transmite una advertencia interna grave dentro de la organización. ¿Quién puede retrasar el despliegue? ¿Qué ejecutivo puede revertir esa decisión? ¿Qué documentación permanece tras el desacuerdo?
Las protecciones para denunciantes importan porque los canales formales de denuncia pueden fallar. Los empleados pueden temer represalias, la pérdida de trabajo futuro o conflictos legales por información confidencial. Sin embargo, los programas de incentivos también pueden atraer denuncias débiles, duplicadas o estratégicas.
El sistema de denuncias propuesto intenta filtrar informes frívolos, falsificados y repetidos. Su éxito dependerá de la experiencia de la agencia y de su capacidad investigadora. Los funcionarios deben separar un juicio técnico impopular de una infracción legal.
La recompensa económica merece un diseño cuidadoso. Un porcentaje de las sanciones recuperadas puede animar a los informantes internos a comunicar datos que los reguladores de otro modo no verían. También puede generar disputas sobre quién aportó primero los hechos decisivos.
El Concejo debe definir la información elegible, las divulgaciones protegidas, las normas de confidencialidad y los procedimientos para manejar pruebas sensibles para la seguridad. La divulgación pública no puede convertirse en una vía para filtrar datos personales, pesos de modelos o vulnerabilidades explotables.
Las empresas también tienen derecho a impugnar acusaciones inexactas. El debido proceso importa cuando una denuncia puede desencadenar investigaciones, sanciones, litigios o daño reputacional público.
Eso no justifica el secretismo. Significa que la ciudad necesita un proceso que proteja tanto a los denunciantes creíbles como la integridad de las pruebas.
La pregunta escéptica es si un gobierno municipal puede administrar ese proceso en toda la industria de IA de frontera. Nueva York cuenta con experiencia regulatoria, agencias técnicas, autoridad de contratación pública y un mercado amplio. No controla la política nacional de investigación, las exportaciones de chips ni cada despliegue fuera de sus fronteras.
La regulación amplia de modelos también podría enfrentar disputas jurisdiccionales. Un modelo en la nube podría entrenarse en otro lugar, alojarse en otro estado, accederse a través de un intermediario y ser utilizado por un residente de Nueva York. Cada vínculo crea una teoría distinta de autoridad local.
Estas dificultades no convierten la audiencia en algo simbólico. Las ciudades compran tecnología, regulan empresas, protegen a los consumidores y establecen condiciones para la actividad local. El tamaño de Nueva York permite que sus normas influyan en las prácticas de los proveedores más allá de los límites de la ciudad.
Sin embargo, la influencia no es lo mismo que la exigibilidad. El Concejo debe mostrar cómo las agencias detectarían un modelo no validado, identificarían a la entidad responsable y distinguirían una actualización de modelo de un nuevo despliegue.
Las empresas deberían explicar qué pruebas pueden proporcionar sin exponer detalles de seguridad ni secretos comerciales. Los legisladores deberían explicar cómo los validadores externos recibirán suficiente acceso para probar afirmaciones importantes.
Si ambas partes se mantienen en el terreno de la catástrofe frente a la innovación, la audiencia producirá declaraciones memorables y poca claridad operativa. Si analizan acceso a auditorías, definiciones de incidentes, autoridad y pruebas, la sesión puede mejorar los proyectos de ley.
Esta distinción también importa para los compradores empresariales. Los equipos de contratación se enfrentan cada vez más a afirmaciones sobre seguridad, fiabilidad y cumplimiento de los modelos. Un marco de validación creíble podría reducir las brechas de información.
Un marco débil añadiría otro certificado sin ayudar a los compradores a evaluar el riesgo. Los detalles del acceso, la cobertura de las pruebas, la independencia y las evaluaciones repetidas determinarán cuál de los dos resultados obtiene Nueva York.
La Presión se Extiende Más Allá de Cuatro Empresas de IA
Las normas propuestas afectarían no solo a los desarrolladores de modelos, sino también a validadores, contratistas, implementadores, anunciantes y organizaciones que adquieren servicios de IA.
OpenAI, Anthropic, Google y Meta reciben atención porque desarrollan modelos destacados. La legislación descrita en la agenda alcanza una cadena más amplia de organizaciones.
Una empresa que ofrezca un modelo de IA en Nueva York podría necesitar pruebas de validación. Una empresa que despliegue el modelo podría enfrentarse a obligaciones separadas. Un validador podría ser responsable por una certificación falsa.
Los contratistas municipales necesitarían procedimientos de detección de incidentes y notificación rápida. Las agencias necesitarían procesos para escalar incidentes a Cyber Command. Luego, la ciudad tendría que publicar información con la rapidez suficiente para cumplir el calendario propuesto.
Los proveedores de chatbots orientados al consumidor necesitarían revisar las prácticas de acceso a datos, privacidad, seguridad y transparencia. Los equipos de marketing necesitarían pruebas que respalden las afirmaciones de seguridad. Los equipos jurídicos tendrían que evaluar el uso indebido previsible.
Esta distribución de responsabilidades importa porque el riesgo de la IA rara vez recae en una sola organización. Un desarrollador de modelos crea la capacidad subyacente. Una empresa de aplicaciones define los flujos de trabajo. Un cliente aporta datos y concede acceso al sistema.
Un agente autónomo añade otra capa. Un agente es software que utiliza un modelo para planificar y realizar acciones, a menudo mediante herramientas externas. Su comportamiento depende del modelo, los permisos disponibles, las instrucciones y la aplicación circundante.
Un modelo puede parecer controlado en una interfaz de chat, pero volverse peligroso al conectarse al correo electrónico, bases de datos, sistemas de pago o repositorios de software. Por tanto, la validación debe examinar el entorno de despliegue, no solo el modelo base.
La propuesta de notificación de incidentes del Concejo reconoce esta realidad operativa para los contratos municipales. Un evento notificable podría comenzar con un resultado del modelo, pero volverse perjudicial mediante permisos del sistema o una supervisión deficiente.
Las organizaciones que usan IA no deberían esperar a la legislación definitiva para examinar esas vías. Pueden identificar qué modelos acceden a datos sensibles, qué herramientas pueden realizar acciones externas y quién puede revocar permisos.
La documentación es fundamental para ese trabajo. Los equipos necesitan registros de versiones de modelos, resultados de evaluaciones, decisiones sobre incidentes y cambios en las salvaguardas. Sin esos registros, la rendición de cuentas se convierte en un debate sobre recuerdos.
Los trabajadores del conocimiento también tienen un interés directo. Los asistentes de IA interactúan cada vez más con documentos internos, notas de reuniones, código, investigación e información de clientes. Los usuarios necesitan saber qué datos entran en un sistema y qué controles rigen su recuperación o retención.
Una base de conocimientos de IA bien mantenida puede ayudar a los equipos a preservar el contexto y rastrear decisiones. No sustituye la validación de modelos, los controles de acceso ni la respuesta ante incidentes.
Para los desarrolladores, la audiencia indica que las afirmaciones de seguridad requerirán cada vez más evidencias documentales. Una declaración de que una aplicación cuenta con barreras de protección no satisfará a un regulador escéptico. Los equipos pueden necesitar casos de prueba, registros de evaluación, registros de acceso y procedimientos de respuesta.
Los compradores empresariales deberían observar si las empresas aceptan una base común para pruebas independientes. Una base compartida podría simplificar la contratación. Las normas divergentes podrían dejar a los compradores comparando informes incompatibles.
Las empresas también afrontan presiones estratégicas distintas. OpenAI y Anthropic hacen hincapié en el desarrollo de modelos de frontera y la investigación de seguridad. Google integra la IA en búsqueda, nube, productividad y servicios de consumo.
Meta desarrolla modelos mientras opera grandes plataformas sociales y sistemas publicitarios. Estas diferencias empresariales afectan la escala de implementación, los modelos de acceso y las pruebas que cada empresa puede aportar.
La audiencia no debería reducir esas diferencias a una única respuesta para toda la industria. Debería establecer qué obligaciones se aplican a todos los modelos de negocio y cuáles requieren normas específicas según el contexto.
La anterior ley de contratación de Nueva York ofrece tanto un precedente como una advertencia. Un mandato local de auditorías puede crear un mercado para la revisión externa. También puede generar debates sobre definiciones, cobertura y si las auditorías miden los daños que preocupan a las personas afectadas.
Las nuevas propuestas afrontarán estas cuestiones a una escala mayor. Los modelos de propósito general cambian con frecuencia y admiten usos que los desarrolladores no pueden prever por completo. La validación debe seguir siendo relevante después de las actualizaciones sin convertir cada cambio menor en un problema jurídicamente inmanejable.
El Consejo ha presentado el paquete como favorable tanto a la innovación como a la seguridad. Ese equilibrio dependerá de las definiciones y la implementación, no del eslogan.
Un alcance claro podría recompensar a los desarrolladores que ya documentan sus controles. Un alcance ambiguo podría favorecer a las grandes empresas capaces de asumir los costes de cumplimiento, mientras los proveedores más pequeños se retiran.
Esa posibilidad merece atención durante la audiencia. La rendición de cuentas no debería convertirse en una barrera que solo las empresas más grandes puedan permitirse. Tampoco las preocupaciones por la concentración del mercado deberían convertirse en una excusa para realizar pruebas deficientes.
Tres señales mostrarán si la audiencia importa
La importancia de la audiencia se medirá por las pruebas que produzca, los cambios realizados a los proyectos de ley y los estándares que Nueva York pueda aplicar realmente.
La primera señal es el propio testimonio. Observe si los representantes de las empresas responden con métodos concretos de evaluación, procedimientos de escalamiento y umbrales de implementación.
Las declaraciones generales sobre una IA responsable revelarán poco. Las descripciones específicas sobre acceso independiente, hallazgos de red teams, gestión de incidentes y autoridad para los lanzamientos crearían un registro que terceros puedan evaluar.
Coxon y otros exinvestigadores se enfrentan al mismo estándar. Su testimonio será más sólido si identifican mecanismos, fallos de gobernanza o decisiones que los legisladores puedan investigar. Las previsiones catastróficas por sí solas no indicarán a la ciudad cómo regular.
La segunda señal es el proceso de revisión legislativa. El plan de testimonios de las empresas afirma que el Consejo quiere aportaciones de la industria sobre las soluciones propuestas. Unas enmiendas sustanciales demostrarían que la audiencia cambió la comprensión de los legisladores.
Observe la definición de un modelo de IA, el alcance de la validación por terceros y el significado de implementación. Estos términos determinan si las normas cubren a un grupo reducido de sistemas o a casi todos los servicios habilitados por IA.
Observe también la capacidad de desconexión propuesta. Una disposición viable debería especificar quién la controla, qué desactiva, cómo se prueba y qué implementaciones la requieren.
El incentivo para denunciantes necesitará normas detalladas de elegibilidad y confidencialidad. El derecho privado de acción necesitará un criterio defendible para la previsibilidad y las salvaguardas razonables.
La tercera señal es la vía de implementación. Cyber Command y el Department of Consumer and Worker Protection asumirían responsabilidades importantes en virtud de las propuestas.
Su dotación de personal, acceso técnico, autoridad normativa y procedimientos de aplicación importarán tanto como el texto legal. Un mandato sin capacidad de investigación dejaría a la ciudad dependiente de las divulgaciones de las empresas.
La agenda del Consejo todavía incluye las nuevas propuestas como asuntos preconsiderados. Las actas y las acciones legislativas no estaban disponibles antes de la audiencia programada. Por ello, los lectores deberían considerar el paquete como un punto de partida, no como una ley promulgada.
La audiencia de OpenAI ante el Consejo de Nueva York solo tendrá éxito si reduce la brecha entre las promesas de seguridad y los controles verificables. Eso implica preguntar qué pruebas existen, quién puede inspeccionarlas y qué ocurre cuando se ignora una advertencia.
Los desarrolladores, compradores empresariales y usuarios de IA deberían seguir los testimonios teniendo presentes estas preguntas. ¿Revelan los testigos salvaguardas que puedan comprobarse? ¿Transforman los legisladores un lenguaje amplio en obligaciones viables? ¿Reciben las agencias la autoridad y los conocimientos necesarios para aplicarlas?
Las respuestas mostrarán si Nueva York está construyendo un modelo creíble de rendición de cuentas u otra capa de trámites de cumplimiento. Siga el registro de la audiencia y compare cada garantía pública con las pruebas presentadas bajo juramento.
