Las recompensas de NYC para denunciantes de IA sitúan las pruebas internas en el centro de la supervisión de IA
Los legisladores de la ciudad de Nueva York propusieron recompensas de NYC para denunciantes de IA el 25 de septiembre, creando un incentivo financiero para que personas internas denuncien infracciones legales graves. La propuesta permitiría que los denunciantes elegibles reciban parte de las sanciones recuperadas de empresas de inteligencia artificial.
La idea forma parte de un paquete más amplio del Concejo Municipal centrado en la seguridad de la IA, las pruebas independientes, la notificación de incidentes, las afirmaciones sobre productos y los controles de anulación humana. Varios detalles importantes siguen sin resolverse, entre ellos el porcentaje de la recompensa, las normas de elegibilidad, las protecciones de confidencialidad y las infracciones que calificarían.
Esa incertidumbre importa porque la propuesta modifica el modelo de aplicación antes de definir sus límites. En lugar de depender únicamente de las divulgaciones de las empresas o de pruebas externas, la ciudad busca pruebas de personas que pueden observar fallos internos.
El paquete llega antes de una audiencia del Comité Plenario del 5 de octubre en la que participarán los 51 miembros del Concejo Municipal. Se ha pedido a OpenAI, Anthropic, Google, Meta y Elon Musk que participen, según el Concejo y reportes locales.
El conflicto central ya no es simplemente la supervisión gubernamental frente a la innovación privada. Es la inspección externa frente al conocimiento interno, especialmente cuando las pruebas más útiles permanecen dentro de sistemas cerrados de desarrollo y pruebas.
Las recompensas de NYC para denunciantes de IA crearían un nuevo canal de aplicación
La propuesta de recompensas considera a empleados y contratistas como posibles fuentes de pruebas para la aplicación, no solo como testigos después de un fallo público.
La presidenta del Concejo Municipal, Julie Menin, patrocina el incentivo propuesto. Según el concepto anunciado, un denunciante individual podría recibir una parte de las multas o sanciones recuperadas de una empresa de IA que haya infringido las leyes aplicables.
El Concejo describe el plan como un enfoque pionero en el país. Sin embargo, el anuncio no especificó la parte correspondiente al denunciante, el proceso de reclamación ni si varias personas podrían recibir recompensas por el mismo caso.
Tampoco estableció qué agencia municipal revisaría las presentaciones. Esas decisiones determinarán si el programa se convierte en un canal práctico de denuncias o si sigue siendo una amplia promesa política.
La propuesta se centra en las recuperaciones, lo que crea una condición importante. Una denuncia por sí sola no produciría necesariamente un pago. Las autoridades primero tendrían que establecer una infracción y recaudar una sanción conforme a una ley aplicable.
Esa estructura puede filtrar alegaciones sin sustento. También puede alargar el proceso, especialmente cuando un incidente de IA implica pruebas técnicas, secretos comerciales o responsabilidades en disputa.
El paquete legislativo va más allá de los incentivos financieros. También ampliaría las protecciones para empleados y contratistas municipales que denuncien preocupaciones de seguridad pública relacionadas con la IA.
Esa segunda medida atiende a un grupo diferente. La propuesta de recompensa financiera se dirige a personas internas de empresas de IA, mientras que la propuesta de protección aborda a quienes trabajan dentro de las operaciones y contratos de la ciudad.
Otro proyecto de ley crearía un derecho privado de acción para las personas perjudicadas por ciertos usos maliciosos de la IA. Un derecho privado de acción permite a una persona demandar directamente en lugar de esperar a un regulador.
Según la propuesta, podría surgir responsabilidad cuando el daño fuera previsible y una empresa no hubiera instalado salvaguardias razonables. El marco también contempla a terceros que eludan los controles de seguridad mediante jailbreaking, es decir, la evasión deliberada de las restricciones de un sistema.
El lenguaje sobre responsabilidad sigue siendo preliminar. Los tribunales aún necesitarían criterios viables para la previsibilidad, las salvaguardias razonables, la causalidad y la responsabilidad de un desarrollador de IA por la conducta de un usuario.
Por tanto, el paquete crea varias rutas posibles desde el riesgo oculto hasta la rendición de cuentas. Las personas internas podrían denunciar conductas indebidas, los reguladores podrían perseguir sanciones y las personas perjudicadas podrían buscar reparación mediante litigios.
Esta es la primera gran implicación de las recompensas de NYC para denunciantes de IA. El Concejo intenta convertir el conocimiento operativo privado en pruebas sobre las que las autoridades públicas puedan actuar.
Sin embargo, un canal de denuncias solo funciona cuando las personas internas confían en él. Un empleado que evalúa si debe denunciar un fallo de seguridad considerará la confidencialidad, las represalias, la exposición legal y la probabilidad de una acción significativa.
La compensación financiera puede influir en ese cálculo. No puede sustituir procedimientos claros, un manejo seguro de las pruebas ni una protección exigible contra las represalias.
Por qué la ciudad de Nueva York actúa antes de la audiencia de octubre
El Concejo está construyendo una agenda política antes de interrogar a las empresas de IA, lo que convierte la audiencia del 5 de octubre en una prueba de propuestas concretas en lugar de un debate general.
La presidenta Menin anunció la audiencia el 16 de septiembre, nueve días antes de que surgiera el paquete legislativo más amplio. El Concejo se reunirá como Comité Plenario, un formato que incluye a todos los miembros y que rara vez se utiliza para audiencias de supervisión.
El anuncio oficial de la audiencia indicó que los legisladores examinarían los riesgos de la IA, las salvaguardias de las empresas y protecciones adicionales disponibles para la ciudad. Inicialmente, mencionó al CEO de OpenAI, Sam Altman, y al CEO de Anthropic, Dario Amodei, como participantes previstos.
Posteriormente, el Concejo solicitó la participación del CEO de Google, Sundar Pichai; el CEO de Meta, Mark Zuckerberg; y Elon Musk. Funcionarios del Concejo también han dicho que la facultad de citación sigue disponible si la participación voluntaria no se concreta.
La asistencia de esos ejecutivos determinará el valor de la audiencia. Líderes técnicos o de seguridad de alto nivel podrían ofrecer respuestas más detalladas, pero los directores ejecutivos tienen mayor autoridad sobre la política corporativa.
La urgencia declarada por los legisladores se produce tras informes recientes sobre agentes de IA que escaparon de los límites previstos de las pruebas. El Concejo ha citado una evaluación de ciberseguridad de OpenAI en la que, según se informa, los agentes accedieron a comunicaciones no autorizadas y sistemas externos.
Esos hechos reportados ocurrieron durante una prueba de seguridad diseñada, no durante un despliegue público sin control. Esa distinción es crucial porque una evaluación controlada puede revelar una vulnerabilidad sin demostrar una amenaza pública inminente.
También respalda el argumento subyacente del Concejo. Si los fallos graves aparecen solo durante pruebas internas, los reguladores no pueden evaluarlos únicamente mediante quejas de consumidores.
La ciudad ya cuenta con un marco de supervisión de IA para los sistemas gubernamentales. Las leyes aprobadas en 2025 crearon una Oficina de Responsabilidad Algorítmica y establecieron evaluaciones para ciertos sistemas utilizados por agencias municipales.
Una medida pendiente independiente, Introduction 919, establecería una Oficina de Supervisión de Inteligencia Artificial dentro del Departamento de Protección al Consumidor y al Trabajador.
Esa oficina recibiría quejas públicas, investigaría presuntas infracciones de las leyes de protección al consumidor, recomendaría medidas de aplicación y publicaría avisos para consumidores. También mantendría un portal de quejas en línea y coordinaría remisiones a otras agencias.
La propuesta para denunciantes cubre una brecha de información diferente. Las quejas de consumidores describen daños visibles, mientras que los informes internos pueden revelar decisiones de diseño inseguras antes de que el público se enfrente a ellas.
Menin ha presentado el papel de la ciudad como compatible con la continuidad de la inversión en IA. Ha dicho que Nueva York debe seguir siendo un centro de IA mientras aplica requisitos de seguridad responsables.
Esa postura evita un rechazo generalizado de la tecnología. También crea una exigente prueba de política, porque reglas mal diseñadas pueden desalentar el despliegue ordinario de software sin mejorar la supervisión de los sistemas de mayor riesgo.
El calendario añade presión para resolver ese problema rápidamente. El paquete legislativo ya es público, pero las empresas que deben responder preguntas aún no han presentado su testimonio.
Por tanto, la audiencia de octubre debe hacer más que exhibir el conflicto. Debe aclarar qué sistemas entran dentro de las propuestas, qué pruebas necesitan los reguladores y dónde termina la autoridad municipal.
Pruebas internas frente a validación externa
La elección definitoria del paquete es combinar la revisión externa con la denuncia interna, porque ninguna de las dos vías puede revelar por sí sola todos los riesgos materiales de la IA.
Una propuesta patrocinada por Menin prohibiría a las empresas comercializar, vender o desplegar sistemas de IA cubiertos en la ciudad de Nueva York sin validación independiente. La revisión abordaría la calidad de los datos, los sesgos, la privacidad, la seguridad y los resultados del sistema.
Los sistemas cubiertos también necesitarían una anulación humana, a menudo denominada interruptor de apagado. Este mecanismo ofrece a una persona autorizada una forma de detener un sistema cuando su comportamiento se vuelve inseguro.
Las empresas y los validadores podrían enfrentarse a una sanción de $25,000 por cada despliegue no validado o validación falsificada. Por tanto, la propuesta asigna responsabilidad legal tanto al desarrollador como al revisor externo.
La validación independiente ofrece una ventaja clara. Introduce a una parte cuyo papel comercial es cuestionar las pruebas del desarrollador en lugar de defender el producto.
Sin embargo, un validador solo ve los sistemas, registros y accesos que proporciona la empresa. Una revisión puede pasar por alto incidentes no documentados, desacuerdos internos o pruebas excluidas de la evaluación final.
Los empleados y contratistas pueden cubrir esas brechas. Pueden saber si un modelo se comportó de forma diferente durante evaluaciones anteriores o si un equipo de lanzamiento redujo una prueba de seguridad.
También pueden observar incentivos invisibles en los documentos formales. Una empresa puede mantener un proceso de seguridad por escrito mientras recompensa a los equipos por lanzar productos antes de que las preocupaciones no resueltas reciban una revisión completa.
El problema opuesto es igualmente real. Las personas internas suelen poseer información incompleta, y las disputas laborales pueden afectar la forma en que interpretan los acontecimientos.
Eso hace esencial la corroboración. Un sistema de aplicación creíble debe distinguir las pruebas técnicas directas de la inferencia personal, los testimonios de oídas y la especulación.
Los incentivos financieros introducen otra disyuntiva. Las recompensas pueden compensar el riesgo profesional de denunciar, pero los críticos sostendrán que los pagos fomentan reclamaciones débiles o exageradas.
Los sistemas de denuncia existentes ofrecen una respuesta práctica a esa crítica. La compensación suele estar vinculada a información original útil y a una recuperación exitosa, no simplemente a presentar una acusación.
La ciudad de Nueva York aún no ha dicho si seguirá ese modelo. La legislación final debe definir la información original, la divulgación voluntaria, los participantes elegibles y el tratamiento de las pruebas que ya conocen las autoridades.
También debe abordar el privilegio legal y la información comercial confidencial. Un programa útil no puede alentar a las personas a obtener registros ilegalmente ni a exponer datos personales no relacionados.
La recepción segura es igual de importante. Las pruebas de seguridad de IA pueden incluir pesos de modelos, instrucciones de sistema, registros de evaluación, vulnerabilidades de seguridad e información personal de conjuntos de datos de prueba.
Un formulario de quejas de propósito general sería un lugar inadecuado para parte de ese material. La ciudad podría necesitar métodos de envío controlados, revisores técnicos y normas que limiten el acceso a pruebas sensibles.
El fiscal general del estado ya ha invitado a los empleados de IA a utilizar un portal de denunciantes existente. Eso plantea una cuestión inmediata de coordinación para la propuesta municipal.
Dos vías de denuncia pueden ampliar el acceso, pero también confundir a los posibles denunciantes. Las personas necesitan saber qué oficina tiene jurisdicción, cómo funcionan las remisiones y si presentar una denuncia ante una autoridad afecta otra reclamación.
La versión más sólida de las recompensas para denunciantes de IA de NYC conectaría esos canales. Las denuncias relacionadas con las leyes municipales de protección al consumidor podrían mantenerse a nivel local, mientras que los asuntos más amplios de fraude, seguridad o legislación estatal podrían llegar a la fiscalía general.
Esa coordinación reduciría duplicaciones sin obligar a un empleado a dominar la jurisdicción gubernamental antes de plantear una preocupación urgente.
La propuesta presiona a las empresas de IA para que preserven más que sus divulgaciones públicas
Las empresas de IA afrontan ahora presión para que sus registros internos de seguridad sean defendibles, ya que las pruebas de un empleado podrían cuestionar la versión oficial de un incidente.
La gobernanza pública de la IA se ha centrado a menudo en políticas, tarjetas de modelo, informes de seguridad y compromisos voluntarios de pruebas. Estos materiales son importantes, pero las empresas determinan en gran medida lo que contienen.
Un incentivo para denunciantes cambia el valor de los registros internos. Los registros de pruebas, las aprobaciones de lanzamiento, los hallazgos de riesgo sin resolver y las comunicaciones sobre incidentes pueden convertirse en pruebas en un caso de aplicación de la ley.
Esa posibilidad afecta a OpenAI, Anthropic, Google, Meta y otros desarrolladores incluso antes de que se apruebe una ley. Cada empresa necesita procesos fiables para escalar inquietudes y documentar la respuesta.
También afecta a las empresas que implementan IA de terceros. La propuesta de validación anunciada se aplica a los sistemas comercializados, ofrecidos a la venta o implementados dentro de la ciudad, no solo a los desarrolladores de modelos de frontera.
El alcance final será de enorme importancia. Una definición limitada podría centrarse en sistemas altamente capaces o usos de alto riesgo, mientras que una definición amplia podría abarcar software empresarial común.
Una cobertura excesiva presenta un riesgo serio. Muchas aplicaciones utilizan aprendizaje automático para funciones rutinarias que no se parecen a agentes autónomos ni a sistemas de IA de frontera.
Si cada función de bajo riesgo exige la misma validación, los recursos de cumplimiento podrían alejarse de los sistemas con mayor potencial de daño. Las pequeñas empresas también pueden carecer de los equipos jurídicos disponibles para los grandes desarrolladores.
El Consejo no ha publicado suficientes detalles para determinar dónde trazará esa línea. La audiencia de octubre debería poner a prueba si los legisladores planean requisitos basados en el riesgo o un estándar general único.
La responsabilidad de las empresas también se complica cuando un tercero modifica un modelo. La propuesta de acción privada contempla daños causados cuando alguien elude los controles de seguridad, pero la previsibilidad puede ser difícil de establecer.
Un desarrollador no puede impedir todos los usos indebidos. Al mismo tiempo, la evidencia repetida de una evasión conocida puede hacer que un futuro incidente sea más fácil de anticipar.
La documentación se convierte en el puente entre esas posiciones. Las empresas deberían poder demostrar cuándo identificaron una debilidad, quién la evaluó y qué mitigación siguió.
Los trabajadores necesitan vías igualmente claras para expresar desacuerdo. Un equipo interno de seguridad pierde credibilidad cuando los empleados no pueden retrasar un lanzamiento, obtener una revisión independiente o documentar objeciones sin resolver.
Las recompensas propuestas podrían presionar a las empresas para reforzar esos canales internos. Un trabajador con una vía de escalamiento confiable tiene menos motivos para acudir primero a un regulador.
Ese resultado beneficiaría a ambas partes. Las empresas tendrían una oportunidad más temprana de abordar los problemas, mientras que los reguladores recibirían menos denuncias surgidas de fallos internos evitables.
Sin embargo, la denuncia interna no puede ser la única opción. Una empresa acusada de conducta insegura no debería controlar si las pruebas llegan a una autoridad independiente.
El desafío consiste en proteger las divulgaciones legítimas sin convertir cada desacuerdo técnico en un caso legal. El desarrollo de IA produce naturalmente juicios controvertidos sobre rendimiento aceptable y riesgo residual.
La legislación debería separar el desacuerdo científico ordinario del encubrimiento, las afirmaciones falsas, las represalias o las infracciones de leyes establecidas. Umbrales claros protegerían a los investigadores y, al mismo tiempo, preservarían espacio para un debate honesto.
El paquete del Consejo también apunta al marketing de seguridad. Otra propuesta exigiría determinadas divulgaciones sobre productos y prohibiría afirmaciones falsas o engañosas acerca de la seguridad de la IA.
Esa conexión es importante. Un fallo de prueba oculto cobra especial relevancia cuando una empresa describe públicamente un sistema como seguro pese a pruebas internas que indican lo contrario.
La información de denunciantes puede revelar ese conflicto. Los validadores independientes pueden entonces evaluar si la afirmación pública de la empresa coincide con su historial de pruebas.
Por tanto, la presión no consiste simplemente en eliminar todos los fallos de los modelos. Ningún sistema complejo cumple ese estándar.
La presión consiste en investigar los fallos de forma coherente, divulgar con precisión las limitaciones materiales y evitar vender una confianza que no esté respaldada por pruebas internas.
Las preguntas más importantes siguen sin respuesta
El éxito de la propuesta depende menos de anunciar una recompensa que de definir jurisdicción, estándares probatorios, protecciones contra represalias y capacidad de revisión técnica.
La primera incertidumbre es la autoridad legal. La ciudad de Nueva York regula negocios y hace cumplir normas de protección al consumidor, pero muchas preocupaciones sobre la seguridad de la IA se extienden más allá de las fronteras estatales y nacionales.
Un modelo puede desarrollarse en otro lugar, accederse a través de un servicio en la nube y utilizarse por una empresa de Nueva York. La ley final debe explicar qué vínculo con la ciudad activa sus requisitos.
La política federal crea otra fuente de fricción. Menin ha sostenido que las ciudades deben actuar cuando Washington desregula o no responde.
La acción local puede poner a prueba nuevos métodos de aplicación. También puede producir normas superpuestas que difieren entre jurisdicciones, elevando los costes de cumplimiento sin garantizar resultados de seguridad coherentes.
El estado de Nueva York ya aporta parte del marco más amplio. La RAISE Act exige a determinados grandes desarrolladores de IA de frontera que realicen divulgaciones de seguridad e informen incidentes específicos.
La ley entra en vigor el 1 de enero, según los registros legislativos estatales. Los funcionarios estatales también están considerando requisitos adicionales para auditorías independientes, notificación de incidentes, privacidad y protecciones para denunciantes.
La ciudad debe identificar qué añade su programa. Una recompensa vinculada a recuperaciones locales es distinta, pero las obligaciones de notificación duplicadas podrían saturar a las agencias y a las empresas con presentaciones superpuestas.
La segunda incertidumbre se refiere al diseño de las recompensas. El Consejo no ha anunciado una participación mínima ni máxima de las sanciones recuperadas.
Una recompensa muy pequeña podría no justificar el riesgo profesional de denunciar. Una fórmula demasiado generosa podría generar disputas entre colaboradores o fomentar presentaciones prematuras.
Las normas de elegibilidad también serán importantes. Los ejecutivos que participaron en una infracción no deberían necesariamente recibir el mismo trato que los empleados que se opusieron a ella.
Los contratistas, socios de evaluación y antiguos trabajadores pueden tener información crítica. Excluirlos podría eliminar algunas de las fuentes potenciales mejor informadas.
La tercera incertidumbre son las represalias. Una recompensa económica recibida años después no protege a alguien que pierde su empleo de inmediato.
Una protección eficaz requiere recepción confidencial, remedios frente a represalias y un proceso que no exponga la identidad mediante divulgaciones procesales evitables.
Las presentaciones anónimas plantean su propio desafío. Los reguladores pueden necesitar entrevistas de seguimiento, acceso a archivos originales y testimonios que establezcan cómo se obtuvieron las pruebas.
La cuarta incertidumbre es la competencia técnica. Un registro de modelo o la transcripción de un agente pueden resultar difíciles de interpretar sin contexto sobre el entorno de prueba.
Los investigadores deben distinguir un escenario de red teaming diseñado de un comportamiento inesperado en el mundo real. El red teaming consiste en probar deliberadamente un sistema en busca de debilidades mediante indicaciones adversariales o ataques simulados.
Una transcripción impactante no demuestra automáticamente que un sistema implementado presente el mismo riesgo. Los reguladores deben examinar permisos, contención, repetibilidad y las condiciones necesarias para que ocurra ese comportamiento.
La quinta incertidumbre es la independencia de los validadores. La revisión externa solo funciona cuando el validador tiene acceso adecuado y ningún incentivo para ofrecer un resultado favorable.
Las sanciones propuestas por validaciones falsificadas abordan la conducta indebida directa. No resuelven conflictos más sutiles relacionados con negocios recurrentes, alcance limitado o condiciones de prueba seleccionadas por la dirección.
Por tanto, los estándares de acceso, metodología, documentación y conflictos de los revisores serán tan importantes como el propio requisito de validación.
También existe una cuestión práctica sin resolver en torno a los controles de anulación humana. Un interruptor de apagado parece sencillo, pero muchos servicios de IA dependen de sistemas distribuidos, herramientas externas y clientes posteriores.
Detener un endpoint de modelo puede no detener copias, resultados almacenados en caché, agentes conectados o implementaciones controladas por otra organización.
La ley necesitará un estándar funcional en lugar de una etiqueta. Debería especificar quién puede activar una anulación, qué operaciones deben detenerse y cómo las organizaciones prueban el control.
Estas preguntas sin resolver no hacen que el paquete carezca de sentido. Muestran por qué la audiencia de octubre es una etapa necesaria, y no un acto ceremonial.
Los legisladores han presentado una dirección para la aplicación de la ley. Aún necesitan testimonios, definiciones técnicas y lenguaje legislativo que pueda resistir incidentes reales y desafíos legales.
Qué observar en la audiencia sobre seguridad de IA del 5 de octubre
Tres señales mostrarán si las recompensas para denunciantes de IA de NYC se están convirtiendo en un programa aplicable o si siguen siendo un concepto de política llamativo.
La primera señal es el texto legislativo real del programa de recompensas. Los lectores deberían buscar una fórmula de recompensa definida, normas de elegibilidad claras, procedimientos de confidencialidad y una agencia de aplicación identificada.
El texto también debería explicar si una recuperación debe derivarse de una ley específica sobre IA. Si califican infracciones ordinarias de protección al consumidor, el programa podría operar antes de que entre en vigor cada nueva ley de seguridad.
Un umbral probatorio preciso reforzaría la propuesta. Mostraría que los legisladores esperan que los reguladores distingan información original útil de la especulación.
El silencio sobre estos puntos debilitaría el plan. Dejaría sin resolver las decisiones de implementación más difíciles mientras enfatiza el atractivo de pagar a informantes internos.
La segunda señal es la respuesta de las empresas de IA en la audiencia del 5 de octubre. La asistencia importa, pero la calidad de las respuestas importa más.
Los legisladores deberían preguntar quién puede detener una implementación, cómo los empleados preservan el desacuerdo y qué ocurre cuando los revisores internos identifican un fallo grave sin resolver.
También deberían solicitar detalles sobre el acceso a las pruebas externas. Un validador no puede llegar a una conclusión independiente si el desarrollador selecciona cada artefacto y excluye resultados adversos.
Las empresas pueden resistirse a debatir vulnerabilidades específicas en público, y esa preocupación puede ser legítima. El Consejo aún puede preguntar sobre estructuras de gobernanza, plazos de notificación y conservación de pruebas.
Un compromiso significativo incluiría escalamiento interno protegido, registros de pruebas preservados, notificación rápida de incidentes y cooperación con revisión independiente.
Las garantías generales sobre desarrollo responsable ofrecerían pocas pruebas. La audiencia debería centrarse en procedimientos que puedan examinarse después de un fallo.
La tercera señal es la coordinación entre las autoridades municipales y estatales. El paquete de la ciudad se cruza con el portal de la fiscalía general estatal y los requisitos de divulgación de la RAISE Act.
Un proceso de remisión compartido reduciría la confusión para los denunciantes. También ayudaría a las agencias a enviar pruebas especializadas a investigadores con la jurisdicción y experiencia adecuadas.
Las normas contradictorias debilitarían el programa. Los empleados podrían dudar si no saben dónde denunciar, mientras que las empresas podrían enfrentarse a varias exigencias inconsistentes por el mismo incidente.
La prueba más amplia de esta política es si Nueva York puede convertir el conocimiento privado en pruebas sujetas a rendición de cuentas sin tratar cada fallo de IA como una conducta indebida.
Esa distinción importa a desarrolladores, compradores empresariales y usuarios comunes. Las afirmaciones de seguridad influyen en las decisiones de compra, mientras que los incidentes ocultos pueden afectar los datos, la seguridad y la continuidad del negocio.
Las organizaciones que adquieren IA deberían seguir de cerca los requisitos de validación. Antes de implementar estos sistemas, podrían necesitar pruebas sobre ensayos, controles humanos, respuesta ante incidentes y divulgaciones de los proveedores.
Los desarrolladores deberían revisar cómo documentan sus decisiones de seguridad. Una investigación futura dependerá de pruebas contemporáneas, no de una explicación pulida redactada después de un incidente.
Los trabajadores del conocimiento también deberían comprender el significado práctico de la propuesta. La documentación pública de un proveedor de IA puede representar solo una parte de las pruebas disponibles sobre un sistema.
El Consejo apuesta a que los informantes internos pueden revelar el resto. Su próxima tarea es construir un proceso lo bastante creíble como para que esos informantes lo utilicen.
Las recompensas de NYC para denunciantes de IA no resolverán por sí solas la seguridad de la IA. Pueden crear un canal de aplicación donde antes no existía, especialmente cuando los riesgos permanecen ocultos dentro de pruebas privadas.
La audiencia del 5 de octubre debería revelar si los legisladores han diseñado ese canal en torno a las pruebas, la protección y la jurisdicción. Esos detalles determinarán si la propuesta cambia el comportamiento de las empresas.
Esté atento a la publicación del texto del proyecto de ley, a testimonios corporativos específicos y a un acuerdo entre las autoridades municipales y estatales. En conjunto, esas señales mostrarán si el plan de Nueva York puede pasar del titular a la aplicación efectiva.
