La alerta de Letitia James para denunciantes de IA pone en aviso a los laboratorios de frontera
La fiscal general de Nueva York, Letitia James, emitió el 17 de septiembre una alerta para denunciantes de IA, orientando a trabajadores del sector hacia un canal confidencial de denuncias del estado. La medida se centra en información sobre desarrollo de IA inseguro o ilegal que podría poner en riesgo a los neoyorquinos.
El anuncio incluye una aclaración importante. James no lanzó un nuevo sitio web dedicado exclusivamente a la inteligencia artificial. Su oficina está invitando a personas con información interna sobre IA a utilizar un sistema cifrado para denunciantes que Nueva York introdujo en 2019.
Esa distinción hace que la medida sea más relevante, no menos. Nueva York está conectando un canal de investigación consolidado con un nuevo marco de cumplimiento apenas unos meses antes de que entre en vigor la Ley RAISE.
La disputa inmediata enfrenta a investigadores estatales que buscan pruebas con empresas de IA que aún controlan la mayor parte de la información sobre sus modelos. Esas compañías publican informes de seguridad y mantienen sistemas internos de denuncia, pero los reguladores rara vez ven todas las pruebas, incidentes o salvaguardas descartadas.
Nueva York quiere ahora que empleados, contratistas y otras personas con información interna ayuden a cerrar esa brecha. La cuestión central es si confiarán en el canal estatal.
La alerta de Letitia James para denunciantes de IA utiliza un portal existente
Nueva York ha modificado el propósito y la urgencia de un canal de denuncias ya existente, en lugar de crear un sistema de quejas exclusivo para IA.
La alerta sectorial de la fiscal general invita a trabajadores con conocimiento sobre empresas de IA a denunciar conductas potencialmente ilegales. Identifica específicamente los riesgos de ciberseguridad, económicos y de otro tipo para la seguridad como ámbitos que recibirán especial atención.
La solicitud abarca más que escándalos públicos o reclamaciones de consumidores. Busca información en poder de quienes pueden ver cómo se desarrolló, probó, protegió o desplegó un modelo.
Ese grupo podría incluir a investigadores que evaluaron capacidades peligrosas. Los ingenieros de seguridad podrían contar con pruebas de una brecha no reportada o de controles de acceso inadecuados. El personal de producto podría saber si una empresa ignoró riesgos documentados antes de un lanzamiento.
La alerta no nombra a ninguna empresa ni alega que un desarrollador concreto haya infringido la ley. Tampoco anuncia una investigación, demanda o acuerdo de cumplimiento.
En cambio, funciona como una invitación a aportar pruebas. James está comunicando a las personas con información interna que Nueva York ya dispone de un canal para información que, de otro modo, podría permanecer dentro de sistemas corporativos.
El portal seguro subyacente admite envíos anónimos y comunicación bidireccional. El usuario recibe un código secreto que permite enviar mensajes posteriores sin revelar su identidad.
Quienes busquen un mayor anonimato deben instalar Tor Browser y visitar la dirección onion del portal. Tor enruta el tráfico a través de múltiples relés, lo que ayuda a ocultar la ubicación y la información de red del usuario.
Un formulario de envío solicita el asunto, una descripción y cualquier archivo de respaldo. Ese formato sencillo permite a un trabajador proporcionar documentos mientras mantiene una conversación continua con los investigadores.
Sin embargo, las propias instrucciones de la fiscal general incluyen una advertencia crucial. La transmisión puede ser anónima, pero no se garantiza que el contenido enviado permanezca anónimo o confidencial.
Un documento puede revelar a su autor mediante metadatos, redacción, registros de acceso o detalles conocidos solo por unos pocos empleados. Los investigadores también pueden necesitar utilizar la información en un procedimiento legal.
Por tanto, los posibles denunciantes se enfrentan a dos preguntas distintas. Deben evaluar la seguridad del canal de comunicación y las pistas identificativas contenidas en sus pruebas.
El estado anunció por primera vez el sistema para denunciantes el 2 de octubre de 2019. En aquel momento, la oficina lo describió como una plataforma de código abierto para la transferencia cifrada de documentos y la comunicación bidireccional anónima.
La alerta de 2026 reutiliza esa infraestructura para un desafío de cumplimiento mucho más específico. Los sistemas avanzados de IA son difíciles de inspeccionar para quienes están fuera, mientras que los empleados pueden observar directamente pruebas, incidentes y decisiones internas.
El cambio es, por tanto, institucional y no técnico. Nueva York ha incluido el desarrollo de IA dentro del ámbito de aplicación del portal y ha pedido públicamente a las personas con información interna que den un paso al frente.
Por qué Nueva York está pidiendo información a trabajadores de IA ahora
El calendario conecta las denuncias voluntarias de hoy con facultades más sólidas de divulgación y cumplimiento que llegarán el 1 de enero de 2027.
La Ley de Seguridad y Educación en IA Responsable de Nueva York, conocida comúnmente como la Ley RAISE, se aplica a grandes desarrolladores de modelos de frontera. Un modelo de frontera es un sistema de propósito general altamente capaz cuya escala puede generar preocupaciones de seguridad inusuales.
La ley exige que los desarrolladores cubiertos publiquen información sobre sus marcos de seguridad. También establece obligaciones de notificación de incidentes para formas específicas de daños críticos.
La gobernadora Kathy Hochul promulgó la legislación el 19 de diciembre de 2025. El resumen de la Ley RAISE del estado indica que los desarrolladores cubiertos deben informar de incidentes que cumplan los requisitos en un plazo de 72 horas desde que determinen que ocurrió un incidente.
La ley también crea una oficina de supervisión dentro del Departamento de Servicios Financieros de Nueva York. Esa oficina evaluará a los grandes desarrolladores de modelos de frontera y publicará informes anuales.
James podrá interponer acciones civiles cuando un desarrollador cubierto no presente los informes obligatorios o haga declaraciones falsas. Los materiales estatales indican sanciones de hasta 1 millón de dólares por una primera infracción.
Las infracciones posteriores pueden conllevar sanciones de hasta 3 millones de dólares. Estas cifras se refieren a infracciones de la Ley RAISE, no simplemente al hecho de recibir una denuncia.
La alerta de septiembre llega aproximadamente tres meses y medio antes de que la ley entre en vigor. Ese intervalo da a la oficina de la fiscal general tiempo para atraer pruebas, comprender patrones de denuncia y prepararse para el cumplimiento.
Las leyes existentes ya ofrecen a la oficina otras vías de actuación. La alerta cita la Ley SHIELD de Nueva York, que exige salvaguardas razonables de seguridad de datos para la información privada.
La oficina también señala protecciones de privacidad y leyes dirigidas al uso indebido de ordenadores, la piratería informática y el fraude. En consecuencia, una denuncia no tiene que esperar a la Ley RAISE si describe una conducta ya cubierta en otro marco legal.
Esto crea dos cronogramas para las empresas de IA.
El primero se refiere a las obligaciones legales actuales. Un fallo de seguridad, una infracción de privacidad, una práctica engañosa o un delito informático ya pueden atraer escrutinio.
El segundo se refiere al nuevo marco para modelos de frontera. Desde enero, los desarrolladores cubiertos deberán operar bajo normas más explícitas de transparencia y notificación de incidentes.
Los registros de una persona con información interna pueden conectar esos cronogramas. Los mensajes internos podrían mostrar cuándo los ejecutivos se enteraron de un incidente, cómo lo clasificaron y si posteriormente se presentó un informe obligatorio.
Esas pruebas importan porque una regla de notificación en 72 horas depende de que una empresa determine que se produjo un incidente. Pueden surgir disputas sobre lo que sabían los empleados, cuándo lo supo la organización y cómo caracterizaron el evento quienes tomaban decisiones.
La alerta sitúa a los trabajadores dentro de ese mecanismo de cumplimiento. Los reguladores no dependen únicamente del informe público final de una empresa ni de un marco de seguridad pulido.
Están solicitando pruebas sobre el proceso que hay detrás.
Los sistemas internos de seguridad de IA afrontan ahora una revisión externa
La tensión principal ya no es si las empresas de IA cuentan con canales de denuncia, sino si los sistemas internos revelan lo suficiente para satisfacer a reguladores externos.
Varios grandes desarrolladores de IA mantienen equipos de seguridad, procedimientos para incidentes, programas de evaluación y vías internas de denuncia. Estos sistemas pueden identificar problemas antes del despliegue y derivar las preocupaciones a especialistas técnicos o jurídicos.
OpenAI, por ejemplo, afirma que sus empleados pueden recurrir a responsables, recursos humanos, equipos de cumplimiento, personal jurídico o una línea de integridad disponible las 24 horas. La empresa también afirma que prohíbe las represalias por plantear inquietudes cubiertas.
Estos sistemas cumplen una función operativa válida. Un informe técnico suele requerir un contexto del que carece un investigador externo, y un equipo interno puede responder con rapidez en algunos casos.
Sin embargo, la revisión interna y la divulgación regulatoria resuelven problemas distintos. La empresa decide cómo se dota de personal su mecanismo interno, qué conclusiones se escalan y qué información se hace pública.
Un portal estatal elimina ese control del empleador. Ofrece a los trabajadores otro destino cuando consideran que la revisión interna ha fallado, que puede haber represalias o que se ha producido una infracción legal.
La presión es especialmente intensa en el desarrollo de IA de frontera. Una empresa puede poseer información exclusiva sobre el proceso de entrenamiento de un modelo, sus evaluaciones, controles de seguridad y capacidades peligrosas.
Los investigadores externos, por lo general, no pueden reproducir todas las pruebas. Los clientes no pueden inspeccionar los registros internos de incidentes. Los reguladores suelen depender de divulgaciones realizadas por la misma organización sometida a presión comercial.
Ese desequilibrio informativo ha moldeado durante años el debate sobre los denunciantes de IA.
En junio de 2024, 13 empleados y exempleados vinculados principalmente con OpenAI y Google DeepMind firmaron un llamamiento público para lograr protecciones más sólidas. Un informe independiente indicó que el grupo buscaba el derecho a alertar a reguladores, consejos de administración y al público.
Los firmantes sostuvieron que los empleados pueden poseer información importante sobre riesgos que no está disponible para los gobiernos ni para la sociedad civil. También advirtieron que los incentivos financieros pueden desalentar una supervisión significativa.
OpenAI respondió que ya proporcionaba vías para que los empleados expresaran sus preocupaciones, incluida una línea de integridad anónima. También subrayó la importancia de un debate riguroso.
Estas posturas no son completamente incompatibles. Una empresa puede mantener controles internos creíbles mientras un gobierno ofrece también un canal externo de denuncia.
El conflicto surge cuando las conclusiones internas y las pruebas externas divergen. Un empleado puede considerar el resultado de una prueba como una advertencia seria, mientras que la dirección considera que el riesgo es manejable.
Un regulador podría entonces necesitar evaluaciones sin procesar, registros de decisiones y comunicaciones para determinar si la empresa cumplió la legislación aplicable. Las garantías corporativas por sí solas no pueden resolver esa disputa factual.
La medida de Nueva York indica a los desarrolladores de IA que deben esperar que los registros internos puedan llegar de forma independiente a la fiscal general. También da a los equipos de cumplimiento otro motivo para documentar cómo se recibieron y resolvieron las preocupaciones.
Esa presión va más allá de los investigadores que trabajan directamente con modelos. Empleados de áreas jurídica, seguridad, políticas, operaciones y producto pueden observar decisiones relevantes para una investigación.
Los contratistas también pueden poseer registros importantes. Sin embargo, el alcance de cualquier protección legal depende de las circunstancias de la persona y de la legislación que rija la divulgación.
El portal en sí no convierte cada conflicto laboral en una acción protegida de denuncia. Tampoco establece que todo desacuerdo sobre la seguridad de IA implique una conducta ilegal.
Crea una vía para presentar pruebas. Los investigadores aún deben determinar si los hechos entran dentro de su autoridad.
California muestra cómo es un sistema dedicado de denuncias sobre IA
Nueva York está combinando un amplio portal para denunciantes con próximas normas sobre IA, mientras que California ha desarrollado una vía de denuncia legal más especializada.
La Ley de Transparencia en Inteligencia Artificial de Frontera de California ofrece la comparación estatal más clara. La ley exige que los grandes desarrolladores de IA de frontera publiquen marcos que describan sus enfoques ante riesgos catastróficos e incidentes críticos de seguridad.
California también identifica a los empleados cubiertos que evalúan, gestionan o abordan riesgos derivados de modelos fundacionales. Estos trabajadores pueden revelar peligros específicos o infracciones legales a destinatarios designados, incluido el fiscal general del estado.
El Departamento de Justicia de California ofrece una categoría de denuncia específica para estos empleados. Sus directrices sobre riesgos de IA indican que los desarrolladores de frontera no pueden bloquear las divulgaciones cubiertas ni tomar represalias contra los empleados por realizarlas.
California también debe publicar información anual anonimizada y agregada sobre las denuncias de empleados. Este requisito podría dar al público cierta visibilidad sobre la frecuencia con la que se utiliza este canal.
La alerta de septiembre de Nueva York es más amplia en su invitación, pero menos especializada en su presentación. Dirige a los trabajadores hacia la infraestructura general para denunciantes de la fiscalía general, en lugar de hacia una categoría de presentación específica para IA.
Este enfoque ofrece flexibilidad. Una denuncia relacionada con privacidad, ciberseguridad, fraude u otra ley existente no tiene que encajar en una definición limitada de riesgo de frontera.
Sin embargo, esa amplitud puede generar incertidumbre entre los trabajadores. Es posible que no sepan de inmediato si una preocupación técnica de seguridad constituye una conducta ilegal o debe remitirse a otro regulador.
La propia página del portal explica cómo presentar información, pero no proporciona una taxonomía específica para IA. No enumera ejemplos de riesgos de modelos, funciones laborales cubiertas ni el estándar probatorio para cada preocupación.
El sistema de California ofrece instrucciones más explícitas para una clase definida de trabajadores y riesgos. El sistema de Nueva York puede recibir una gama más amplia de alegaciones y permitir que los investigadores las clasifiquen.
Ningún diseño elimina la dificultad central. Un canal de denuncia solo es útil cuando las personas internas lo entienden, confían en él y creen que usarlo dará lugar a una revisión significativa.
Los dos estados también están creando expectativas superpuestas para las empresas que operan a nivel nacional. Un desarrollador de frontera puede enfrentarse a un marco donde se crean sus modelos y a otro donde sus productos afectan a los residentes.
Esta superposición puede incentivar a las empresas a adoptar un estándar nacional común de cumplimiento. Mantener procesos de incidentes completamente separados para cada estado se vuelve difícil a medida que se amplían las obligaciones de denuncia.
También puede generar disputas sobre definiciones y jurisdicción. Una empresa puede cuestionar si reúne los requisitos para ser considerada un desarrollador cubierto o si un evento alcanza el umbral aplicable.
Para los responsables de cumplimiento, la respuesta operativa más segura es una documentación cuidadosa. Los equipos necesitan registros que demuestren qué evaluaciones se realizaron, quién revisó los resultados, cómo se clasificaron los incidentes y por qué se realizó o se retuvo una divulgación.
Estos registros pueden respaldar a la empresa si los reguladores cuestionan posteriormente su decisión. También pueden respaldar a un denunciante que considere que se ignoró el proceso documentado.
El resultado es un cambio silencioso en la rendición de cuentas. Los marcos de seguridad de IA están pasando de declaraciones voluntarias a registros que pueden someterse a prueba durante una investigación.
Un Canal Anónimo No Elimina el Riesgo para los Denunciantes
El portal reduce el riesgo de comunicación, pero no puede garantizar anonimato, protección legal ni una investigación exitosa.
Tor puede dificultar el rastreo de una presentación hasta su origen en la red. No puede eliminar los detalles identificativos incrustados en un documento o en los hechos circundantes.
Un informe de prueba puede contener un campo de autor, una marca de tiempo, historial de revisiones o un formato inusual. Las capturas de pantalla pueden revelar nombres de cuentas, detalles del navegador, identificadores internos de proyectos o banners de notificaciones.
Incluso una descripción sencilla puede identificar su fuente. Si solo tres personas asistieron a una reunión, un relato detallado puede reducir las posibilidades de inmediato.
La fiscalía general advierte expresamente que no se garantiza que el contenido permanezca anónimo y confidencial. Los trabajadores no deben interpretar una transmisión segura como una promesa absoluta sobre cada uso posterior.
Las protecciones legales también varían. Las leyes tradicionales de protección a denunciantes suelen centrarse en presuntas infracciones legales, fraude, seguridad pública u obligaciones regulatorias específicas.
En cambio, los empleados de IA pueden discrepar sobre un riesgo que aún no ha producido daños y no está claramente regulado. Una evaluación de modelo puede mostrar un comportamiento preocupante sin demostrar una conducta ilegal.
Esta brecha apareció en la campaña del derecho a advertir de 2024. Sus firmantes argumentaron que las normas ordinarias de protección a denunciantes pueden ser insuficientes cuando los empleados se preocupan por riesgos emergentes que aún no están cubiertos por la ley.
La Ley RAISE reduce parte de esa brecha al crear obligaciones concretas de transparencia y denuncia. La ley de California define de manera similar las divulgaciones relativas a determinados riesgos de modelos de frontera.
Aun así, ningún portal puede resolver de antemano todos los casos límite. Los hechos, la situación laboral, los contratos, las normas sobre secretos comerciales y las leyes aplicables son relevantes.
Los posibles denunciantes también se enfrentan a un problema de verificación. Los documentos internos pueden ser auténticos, mientras que la conclusión extraída de ellos sigue siendo controvertida.
Una evaluación de seguridad fallida podría indicar una debilidad grave. También podría reflejar una prueba intencionadamente severa que no representa el despliegue habitual.
Los investigadores necesitan pruebas contextuales para distinguir entre esas posibilidades. Esto incluye la metodología de prueba, las mitigaciones posteriores, los registros de decisiones y las condiciones reales de lanzamiento del sistema.
Las empresas merecen la oportunidad de responder a las alegaciones. La preocupación de un empleado debe desencadenar un examen cuidadoso, no una presunción automática de irregularidad.
A la inversa, el informe público de seguridad de una empresa no debería resolver la cuestión cuando las pruebas internas apuntan en otra dirección. El papel del estado es contrastar ambas narrativas con los registros y la ley.
La alerta también deja sin respuesta varias cuestiones prácticas.
Nueva York no ha indicado cuántas denuncias relacionadas con IA espera recibir la oficina. Tampoco ha identificado una unidad de revisión específica, un objetivo de plazo de respuesta ni un calendario de información pública para las presentaciones del portal.
El anuncio no explica cómo separarán los investigadores las pruebas urgentes de ciberseguridad de críticas políticas más amplias. Tampoco promete comentarios a cada persona que presente una denuncia.
Estas omisiones no hacen que el portal sea ineficaz. Significan que su impacto no puede evaluarse únicamente a partir del anuncio.
Un sistema de denuncia exitoso necesita una recepción segura, revisores con conocimientos técnicos, clasificación coherente y aplicación creíble. También necesita procedimientos que impidan que las reclamaciones de baja calidad desborden las pruebas procesables.
El estado debe equilibrar estos requisitos sin exponer las fuentes ni información sensible sobre los modelos. Este desafío operativo es más difícil que publicar un enlace a un portal.
Qué Deben Vigilar a Continuación los Desarrolladores y Trabajadores de IA
Tres señales mostrarán si la alerta se convierte en una herramienta de aplicación o sigue siendo una invitación pública con un impacto visible limitado.
La primera señal serán las directrices antes de que la Ley RAISE entre en vigor el 1 de enero de 2027.
Los desarrolladores cubiertos necesitan claridad sobre las divulgaciones del marco de seguridad, la clasificación de incidentes, los procedimientos de denuncia y las expectativas de la oficina de supervisión. Las normas detalladas reducirán la ambigüedad sobre lo que las empresas deben documentar.
Las directrices también ayudarán a los trabajadores a distinguir un desacuerdo sobre políticas de una información que indique una posible infracción. Unas obligaciones más claras facilitan la evaluación de una denuncia externa.
Si Nueva York publica materiales de implementación detallados, la alerta parecerá la capa de recepción de un sistema de aplicación más amplio. Unas directrices escasas dejarían a las empresas y a las personas internas interpretando por sí mismas límites clave.
La segunda señal será la primera medida pública de aplicación o investigación reconocida vinculada al desarrollo de IA.
Nueva York no necesita revelar la identidad de un denunciante para demostrar que las alertas reciben una revisión seria. Una denuncia puede dar lugar a solicitudes de documentos, entrevistas, un acuerdo o litigio conforme a las leyes vigentes.
Cualquier medida de este tipo advertiría a los desarrolladores de que las pruebas técnicas internas pueden convertirse en pruebas regulatorias. También animaría a los equipos de cumplimiento a examinar preocupaciones no resueltas antes de que lleguen al estado.
La ausencia de un caso rápido no demostraría un fracaso. Las investigaciones técnicas complejas requieren tiempo, y la confidencialidad puede mantener los asuntos activos fuera de la vista pública.
Aun así, una medida visible proporcionaría la evidencia más sólida de que el portal ha cambiado los incentivos empresariales.
La tercera señal será si Nueva York informa datos agregados sobre denuncias relacionadas con IA.
El marco específico de California exige informes anuales anonimizados sobre las presentaciones de empleados cubiertos. La alerta de Nueva York no anuncia un compromiso equivalente de publicación.
Las cifras agregadas podrían revelar cuántas denuncias llegan, qué categorías predominan y cuántas reciben una revisión adicional. El estado tendría que publicar esa información sin exponer a los denunciantes ni pruebas confidenciales.
Ese tipo de información permitiría a los responsables políticos determinar si los trabajadores confían en el canal. También podría revelar debilidades en las definiciones, la divulgación o la capacidad de investigación.
Las empresas de IA deben vigilar estas señales porque afectan a algo más que la exposición legal. La confianza en los procesos internos de seguridad depende de que los empleados crean que las preocupaciones reciben un trato justo.
Un canal externo creíble puede fortalecer los sistemas internos al dar a la dirección una razón para resolver cuidadosamente los problemas. También puede revelar dónde falló la escalada interna.
Los trabajadores deben distinguir entre una transmisión segura y una protección garantizada. Antes de presentar registros sensibles, deberían considerar los metadatos de los documentos, los patrones de acceso, las normas de confidencialidad y el asesoramiento jurídico adecuado.
Por tanto, la alerta de Letitia James para denunciantes de IA se entiende mejor como un puente regulatorio. Conecta un portal anónimo existente, la autoridad estatal actual y la próxima Ley RAISE.
El portal por sí solo no hará transparente el desarrollo de IA de frontera. Su valor dependerá de las pruebas que aporten las personas internas y de la capacidad del estado para investigarlas.
Los próximos meses mostrarán si Nueva York convierte esas pruebas en normas claras y una rendición de cuentas exigible. Para los desarrolladores, la pregunta práctica es inmediata: ¿resistiría hoy su historial interno de seguridad una revisión externa?
