Los fallos técnicos de la IA no son lo mismo que sus problemas de capitalismo
Bruce Schneier ha trazado una línea clara en el debate sobre la IA, después de años en los que se trataba cada daño como un defecto técnico. El argumento de seguridad de Schneier sostiene que los modelos poco fiables son problemas de ingeniería, mientras que la vigilancia, el desplazamiento laboral y el poder concentrado suelen derivarse de los incentivos del capitalismo.
Schneier desarrolló este argumento junto con el científico de datos Nathan E. Sanders en un ensayo publicado por Tech Policy Press. Comparan la inteligencia artificial con los inicios de la Revolución Industrial, cuando las máquinas trasladaron el trabajo físico fuera de los cuerpos humanos a una escala sin precedentes. Ahora, la IA promete trasladar el trabajo cognitivo fuera de nuestros cuerpos a gran escala.
Esa comparación encierra tanto una advertencia como una promesa. Las máquinas de vapor no determinaron quién poseía las fábricas, cómo se pagaba a los trabajadores ni dónde se acumulaba la contaminación. Las instituciones y los propietarios tomaron esas decisiones.
La misma distinción importa para la IA. Un chatbot puede inventar una cita jurídica porque su proceso de predicción sigue siendo poco fiable. Una empresa puede usar ese chatbot para eliminar personal experimentado porque sus directivos quieren reducir los costes laborales.
Estos fallos requieren soluciones distintas. Un mejor entrenamiento, pruebas y diseño de sistemas pueden reducir las respuestas inventadas. No pueden decidir si los aumentos de productividad deben beneficiar a trabajadores, clientes, directivos o inversores.
Este es el conflicto central del ensayo. El debate público sigue tratando un problema de distribución económica como una tarea de ingeniería. Schneier y Sanders sostienen que hacerlo protege a las instituciones que toman las decisiones determinantes.
El ensayo de seguridad de Schneier cambia la unidad de análisis
El ensayo desplaza la atención de lo que puede hacer un modelo de IA a quién controla sus capacidades y captura su valor.
Schneier y Sanders parten de la capacidad inusual de la IA para realizar tareas cognitivas fuera de una mente humana. El software ha automatizado cálculos durante décadas, pero los sistemas generativos ahora pueden redactar, clasificar, resumir, traducir y recomendar en ámbitos muy diversos.
Los autores no afirman que los sistemas actuales igualen el juicio humano. Su planteamiento se refiere a la escala y la integración. Incluso una automatización cognitiva imperfecta puede transformar las instituciones cuando se vuelve barata, rápida y accesible mediante software estándar.
Las empresas ya están integrando modelos generativos en la búsqueda, la atención al cliente, la programación, el marketing y los flujos de trabajo administrativos. Los gobiernos usan sistemas algorítmicos para procesar registros, priorizar inspecciones y apoyar decisiones que afectan a prestaciones o servicios públicos.
Estos despliegues combinan al menos tres categorías distintas de riesgo. Los riesgos técnicos surgen de cómo operan los sistemas. Los riesgos institucionales surgen de dónde los despliegan las organizaciones y de cuánta autoridad reciben.
Los riesgos político-económicos se refieren a la propiedad, el poder de negociación y la distribución de costes. Un mismo despliegue puede contener los tres, pero cada uno requiere una intervención diferente.
Consideremos un modelo utilizado para filtrar solicitudes de empleo. Podría clasificar a los candidatos de forma inexacta porque sus datos de entrenamiento representan mal a determinados grupos. Esto es, en parte, un problema de datos y evaluación.
El empleador también podría utilizar el filtrado automatizado para procesar más solicitudes sin incorporar más personal de selección. Esa decisión organizativa cambia la escala y la velocidad de contratación. Puede reducir las oportunidades de revisión humana.
Una tercera cuestión se refiere a la rendición de cuentas. Si los solicitantes rechazados no pueden impugnar el sistema, la institución ha asignado poder sin un recurso efectivo. Ningún indicador de precisión puede establecer el derecho de apelación que falta.
Esta separación no excusa los fallos técnicos. Aclara qué herramientas pueden abordarlos. Las pruebas de seguridad, las evaluaciones independientes, la notificación de incidentes y las normas de responsabilidad siguen siendo necesarias cuando los modelos generan daños previsibles.
Sin embargo, esos controles no pueden redistribuir la propiedad ni restaurar el poder de negociación. Un sistema perfectamente preciso puede seguir respaldando una vigilancia intrusiva, una política discriminatoria o una división injusta de las ganancias de productividad.
La distinción se parece al análisis tradicional de seguridad. Una vulnerabilidad describe una debilidad que alguien puede explotar. Los incentivos circundantes determinan quién busca esa debilidad, quién se beneficia y quién absorbe el daño.
Schneier lleva mucho tiempo analizando los sistemas a través de los incentivos, y no solo del código. Su trabajo pregunta cómo se explotan las normas y por qué los participantes poderosos pueden moldearlas. La IA amplía esta preocupación porque la automatización incrementa la velocidad y el alcance de la explotación.
Este marco convierte el ensayo en algo más que otra lista de riesgos de la IA. Cuestiona si la categoría denominada “seguridad de la IA” se ha vuelto demasiado amplia. Cuando cada conflicto social recibe esa etiqueta, las instituciones técnicas adquieren autoridad sobre decisiones fundamentalmente políticas.
Ese traspaso importa porque los ingenieros, los desarrolladores de modelos y los equipos corporativos de seguridad operan dentro de estructuras de propiedad existentes. Pueden mejorar los sistemas sin alterar los objetivos de su despliegue.
Por tanto, el ensayo cambia la unidad de análisis. El objeto relevante no es simplemente el modelo. Es el modelo, su propietario, su modelo de negocio, sus usuarios y la institución que le concede autoridad.
Los problemas técnicos siguen exigiendo respuestas técnicas
Separar los problemas del capitalismo de los problemas técnicos solo funciona si los fallos reales de ingeniería siguen siendo visibles y exigibles.
Los sistemas de IA actuales pueden producir información falsa, exponer datos sensibles, reproducir patrones perjudiciales y comportarse de manera impredecible fuera de las condiciones probadas. No son defectos imaginarios creados por un mal análisis económico. Son propiedades observables de los sistemas desplegados.
Una respuesta inventada suele denominarse alucinación, es decir, una salida plausible que no cuenta con evidencia fiable. Los sistemas de recuperación, las citas, las herramientas restringidas y la revisión humana pueden reducir el peligro. Ninguno garantiza la verdad en todas las condiciones.
El sesgo también tiene un componente técnico. Los datos de entrenamiento pueden infrarrepresentar a poblaciones, conservar discriminaciones históricas o codificar indicadores indirectos engañosos. Los conjuntos de evaluación pueden pasar por alto esos fallos cuando miden el rendimiento medio en lugar de las consecuencias para los grupos afectados.
La seguridad añade otra capa. Los atacantes pueden manipular las entradas del modelo, extraer información protegida, contaminar los datos de entrenamiento o abusar de sistemas capaces a gran escala. Los desarrolladores necesitan modelado de amenazas, controles de acceso, supervisión y procedimientos de respuesta.
El informe internacional de seguridad distingue varias formas de daño derivadas de la IA avanzada. Su análisis abarca el uso malicioso, los fallos de los sistemas y riesgos sistémicos más amplios.
Esa amplitud es útil, pero también puede difuminar la responsabilidad. Un modelo que filtra credenciales requiere una solución distinta de la de una corporación que supervisa a sus empleados mediante software legal. Ambos afectan a la seguridad, pero solo uno depende principalmente de corregir el modelo.
La misma regla se aplica a los sistemas autónomos. Un agente de IA puede ejecutar acciones mediante herramientas externas en lugar de limitarse a generar texto. Los desarrolladores deben restringir los permisos, verificar las acciones importantes y mantener registros para la investigación.
Sin embargo, el diseño de permisos no puede responder si un empleador debería rastrear cada interacción de los trabajadores. Puede hacer que el sistema de vigilancia sea más difícil de comprometer. No puede hacer justa la relación de vigilancia.
Una IA fiable también depende del contexto de despliegue. Un error de resumen en una lista personal de lectura tiene consecuencias limitadas. El mismo error en un historial médico o una decisión sobre prestaciones exige pruebas y supervisión más estrictas.
La regulación debería reflejar esas diferencias. Los usos de alto riesgo necesitan evidencia proporcional a su daño potencial. Las organizaciones no deberían tratar una advertencia general como permiso para desplegar un sistema incierto en cualquier lugar.
Schneier y Sanders han sostenido anteriormente que la sociedad regula las tecnologías cuando los errores pueden matar a personas o negar servicios esenciales. Esa lógica no exige congelar el desarrollo. Exige definir obligaciones antes de que los fallos previsibles se vuelvan rutinarios.
Los estándares técnicos pueden respaldar esas obligaciones. Los desarrolladores pueden documentar los métodos de entrenamiento, evaluar el rendimiento en condiciones realistas y informar de incidentes graves. Los auditores independientes pueden comprobar afirmaciones que los equipos internos podrían pasar por alto.
Las normas de contratación también pueden cambiar el comportamiento. Un organismo público o una gran empresa puede exigir trazabilidad, mecanismos de apelación y controles mínimos de seguridad. Así, los proveedores compiten dentro de un conjunto más claro de expectativas públicas.
Estas medidas abordan el comportamiento de la tecnología. Siguen siendo insuficientes cuando una organización elige un objetivo perjudicial. Un sistema optimizado para maximizar la producción de los trabajadores podría funcionar exactamente como fue diseñado mientras erosiona la autonomía.
Es fácil pasar por alto esa diferencia porque el software traduce la política en parámetros técnicos. Un panel puede hacer que una exigencia directiva parezca neutral. Una puntuación puede hacer que un juicio controvertido se asemeje a una medición.
Mejores modelos incluso podrían intensificar ese problema. Una mayor precisión hace que las organizaciones confíen más en la automatización. Puede ampliar el despliegue antes de que las instituciones establezcan límites significativos sobre dónde corresponde la autoridad automatizada.
Por tanto, la agenda tecnológica debe incluir la incertidumbre, el uso indebido y la seguridad de los sistemas. No debería absorber cuestiones que los ingenieros carecen de legitimidad para resolver. Unos límites claros fortalecen ambas formas de supervisión.
Los problemas del capitalismo de la IA comienzan con los incentivos
Muchos resultados temidos de la IA se derivan de incentivos corrientes para reducir costes, captar mercados y trasladar riesgos a personas con menor poder de negociación.
Una empresa no necesita un modelo malicioso para eliminar puestos. Necesita directivos que esperen que la automatización reduzca los gastos laborales. El sistema puede funcionar de forma fiable mientras los trabajadores afectados no reciben ninguna de sus ganancias de productividad.
El economista Daron Acemoglu establece una distinción relacionada en su investigación sobre los daños de la IA. Sostiene que los resultados perjudiciales no son necesariamente inherentes a la tecnología de IA. Pueden derivarse de decisiones de desarrollo que favorecen a corporaciones y gobiernos por encima de trabajadores y ciudadanos.
Este es un problema de capitalismo porque el mercado recompensa los rendimientos privados, no todos los beneficios sociales. Una empresa contabiliza una menor nómina como ahorro. No contabiliza automáticamente la pérdida de ingresos de un trabajador desplazado como un coste propio.
Los economistas llaman a esto una externalidad, es decir, un coste o beneficio impuesto a personas ajenas a una transacción. La contaminación ofrece el ejemplo conocido. Un operador puede obtener beneficios mientras los residentes cercanos absorben daños sanitarios y ambientales.
La IA puede generar externalidades mediante el desplazamiento, la vigilancia, la desinformación, la discriminación y el consumo de recursos. Las mejoras técnicas pueden reducir algunos costes. No pueden obligar a la empresa que los crea a pagar la factura restante.
La competencia puede empeorar la presión. Una empresa podría preferir un despliegue más lento y centrado en los trabajadores. Aun así, teme que un rival automatice más rápido y opere con costes más bajos.
Esa dinámica convierte la elección de los directivos en un problema de coordinación. Cada empresa responde racionalmente dentro del mercado, pero el resultado combinado puede reducir la seguridad de los trabajadores. Los programas voluntarios de ética tienen dificultades para contrarrestar ese incentivo.
Los mercados de inversión generan una presión similar. La carrera por la inversión en IA se ha convertido en uno de los mayores auges de inversión impulsados por la tecnología en la historia de Estados Unidos. Investigadores del Banco de Pagos Internacionales comparan su dinámica competitiva con anteriores episodios de euforia por las infraestructuras.
El análisis describe una competencia en la que el ganador se queda con la mayor parte. Las empresas pueden sobreinvertir porque cada una teme perder un mercado estratégicamente importante. El valor privado de ganar puede superar el rendimiento social más amplio del proyecto.
Esto ayuda a explicar por qué el gasto corporativo no demuestra un valor público proporcional. Los enormes centros de datos, las ejecuciones de entrenamiento de modelos y los paquetes de talento reflejan competencia estratégica. Por sí solos, no acreditan una mayor productividad en toda la economía.
La Organización Internacional del Trabajo describe una «paradoja de la agregación» en torno a la productividad de la IA. Los estudios a nivel de tarea pueden detectar ganancias sustanciales, mientras que los resultados a nivel de empresa y de economía siguen siendo dispares. La adopción también favorece a las organizaciones más grandes y digitalmente avanzadas.
Este desajuste es importante para la tesis de seguridad de Schneier. Una herramienta puede hacer más rápido a un empleado sin mejorar a toda una institución. Los directivos podrían reducir la plantilla antes de averiguar si el rendimiento organizativo mejora.
La automatización también puede crear trabajo oculto. Los empleados deben revisar los resultados del modelo, corregir errores, recuperar contexto perdido y gestionar excepciones. Esas tareas rara vez aparecen en las demostraciones de producto.
Los trabajadores afrontan otro problema de incentivos cuando la IA se convierte en una capa de supervisión. Los sistemas pueden medir pulsaciones de teclas, mensajes, llamadas, ubicación o sentimiento inferido. Los empleadores ganan información mientras los trabajadores pierden control sobre cómo se interpreta su comportamiento.
Un análisis de la OIT sobre el lugar de trabajo vincula la vigilancia apoyada por IA con la intensificación del trabajo, una menor autonomía, preocupaciones por la privacidad y riesgos psicosociales. Esos daños no requieren inteligencia sobrehumana.
Un sistema de clasificación modesto puede clasificar a los trabajadores o señalar comportamientos. Su valor económico procede de extender el control directivo a una plantilla amplia. Mejorar la precisión de la clasificación no resuelve el desequilibrio de poder subyacente.
La IA de consumo plantea un problema relacionado. Un asistente personal se vuelve más útil a medida que accede a mensajes, documentos, calendarios y actividad de navegación. Ese acceso también genera valiosos datos de comportamiento y mayores costes de cambio.
Los usuarios deberían considerar dónde reside la información, quién puede reutilizarla y si los incentivos de un servicio se alinean con sus necesidades. Una base de conocimiento personal puede reducir la fragmentación, pero la arquitectura y la gobernanza siguen determinando quién mantiene el control.
La misma tensión aparece en el trabajo creativo. Los sistemas generativos pueden ayudar a los escritores a explorar ideas o revisar borradores. También pueden respaldar plataformas que sustituyen trabajo remunerado por producción sintética más barata.
Estas no son descripciones contradictorias de la tecnología. Son disposiciones distintas de una misma capacidad. La propiedad, los contratos, las protecciones laborales y la estructura del mercado determinan qué disposición se vuelve dominante.
Una IA mejor no garantiza instituciones mejores
La implicación más incómoda es que una IA más segura y capaz puede reforzar instituciones cuyos objetivos siguen sin rendir cuentas.
El debate público suele asumir que la precisión, la alineación y la transparencia harán que la IA sea socialmente beneficiosa. Estas cualidades importan, pero abordan el comportamiento del sistema. No establecen fines legítimos ni resultados justos.
Imaginemos una agencia de prestaciones que utiliza un modelo preciso para identificar casos que investigar. La herramienta podría reducir errores administrativos y detectar patrones complejos. También podría someter a los solicitantes vulnerables a un escrutinio mayor del que afrontan los ciudadanos más ricos en otros ámbitos.
La precisión del modelo no resuelve si la prioridad de aplicación de la norma es justa. Tampoco decide cuánta evidencia debería desencadenar una investigación. Esas son decisiones de política tomadas a través de las instituciones.
Una herramienta de vigilancia fiable crea la misma tensión. Un reconocimiento facial mejor puede reducir las coincidencias falsas. También hace que el seguimiento persistente resulte más barato y atractivo para las autoridades o los operadores privados.
Cuanto más potente se vuelve la tecnología, más importantes se vuelven esas cuestiones de autorización. Los sistemas débiles a veces limitan ambiciones dañinas por simple incompetencia. Mejorarlos puede eliminar esa restricción accidental.
Por eso, el principal adversario en el ensayo no es el capitalismo frente a la tecnología. Es la corrección técnica frente a la reforma institucional. El primer enfoque resulta engañoso cuando se presenta como una respuesta completa.
Los equipos corporativos de seguridad de IA pueden investigar fallos de los modelos y reducir abusos. Por lo general, no pueden decidir que desaparezca toda una estrategia de ingresos. Sus presupuestos y su autoridad siguen bajo el control de la organización que se beneficia del despliegue.
Las auditorías externas afrontan límites similares. Un auditor puede comprobar si un sistema cumple un estándar definido. Aun así, alguien debe decidir qué protege ese estándar y qué usos deben seguir prohibidos.
La transparencia ayuda a los observadores a ver el comportamiento de un sistema. No genera influencia automáticamente. Un trabajador que entiende una puntuación automatizada podría seguir sin poder rechazarla sin perder su empleo.
El consentimiento del usuario también puede volverse ceremonial. La gente acepta rutinariamente políticas extensas porque los servicios esenciales no dejan una alternativa práctica. El consentimiento ofrece poca protección cuando una de las partes controla el acceso y las condiciones.
La concentración de mercado profundiza esa debilidad. Entrenar modelos importantes requiere una amplia infraestructura informática, acceso a datos, mano de obra especializada y canales de distribución. Un pequeño grupo de empresas puede influir tanto en el desarrollo técnico como en la política considerada aceptable.
La concentración puede estrechar las prioridades de investigación. Las empresas invierten naturalmente en aplicaciones que probablemente generen ingresos o ventaja estratégica. Los usos de interés público con rendimientos inciertos reciben menos apoyo, incluso cuando su valor social es alto.
Schneier y Sanders respaldan la IA pública como una respuesta. Una opción pública proporcionaría modelos o infraestructura gobernados mediante instituciones públicas. Podría establecer una base que los proveedores privados tendrían que igualar.
Esa propuesta conlleva sus propios riesgos. Los gobiernos pueden hacer un mal uso de los datos, promover la vigilancia u operar sin suficiente experiencia técnica. La propiedad pública no produce automáticamente rendición de cuentas democrática.
Aun así, una opción pública cambia la estructura de incentivos. Su objetivo formal no tiene por qué maximizar los ingresos publicitarios, las rentabilidades de los inversores ni la dependencia de un proveedor. La supervisión puede centrarse en el acceso, la transparencia, la continuidad y el valor público.
La política de competencia ofrece otra vía. Las autoridades pueden examinar adquisiciones, dependencias de la nube, asociaciones exclusivas y prácticas que impiden a los usuarios cambiar de servicio. Estas intervenciones abordan la estructura de mercado en lugar de los pesos del modelo.
La política laboral importa igual. La negociación colectiva puede dar a los trabajadores influencia sobre la supervisión, los calendarios de despliegue, la dotación de personal y las ganancias de productividad. Los derechos de notificación y apelación pueden limitar la gestión automatizada.
La política fiscal puede poner precio a externalidades que los mercados ignoran. Las normas medioambientales pueden exigir informes precisos y medidas de mitigación. La responsabilidad jurídica puede trasladar el coste de despliegues negligentes hacia las organizaciones que los controlan.
Ninguna de estas políticas sustituye la seguridad técnica. Operan en una capa distinta. Las pruebas de seguridad preguntan si un sistema se comportará como se espera. La reforma institucional pregunta quién eligió ese comportamiento y quién puede impugnarlo.
Los críticos pueden cuestionar razonablemente si todo daño causado por la IA pertenece al capitalismo. Los gobiernos autoritarios pueden desplegar vigilancia sin incentivos de mercado. Las agencias públicas pueden automatizar políticas injustas y las organizaciones sin ánimo de lucro pueden hacer un mal uso de datos personales.
Los fallos técnicos también moldean los resultados políticoeconómicos. Un modelo poco fiable puede perjudicar de manera desproporcionada a quienes carecen de tiempo, dinero o apoyo legal. La tecnología y las instituciones interactúan, en lugar de ocupar categorías aisladas.
Por tanto, la distinción del ensayo debería funcionar como una herramienta de diagnóstico, no como una división absoluta. Los analistas deberían preguntarse qué mecanismo domina cada daño. Después, deberían ajustar el remedio a ese mecanismo.
Lo que revela la comparación con la Revolución Industrial
La analogía industrial importa porque la historia muestra que las ganancias de productividad no se distribuyen por sí solas.
La energía de vapor amplió la capacidad de la sociedad para realizar trabajo mecánico. Impulsó fábricas, transporte, extracción y producción masiva. También se desarrolló dentro de instituciones que toleraban lugares de trabajo peligrosos, contaminación y una desigualdad extrema en la capacidad de negociación.
Esas condiciones no eran propiedades inevitables de la máquina de vapor. Reflejaban normas legales, propiedad, poder político y protecciones débiles. La tecnología elevó lo que estaba en juego en esos arreglos.
Con el tiempo, los trabajadores consiguieron normas de seguridad, límites a la jornada laboral, derechos de negociación colectiva y seguros sociales. Los gobiernos desarrollaron controles medioambientales e infraestructura pública. Nada de ello surgió automáticamente de una maquinaria más eficiente.
La IA crea un problema de distribución comparable en torno a la producción cognitiva. Si los sistemas reducen el coste del análisis, la redacción, la coordinación y la creación de software, alguien captará ese excedente. Las normas existentes influyen fuertemente en quién lo hará.
Las empresas pueden distribuir las ganancias mediante salarios más altos, semanas laborales más cortas, mejores servicios o precios más bajos. También pueden convertirlas en remuneración ejecutiva, expansión de mercado o rendimientos para los propietarios del capital.
La historia sugiere que las empresas rara vez eligen la distribución más amplia sin presión. Los mercados competitivos pueden reducir los precios, pero solo en condiciones que favorezcan una competencia real. Los trabajadores ganan cuando las instituciones laborales proporcionan poder de negociación.
La analogía tiene límites. La maquinaria industrial era costosa, física y estaba limitada geográficamente. El software generativo puede difundirse a través de servicios en la nube y dispositivos existentes con una velocidad inusual.
La IA también es de propósito general y adaptable. Un modelo puede respaldar muchas tareas sin reconstruir una fábrica. Esa flexibilidad puede acelerar la difusión al tiempo que dificulta localizar la rendición de cuentas.
La automatización cognitiva afecta a profesiones que las máquinas anteriores respaldaban en lugar de sustituir. Abogados, programadores, docentes, analistas, diseñadores y funcionarios se enfrentan ahora a sistemas dirigidos directamente a partes de su trabajo.
La unidad pertinente suele ser la tarea, más que la ocupación. Un empleo contiene juicio, comunicación, producción rutinaria, responsabilidad y conocimiento interpersonal. La IA puede automatizar componentes seleccionados mientras aumenta la demanda de otros.
Ese proceso puede complementar a los trabajadores o degradar sus funciones. Una enfermera podría dedicar menos tiempo a documentar la atención. El mismo sistema podría imponer objetivos rígidos de productividad y reducir el tiempo con los pacientes.
Un docente podría usar IA para preparar ejercicios diferenciados. Una institución podría, en cambio, aumentar el tamaño de las clases y esperar que la tutoría automatizada cubra la diferencia. La capacidad sigue siendo similar, pero cambia el objetivo organizativo.
Por eso los problemas de la IA y el capitalismo no pueden preverse solo a partir de puntuaciones de referencia. El rendimiento indica qué se vuelve técnicamente factible. No revela qué despliegues financiarán los ejecutivos ni qué protecciones impondrán los legisladores.
La analogía industrial también advierte contra esperar certezas. Las normas laborales y medioambientales solían seguir a daños visibles. Para entonces, los patrones de infraestructura y propiedad se habían vuelto difíciles de cambiar.
La infraestructura de IA se está integrando ahora en plataformas en la nube, software empresarial, escuelas y sistemas gubernamentales. Las primeras decisiones de contratación e interoperabilidad pueden determinar la dependencia futura.
Las organizaciones deberían preservar opciones de salida. Necesitan datos portables, registros claros, canales de apelación humana y la capacidad de sustituir proveedores. Estas salvaguardas reducen el coste de corregir una mala decisión institucional.
Los trabajadores del conocimiento también deberían separar la asistencia útil de la autoridad delegada. Un modelo puede ayudar a buscar documentos o redactar opciones. La responsabilidad final debe seguir siendo identificable cuando las decisiones afectan a derechos, empleo, salud o seguridad.
La lección industrial no es que la IA garantice otro siglo de explotación. Es que los resultados sociales requieren una construcción institucional deliberada. El progreso técnico aporta capacidad, no justicia.
Tres señales pondrán a prueba el argumento de seguridad de Schneier
El argumento ganará fuerza si las instituciones regulan los incentivos de despliegue con la misma seriedad con la que regulan el rendimiento de los modelos.
La primera señal es si los gobiernos adoptan normas exigibles para usos de alto impacto. Hay que observar los estándares de contratación pública, los derechos de apelación, la responsabilidad legal y las restricciones a la vigilancia en el lugar de trabajo o en el sector público.
Los requisitos de evaluación de modelos por sí solos debilitarían la respuesta institucional. Implicarían que el despliegue se vuelve aceptable una vez que un sistema supera un umbral de rendimiento. Ese enfoque deja prácticamente intactos el propósito, la autoridad y el poder.
Las normas que cubran los derechos de decisión respaldarían a Schneier y Sanders. Una persona afectada por un juicio automatizado debería saber que se utilizó automatización. Esa persona debería tener acceso a una revisión significativa por parte de una institución responsable.
La segunda señal es cómo las empresas distribuyen las ganancias medibles de productividad. Hay que observar las decisiones de contratación, la intensidad del trabajo, los salarios, las horas y los precios junto con las afirmaciones sobre una producción más rápida.
Una empresa que usa IA para acortar la semana laboral sin reducir el salario ofrece un modelo institucional. Una empresa que recorta personal mientras incrementa la supervisión ofrece otro. Ambas podrían desplegar software técnicamente similar.
La evidencia fiable sigue siendo esencial en este punto. Las mejoras de velocidad a nivel de tarea no deberían tratarse como productividad de toda la economía. Las organizaciones deben contabilizar el trabajo de verificación, los costes de integración, los errores y la pérdida de experiencia.
La tercera señal es si las alternativas a la infraestructura corporativa concentrada se vuelven creíbles. Los modelos públicos, los estándares abiertos, los servicios interoperables y los mercados competitivos de nube pueden reducir la dependencia de unos pocos proveedores.
La IA pública debe evaluarse con cautela. La gobernanza, la privacidad, la seguridad, la financiación y la supervisión independiente importan más que la etiqueta de público. Un sistema estatal mal gobernado puede reproducir la misma concentración bajo una propiedad diferente.
Aun así, las alternativas creíbles cambiarían la dinámica de negociación. Los proveedores privados afrontarían presión para ofrecer mayor transparencia, portabilidad y acceso a largo plazo. Los usuarios obtendrían opciones más allá de aceptar las condiciones cambiantes de una sola empresa.
Los próximos meses no resolverán el efecto de la IA sobre la sociedad. La integración en los lugares de trabajo y en los gobiernos se desarrollará durante años. Sin embargo, las decisiones tempranas establecerán valores predeterminados que resultarán costosos de revertir.
Los lectores deberían aplicar la distinción de seguridad de Schneier cada vez que surja una nueva controversia sobre IA. Primero, hay que preguntarse si el daño proviene del comportamiento técnico, de la autoridad de despliegue o de los incentivos económicos. Después, hay que preguntarse quién se beneficia de calificarlo como un problema de ingeniería.
Esa última pregunta importa porque las categorías distribuyen la responsabilidad. Si un conflicto laboral se convierte en un “problema de alineación”, los desarrolladores de modelos parecen ser responsables de la solución. Los empleadores, inversores y legisladores pasan a segundo plano.
Una respuesta útil debe mantener visibles a todos los actores responsables. Los desarrolladores deberían hacer los sistemas más seguros y fiables. Quienes los despliegan deberían justificar sus usos, y los gobiernos deberían establecer derechos que los mercados no proporcionarán.
La cuestión no es excusar a la IA ni condenar todos los mercados. Es dejar de esperar que un software mejor repare una distribución de poder disputada. Las soluciones técnicas pueden mejorar las máquinas, pero las personas aún deben reformar las instituciones que las dirigen.
¿Qué capa trata hoy su organización como un problema de IA? Identifique un fallo técnico, una decisión de despliegue y un incentivo que lo configure. Asigne cada uno a un responsable identificable y, después, compruebe si la solución propuesta alcanza la causa real.
