Los agentes de negociación de IA de Anthropic están aprendiendo a negociar, pero ¿quién fija las reglas?
Según informes, Anthropic está consultando a bufetes de abogados mientras sus agentes de IA aprenden a negociar, lo que introduce un conflicto que los asistentes convencionales nunca tuvieron que resolver. Un asistente puede sugerir un acuerdo. Los agentes de negociación de IA de Anthropic negociarían para alcanzarlo, interpretarían concesiones, evaluarían a las contrapartes y potencialmente comprometerían a los usuarios con determinadas condiciones.
Las consultas legales reportadas se centran en cuestiones situadas entre el diseño de software y la práctica comercial consolidada. ¿Con qué agresividad debería un agente defender los intereses de su usuario? ¿Cuándo debe solicitar aprobación? ¿Cómo debería reaccionar cuando el otro negociador también es un sistema de IA?
Estas preguntas se han vuelto urgentes porque Anthropic ya ha probado agentes impulsados por Claude en mercados experimentales. La investigación de la empresa muestra que los agentes pueden encontrar intercambios y emplear tácticas de negociación reconocibles. También muestra que negociar con éxito significa poco cuando un agente malinterpreta a la persona a la que representa.
Por tanto, la disputa central no es Anthropic contra otra empresa de IA. Es la conveniencia delegada frente a un control humano significativo. Los agentes de negociación prometen ahorrar tiempo, pero su valor depende de recibir suficiente autoridad para actuar sin supervisión constante.
Esta disyuntiva va más allá de las compras. Sistemas similares podrían encargarse en el futuro de adquisiciones, condiciones contractuales, horarios laborales, facturas médicas, disputas con aseguradoras u ofertas de empleo. Cada contexto exige un umbral distinto de consentimiento, divulgación y presión aceptable.
Anthropic está convirtiendo la negociación en un problema de diseño de agentes
La comunicación legal reportada marca un giro: pasar de probar si los agentes pueden negociar a decidir cuándo deberían tener permiso para hacerlo.
Según la historia del Financial Times resumida por Techmeme, Anthropic está consultando a grupos jurídicos sobre tácticas de negociación para sistemas que actúan en nombre de una persona. La empresa estaría examinando cómo los agentes deberían buscar resultados favorables mientras preservan la equidad y responden de forma segura a contrapartes de IA.
Anthropic también habría considerado documentos formales de tareas que definirían la asignación y los límites de comportamiento de un agente. Tal documento podría especificar el objetivo, las concesiones aceptables, la autoridad de gasto, las reglas de divulgación, los puntos de escalamiento y las acciones que requieren una nueva aprobación.
Esto se asemeja a un mandato otorgado a un representante humano. La diferencia es que un agente de software puede operar continuamente, contactar a muchas contrapartes y generar más ofertas de las que una persona podría supervisar razonablemente.
Un agente de negociación de IA es un sistema que puede intercambiar propuestas y seleccionar acciones sin requerir aprobación para cada mensaje. Esto lo distingue del software de apoyo a la negociación, que redacta lenguaje o evalúa opciones mientras una persona conserva el control.
La distinción importa porque las conversaciones pueden convertirse en compromisos. Un sistema que busca un hotel realiza una tarea de información reversible. Un sistema que acepta condiciones de cancelación o firma una orden de compra modifica la situación legal y financiera del usuario.
La negociación también implica conductas que no son ni simples errores ni mala conducta evidente. Los negociadores humanos ocultan sus precios de reserva, presentan alternativas estratégicamente, invocan plazos y hacen concesiones condicionales. Un agente necesita reglas para cada práctica.
Si los desarrolladores prohíben todo movimiento estratégico, sus agentes pueden volverse fáciles de explotar. Si optimizan únicamente para obtener condiciones favorables, los agentes podrían engañar, presionar a personas vulnerables o sacrificar relaciones a largo plazo por pequeñas ganancias inmediatas.
El problema se complica cuando se encuentran dos agentes. Cada sistema puede tener instrucciones privadas, información incompleta, políticas de seguridad diferentes y capacidades de modelo desiguales. Ninguna de las partes sabe necesariamente cuánta autoridad posee la otra.
El agente de un comprador podría interpretar el mensaje del agente de un vendedor como una oferta vinculante cuando el vendedor pretendía hacer solo una propuesta exploratoria. Un modelo también podría aceptar un lenguaje favorable que oculte una obligación en otra parte de un contrato.
El software tradicional reduce la ambigüedad mediante campos fijos y reglas deterministas. Los agentes basados en modelos de lenguaje operan mediante lenguaje natural, donde el significado depende del contexto, el historial y supuestos que quizá nunca se hagan explícitos.
Esa flexibilidad hace posible la negociación. También genera disputas sobre lo que el agente entendió, lo que divulgó y si su usuario autorizó el resultado final.
Por ello, las consultas legales abordan más que el cumplimiento normativo tras el lanzamiento de un producto. Pueden dar forma al propio producto, incluida su memoria, estructura de permisos, registro de auditoría y definición de éxito.
Un agente útil debe saber cuándo continuar de manera independiente. Uno confiable también debe reconocer cuándo ha llegado al límite de su autoridad.
Los agentes de negociación de IA de Anthropic ya revelan una brecha de preferencias
Los experimentos de Anthropic sugieren que entender al usuario es un cuello de botella mayor que intercambiar ofertas.
En septiembre de 2026, Anthropic publicó Project Swap, un mercado controlado en el que participaron 201 empleados de seis oficinas. Los participantes llevaron libros, describieron sus preferencias de lectura a Claude y enviaron agentes impulsados por Claude a un mercado digital de intercambios.
Los agentes propusieron intercambios, respondieron a ofertas competidoras y organizaron acuerdos multipartitos. Cada intercambio requería la aceptación de todos los agentes participantes, mientras el sistema registraba la conversación del mercado.
Este experimento de mercado con agentes siguió a Project Deal, un ejercicio anterior con bienes reales en un mercado interno de una semana. Project Swap utilizó libros porque los investigadores podían comparar los resultados con preferencias clasificadas.
Tras una conversación inicial de aproximadamente cinco minutos, las clasificaciones de libros de Claude coincidieron con las de los participantes en el 61 por ciento de los pares. Fue mejor que la selección aleatoria, pero estuvo lejos de representar por completo el gusto individual.
La diferencia se hizo visible en los resultados del mercado. La mejor asignación posible, utilizando las propias clasificaciones de los participantes, produjo una puntuación de eficiencia de 0.89. La negociación descentralizada real produjo 0.55, aproximadamente equivalente a recibir la quinta opción de una lista de diez libros.
Anthropic atribuyó el 85 por ciento de esa diferencia a una representación inexacta de las preferencias. Solo el 15 por ciento procedía del proceso de negociación descentralizada.
Este resultado cambia el enfoque de la negociación con IA. El fracaso más importante puede ocurrir antes de la primera oferta, cuando un sistema convierte los objetivos vagos de una persona en una clasificación operativa.
Un comprador puede decir que el precio es importante mientras en silencio prioriza la fiabilidad de la entrega. Un empleado puede solicitar un salario más alto, pero valorar más el trabajo remoto. Un paciente que disputa una factura puede preferir un plan de pagos predecible al menor total teórico.
Las personas suelen descubrir estas preferencias durante la negociación. Reaccionan a ofertas concretas, reconocen compensaciones ocultas y revisan sus prioridades. Una evaluación inicial estática no puede captar todas las preferencias que más tarde resultan relevantes.
Esa brecha se vuelve peligrosa cuando el agente puede cerrar un acuerdo. Un modelo podría conseguir un precio objetivamente favorable y, al mismo tiempo, aceptar derechos sobre datos, condiciones de renovación, límites de servicio o costes reputacionales inaceptables.
El problema no se resuelve haciendo más preguntas indefinidamente. Una evaluación inicial extensa elimina gran parte de la conveniencia que hace atractiva la delegación. También puede crear una falsa confianza porque los usuarios no pueden anticipar cada posible condición.
Un diseño mejor trataría las preferencias como evidencia, en lugar de instrucciones permanentes. El agente podría distinguir las restricciones estrictas de las preferencias flexibles, registrar su grado de confianza y solicitar aprobación cuando surjan nuevas disyuntivas.
También podría presentar decisiones de muestra antes de recibir autoridad. Si un usuario rechaza repetidamente las elecciones del sistema, el agente tiene evidencia directa de que su representación sigue siendo incompleta.
Los resultados de Anthropic respaldan este enfoque. Los participantes que creían que el resumen inicial de Claude había captado sus preferencias delegarían el 34 por ciento de su presupuesto anual para libros. Quienes detectaron omisiones delegarían el 23 por ciento.
El promedio general fue de alrededor del 30 por ciento, frente al 40 por ciento para un amigo muy leído. Sin embargo, Anthropic advirtió que sus empleados no representan al público en general y podrían sentirse inusualmente cómodos con Claude.
El experimento también involucró libros, no acuerdos comerciales vinculantes. Un libro decepcionante tiene consecuencias limitadas. Una cláusula de indemnización, condición de financiación o restricción laboral mal comprendida puede importar durante años.
Para los trabajadores del conocimiento, la lección práctica es que un agente necesita un contexto fiable antes de necesitar tácticas más refinadas. Una base de conocimiento personal mantenida podría proporcionar preferencias y decisiones previas, pero la autoridad sensible sigue requiriendo límites explícitos.
La calidad de una negociación no puede medirse solo por si se alcanzó un acuerdo. También debe medir si el acuerdo refleja los intereses reales de la persona.
La lealtad y la equidad tiran en direcciones opuestas
Un agente que sirve fielmente a su usuario puede aun así hacer que el mercado circundante sea menos confiable.
Project Swap puso a prueba este conflicto asignando diferentes instrucciones a los agentes. A algunos se les indicó que fueran implacables, mientras que otros recibieron el objetivo secundario de ayudar a todos a obtener un libro adecuado.
Los agentes implacables obtuvieron una puntuación aproximadamente 0.02 mayor que los agentes prosociales en las clasificaciones de Claude. Los agentes prosociales aceptaron un libro de menor rango para sí mismos el doble de veces, aunque esos sacrificios siguieron siendo poco frecuentes.
Un agente prosocial acabó cediendo su segunda opción después de que otro agente pidiera ayuda. El intercambio mejoró el resultado del otro participante, pero dejó al agente complaciente con su décima opción.
Ese episodio refleja el conflicto de diseño. Un usuario puede esperar lealtad total. El operador de un mercado puede preferir cooperación, menos transacciones fallidas y resultados que los participantes consideren ampliamente justos.
Los mercados humanos abordan conflictos similares mediante deberes profesionales y reglas de plataforma. Los corredores están sujetos a requisitos de mejor ejecución. Los representantes inmobiliarios tienen obligaciones de divulgación. Las leyes de protección al consumidor a veces establecen períodos de cancelación tras ventas de alta presión.
Los agentes de software necesitan límites equivalentes, pero copiar reglas redactadas para humanos no será suficiente. Los agentes se comunican más rápido, conservan historiales detallados y pueden repetir una estrategia en miles de negociaciones.
También pueden identificar patrones que una persona podría pasar por alto. Utilizada responsablemente, esa capacidad puede revelar intercambios mutuamente beneficiosos. Utilizada de forma agresiva, puede localizar vulnerabilidades y ejercer presión a escala.
Un reciente marco ético para la negociación sostiene que los agentes autónomos amplifican riesgos éticos ya establecidos, en lugar de inventar otros completamente nuevos. La velocidad, la persistencia y la comunicación adaptativa pueden hacer que tácticas conocidas tengan consecuencias mayores.
El marco distingue entre la creación de valor y la apropiación de valor. La creación de valor encuentra condiciones que benefician a ambas partes. La apropiación de valor determina cómo se dividen esas ganancias.
Un sistema optimizado por completo para reclamar valor podría ocultar información relevante, explotar la urgencia o generar presión emocional. Un sistema optimizado solo para cooperar podría ceder demasiado y fallarle a la persona que lo autorizó.
El experimento de Anthropic identificó 16 tácticas recurrentes en 205 ejecuciones de mercado. Los agentes recurrieron a la presión temporal, apelaron al deber colectivo, compararon ofertas rivales, citaron los premios de un libro, mantuvieron listas de espera y, en ocasiones, actuaron como mediadores informales.
Entre el 78 y el 96 por ciento de los agentes mencionaron su libro mejor clasificado, según el modelo. Revelar esa preferencia podía ayudar a encontrar un intercambio, pero también podía indicar a la contraparte dónde aplicar presión.
Los agentes casi nunca mintieron sobre su primera opción. Sin embargo, un mercado compuesto únicamente por los modelos de producción de Anthropic presenta condiciones inusualmente controladas.
Anthropic reconoció que todos los agentes participantes utilizaban sus modelos y habían sido entrenados para comportarse con cortesía. El experimento no incorporó agentes adversariales diseñados para manipular o explotar a sus contrapartes.
Los mercados reales combinarán sistemas de distintas empresas. Algunos operarán bajo políticas de seguridad estrictas. Otros podrían recibir instrucciones para maximizar el ahorro, las ventas, la retención o la velocidad de cierre sin importar las consecuencias más amplias.
Esto genera un riesgo asimétrico. Un agente prudente puede revelar sus límites o evitar tácticas engañosas, mientras una contraparte agresiva explota esa previsibilidad.
Lo contrario es igual de preocupante. Si los desarrolladores blindan a sus agentes contra la explotación, los sistemas podrían volverse suspicaces, herméticos o poco dispuestos a llegar a acuerdos. Las negociaciones podrían ralentizarse o fracasar pese a existir términos mutuamente aceptables.
También existe la posibilidad de coordinación tácita. Agentes optimizados mediante modelos similares podrían converger en precios estables o concesiones recurrentes sin un acuerdo explícito para coludirse.
Los investigadores responsables del marco ético identifican la colusión algorítmica como un ámbito que requiere mayor estudio. El riesgo es especialmente relevante cuando los agentes negocian repetidamente en mercados de compras, ventas, publicidad, seguros o trabajo.
Por tanto, la unidad adecuada de gobernanza no es solo el agente individual. Incluye el protocolo del mercado, el sistema de identidad, las reglas de divulgación, los registros de transacciones, el proceso de resolución de disputas y los incentivos asignados a cada participante.
Los debates jurídicos de Anthropic importan porque las normas de negociación deben convertirse en reglas de producto ejecutables. Una instrucción general de “ser justo” no puede determinar cuándo revelar información, rechazar presiones o escalar a una persona.
Los desarrolladores necesitarán definiciones operativas. Los usuarios necesitarán opciones comprensibles. Las contrapartes necesitarán confianza en que la aparente autoridad de un agente es auténtica.
Sin esos elementos, la lealtad y la equidad seguirán siendo eslóganes que fallan precisamente cuando un acuerdo valioso se vuelve conflictivo.
Un Buen Acuerdo También Puede Ser un Acuerdo No Autorizado
La pregunta más difícil no es si un agente negoció bien, sino si sus acciones deberían obligar a la persona que está detrás de él.
El derecho contractual ya aborda las transacciones creadas mediante sistemas automatizados. Las empresas aceptan rutinariamente pedidos en línea y ejecutan operaciones basadas en reglas. Los agentes basados en modelos de lenguaje añaden incertidumbre porque sus decisiones específicas no están totalmente predeterminadas.
Un análisis de derecho contractual sostiene que la doctrina tradicional puede reconocer acuerdos sin demostrar la intención subjetiva de una persona para cada cláusula. Los tribunales suelen centrarse en las manifestaciones externas y la confianza razonable.
Ese principio puede hacer viable el comercio automatizado. También puede imponer una responsabilidad considerable a la persona o empresa que desplegó al agente.
Supongamos que una empresa autoriza a un agente a adquirir equipos dentro de un presupuesto. El agente negocia un precio unitario favorable, pero acepta una renovación automática, una cláusula restrictiva sobre datos y un foro de resolución de disputas lejano.
El vendedor puede creer razonablemente que el agente tenía autoridad. El comprador puede argumentar que el sistema excedió su encargo. El desacuerdo entonces abarca tanto la interpretación contractual como el diseño del producto.
Un mandato documentado podría reducir esa incertidumbre. Podría indicar qué puede discutir el agente, qué condiciones puede aceptar y cuándo se vuelve obligatoria la confirmación humana.
Sin embargo, divulgar esa información genera costes estratégicos. Una contraparte que conozca el límite exacto de gasto o el umbral de aprobación del agente puede estructurar ofertas en torno a ese límite.
Por ello, el mandato podría necesitar capas separadas. El usuario y el agente podrían compartir instrucciones privadas detalladas, mientras la contraparte recibe una declaración verificable de autoridad sin ver preferencias confidenciales.
Cada acción relevante también debería generar un registro duradero. El registro capturaría las ofertas recibidas, las condiciones consideradas, los motivos de las concesiones, los datos divulgados y el momento de aceptación.
Los registros facilitan la revisión y la resolución de disputas, pero introducen riesgos de privacidad y seguridad. Las negociaciones pueden contener información financiera, detalles médicos, planes empresariales o asuntos laborales.
Un agente comprometido podría exponer este material directamente. Un documento o mensaje malicioso también podría intentar una inyección de prompt, es decir, una instrucción oculta en contenido externo que intenta anular la tarea original del agente.
El peligro aumenta cuando los agentes pueden navegar, usar herramientas, firmar documentos o transferir dinero. Una afirmación engañosa se convierte en algo más que un mal consejo cuando el sistema puede actuar de inmediato basándose en ella.
La aprobación humana es una salvaguarda evidente, pero las solicitudes de aprobación pueden perder sentido. Si un agente pide confirmación para cada paso menor, los usuarios podrían aceptar los avisos automáticamente.
La supervisión eficaz debe seguir el riesgo. Un agente podría negociar libremente detalles reversibles, solicitar aprobación antes de revelar información sensible y detenerse antes de aceptar obligaciones por encima de un umbral definido.
Los usuarios también necesitan mecanismos de revocación. Deben poder pausar una negociación activa, retirar la autoridad o invalidar credenciales sin tener que rastrear cada servicio contactado por el agente.
Las contrapartes también requieren salvaguardas. Una empresa debe poder verificar la identidad del agente, determinar a quién representa y confirmar que su autorización sigue vigente.
Estos mecanismos se parecen más a la gestión de identidad y acceso digital que a la IA conversacional. Implican credenciales, permisos, auditabilidad, vencimiento y recuperación.
El entorno jurídico más amplio sigue sin resolverse. Diferentes jurisdicciones pueden aplicar normas distintas a los contratos electrónicos, la protección del consumidor, la privacidad, la discriminación y la toma de decisiones automatizada.
Un agente puede negociar a través de esas fronteras en cuestión de segundos. Los desarrolladores no pueden asumir que un único prompt universal producirá una conducta conforme a la normativa en todas partes.
Las reglas éticas también dependen del contexto. El silencio estratégico podría aceptarse en una conversación de compras comerciales, pero resultar inapropiado al tratar con un consumidor vulnerable o un servicio médico esencial.
La investigación sobre el comercio entre agentes ya ha destacado las preguntas sin respuesta sobre privacidad, responsabilidad y lealtad económica. Un reciente reportaje sobre comercio entre agentes también describe agentes que encuentran resistencia de personas que no quieren interactuar con ellos.
Esa resistencia importa. Una persona o empresa puede negarse a negociar de forma automatizada, exigir divulgación o requerir un representante humano para ciertas transacciones.
Los agentes de negociación no triunfarán simplemente porque puedan intercambiar mensajes persuasivos. Necesitan aceptación institucional por parte de usuarios, contrapartes, reguladores, aseguradoras y tribunales.
Hasta que esas partes reconozcan el proceso, un acuerdo eficiente aún puede convertirse en una disputa costosa.
Tres Señales Mostrarán Si la Negociación entre Agentes Está Lista
La siguiente etapa estará definida por pruebas de autoridad controlada, no por más demostraciones de negociación fluida.
La primera señal es un marco concreto de autorización. Anthropic u otro desarrollador debe mostrar cómo los usuarios establecen objetivos, restricciones, umbrales de aprobación y derechos de revocación.
Una breve solicitud en lenguaje natural no bastará para transacciones importantes. El marco debe distinguir entre asesoramiento, ofertas provisionales y compromisos finales.
También debe comunicar la autoridad a las contrapartes sin exponer la posición negociadora privada del usuario. Si los desarrolladores no pueden resolver esa separación, los agentes seguirán limitados a tareas de bajo riesgo.
Un diseño sólido de autorización reforzaría el argumento a favor de la negociación delegada. Un producto que se apoye principalmente en pantallas de consentimiento amplio lo debilitaría.
La segunda señal es realizar pruebas contra agentes hostiles y heterogéneos. Project Swap utilizó agentes creados por una sola empresa y entrenados para una conducta cooperativa.
Los mercados reales incluirán distintos modelos, herramientas, objetivos y prácticas de seguridad. Algunos agentes podrían tergiversar su autoridad, explotar preferencias divulgadas, saturar el proceso con ofertas o insertar instrucciones maliciosas.
Las evaluaciones útiles deberían comprobar si los agentes resisten la manipulación sin volverse incapaces de llegar a acuerdos. También deberían comparar los resultados cuando modelos más débiles y más fuertes negocian directamente.
La investigación de Anthropic ya encontró que la elección del modelo afectaba al rendimiento. En clasificaciones generadas por Claude, los mercados de negociación formados solo por Haiku obtuvieron 0,75, mientras los compuestos solo por Opus lograron 0,88.
En mercados mixtos de Opus y Haiku, los agentes Opus salieron sistemáticamente favorecidos. Si brechas similares persisten en mercados de mayor riesgo, el acceso a modelos más potentes podría convertirse en una fuente de poder de negociación.
Las pruebas adversariales independientes reforzarían la confianza en que el sistema funciona fuera del laboratorio de Anthropic. Las demostraciones cerradas que involucren solo a agentes amistosos dejarían sin resolver el riesgo central.
La tercera señal es un despliegue con recursos reales. Los usuarios necesitan un proceso definido para impugnar la decisión de un agente, corregir su modelo de preferencias y recuperarse de compromisos no autorizados.
Un registro de transacciones debería ser lo bastante legible como para explicar por qué el agente aceptó una oferta y no otra. No debería obligar a los usuarios a revisar miles de tokens ni a reconstruir un proceso de razonamiento oculto.
El experimento de Anthropic ofrece una pista útil. Un participante dijo que la observabilidad era importante porque daba a las personas posibilidad de recurso. Otro objetó cuando un agente parecía ceder un libro deseable ante la presión de sus pares.
Esas reacciones muestran por qué las métricas de resultados son insuficientes. Un precio favorable no justifica una divulgación no autorizada. Un intercambio socialmente eficiente no justifica ignorar las prioridades del usuario.
Para los desarrolladores, la tarea inmediata es separar capacidad de permiso. La capacidad de un modelo para negociar no establece que deba controlar una transacción.
Los compradores empresariales deberían preguntar dónde se sitúa la aprobación humana, cómo vence la autoridad, qué pruebas sobreviven a una disputa y si el agente puede interactuar de forma segura con sistemas externos.
Los trabajadores del conocimiento deberían considerar qué preferencias pueden expresar con claridad y qué decisiones siguen requiriendo juicio según el contexto. También deberían evitar tratar la interpretación segura de un agente como prueba de consentimiento.
Los agentes de negociación de IA de Anthropic presentan una vía creíble hacia un comercio con menos fricción. La investigación muestra que los agentes pueden identificar intercambios, aplicar tácticas y completar operaciones.
También muestra que los errores de preferencia predominan sobre los errores de negociación. Ese hallazgo debería orientar las prioridades de producto. Una mejor persuasión no puede compensar la representación de un objetivo equivocado.
El agente de negociación más útil no será el que siempre presione con mayor fuerza. Será el que sepa qué valora el usuario, preserve margen para corregir y se detenga cuando la autoridad se vuelva ambigua.
Antes de delegar una negociación real, formule tres preguntas: ¿puede el agente explicar su mandato?, ¿puede la otra parte verificar ese mandato?, ¿puede alguna de las partes recuperarse cuando el sistema se equivoca? Hasta que las tres tengan respuestas prácticas, la negociación mediante IA debe seguir estando supervisada, no darse por sentada.
