Anthropic-KI-Verhandlungsagenten lernen zu feilschen, doch wer bestimmt die Regeln?

Anthropic konsultiert Berichten zufolge Anwaltskanzleien, während seine KI-Agenten das Verhandeln lernen – und schafft damit einen Konflikt, den gewöhnliche Assistenten nie lösen mussten. Ein Assistent kann einen Deal vorschlagen. Anthropic-KI-Verhandlungsagenten würden dafür verhandeln, Zugeständnisse interpretieren, Gegenparteien bewerten und Nutzer möglicherweise an Bedingungen binden.

Die berichteten Rechtsberatungen konzentrieren sich auf Fragen an der Schnittstelle zwischen Softwaredesign und etablierter Geschäftspraxis. Wie entschlossen sollte ein Agent die Interessen seines Nutzers vertreten? Wann muss er eine Genehmigung einholen? Wie sollte er reagieren, wenn auch der andere Verhandler ein KI-System ist?

Diese Fragen sind dringend geworden, weil Anthropic Claude-gestützte Agenten bereits in experimentellen Märkten getestet hat. Die Forschung des Unternehmens zeigt, dass Agenten Handelsmöglichkeiten finden und erkennbare Verhandlungstaktiken einsetzen können. Sie zeigt aber auch, dass erfolgreiches Verhandeln wenig bedeutet, wenn ein Agent die Person missversteht, die er vertritt.

Der zentrale Wettbewerb lautet daher nicht Anthropic gegen ein anderes KI-Unternehmen. Es geht um delegierte Bequemlichkeit gegen wirksame menschliche Kontrolle. Verhandlungsagenten versprechen, Menschen Zeit zu sparen, doch ihr Nutzen hängt davon ab, genügend Befugnisse zu erhalten, um ohne ständige Aufsicht handeln zu können.

Dieser Zielkonflikt reicht über das Einkaufen hinaus. Ähnliche Systeme könnten künftig Beschaffung, Vertragsbedingungen, Arbeitszeitplanung, Arztrechnungen, Versicherungsstreitigkeiten oder Jobangebote bearbeiten. Jeder Bereich setzt eine andere Schwelle für Zustimmung, Offenlegung und zulässigen Druck.

Anthropic macht Verhandlung zu einem Problem des Agentendesigns

Die berichtete rechtliche Kontaktaufnahme markiert einen Wandel: Es geht nicht mehr darum, ob Agenten verhandeln können, sondern wann sie dazu berechtigt sein sollten.

Laut der von Techmeme zusammengefassten Financial-Times-Meldung konsultiert Anthropic Rechtsgruppen zu Verhandlungstaktiken für Systeme, die im Namen einer Person handeln. Das Unternehmen prüft Berichten zufolge, wie Agenten günstige Ergebnisse anstreben und zugleich Fairness wahren sowie sicher auf KI-Gegenparteien reagieren sollen.

Anthropic hat Berichten zufolge auch formelle Aufgabenbeschreibungen erwogen, die den Auftrag und die Verhaltensgrenzen eines Agenten festlegen würden. Ein solches Dokument könnte Zielsetzung, akzeptable Zugeständnisse, Ausgabenbefugnisse, Offenlegungsregeln, Eskalationspunkte und Handlungen definieren, die eine erneute Genehmigung erfordern.

Das ähnelt einem Mandat für einen menschlichen Vertreter. Der Unterschied besteht darin, dass ein Software-Agent kontinuierlich arbeiten, zahlreiche Gegenparteien kontaktieren und mehr Angebote erstellen kann, als eine Person vernünftigerweise überwachen könnte.

Ein KI-Verhandlungsagent ist ein System, das Vorschläge austauschen und Handlungen auswählen kann, ohne für jede Nachricht eine Genehmigung einzuholen. Das unterscheidet ihn von Software zur Verhandlungsunterstützung, die Formulierungen entwirft oder Optionen bewertet, während ein Mensch die Kontrolle behält.

Dieser Unterschied ist wichtig, weil Gespräche zu Verpflichtungen werden können. Ein System, das nach einem Hotel sucht, führt eine umkehrbare Informationsaufgabe aus. Ein System, das Stornierungsbedingungen akzeptiert oder eine Bestellung unterzeichnet, verändert die rechtliche und finanzielle Position des Nutzers.

Verhandlungen umfassen zudem Verhaltensweisen, die weder einfache Fehler noch offensichtliches Fehlverhalten sind. Menschliche Verhandler verschweigen ihre Schmerzgrenzen, rahmen Alternativen strategisch, berufen sich auf Fristen und machen bedingte Zugeständnisse. Ein Agent braucht für jede dieser Praktiken Regeln.

Wenn Entwickler jeden strategischen Zug untersagen, könnten ihre Agenten leicht ausgenutzt werden. Optimieren sie hingegen nur auf vorteilhafte Bedingungen, könnten die Agenten täuschen, schutzbedürftige Menschen unter Druck setzen oder langfristige Beziehungen für kleine kurzfristige Gewinne opfern.

Das Problem wird schwieriger, wenn zwei Agenten aufeinandertreffen. Jedes System kann private Anweisungen, unvollständige Informationen, unterschiedliche Sicherheitsrichtlinien und ungleiche Modellfähigkeiten haben. Keine Seite weiß zwangsläufig, wie viel Befugnis die andere besitzt.

Der Agent eines Käufers könnte die Nachricht eines Verkäuferagenten als verbindliches Angebot verstehen, obwohl der Verkäufer nur einen unverbindlichen Vorschlag beabsichtigte. Ein Modell könnte auch vorteilhafte Formulierungen akzeptieren, die an anderer Stelle eines Vertrags eine Verpflichtung verbergen.

Herkömmliche Software verringert Mehrdeutigkeit durch feste Felder und deterministische Regeln. Sprachmodell-Agenten arbeiten mit natürlicher Sprache, deren Bedeutung von Kontext, Vorgeschichte und Annahmen abhängt, die möglicherweise nie ausdrücklich werden.

Diese Flexibilität macht Verhandlungen möglich. Sie schafft aber auch Streit darüber, was der Agent verstanden hat, was er offengelegt hat und ob sein Nutzer das endgültige Ergebnis autorisiert hat.

Die Rechtsberatungen betreffen daher mehr als die Einhaltung von Vorschriften nach der Produkteinführung. Sie können das Produkt selbst prägen, einschließlich seines Gedächtnisses, seiner Berechtigungsstruktur, seines Prüfpfads und seiner Erfolgsdefinition.

Ein nützlicher Agent muss wissen, wann er eigenständig weitermachen kann. Ein vertrauenswürdiger muss auch erkennen, wann er die Grenze seiner Befugnisse erreicht hat.

Anthropic-KI-Verhandlungsagenten offenbaren bereits eine Präferenzlücke

Die Experimente von Anthropic deuten darauf hin, dass das Verständnis des Nutzers ein größeres Hindernis darstellt als der Austausch von Angeboten.

Im September 2026 veröffentlichte Anthropic Project Swap, einen kontrollierten Markt mit 201 Mitarbeitern an sechs Standorten. Die Teilnehmer brachten Bücher mit, beschrieben Claude ihre Lesepräferenzen und schickten Claude-gestützte Agenten auf einen digitalen Handelsplatz.

Die Agenten schlugen Tauschgeschäfte vor, reagierten auf konkurrierende Angebote und stellten Mehrparteientausche zusammen. Jeder Handel erforderte die Zustimmung aller beteiligten Agenten, während das System die Unterhaltung auf dem Handelsplatz aufzeichnete.

Dieses Agentenmarkt-Experiment folgte auf Project Deal, eine frühere Übung mit realen Gütern in einem einwöchigen internen Marktplatz. Project Swap nutzte Bücher, weil die Forscher die Ergebnisse mit priorisierten Präferenzen vergleichen konnten.

Nach einem etwa fünfminütigen Aufnahmegespräch stimmten Claudes Buchranglisten bei 61 Prozent der Paare mit den Ranglisten der Teilnehmer überein. Das war besser als eine Zufallsauswahl, aber weit von einer vollständigen Abbildung individueller Vorlieben entfernt.

Der Unterschied wurde in den Marktergebnissen sichtbar. Die bestmögliche Verteilung auf Grundlage der eigenen Ranglisten der Teilnehmer erreichte einen Effizienzwert von 0,89. Der tatsächliche dezentrale Handel erreichte 0,55 – ungefähr gleichbedeutend mit der fünften Wahl auf einer Liste mit zehn Büchern.

Anthropic führte 85 Prozent dieses Defizits auf eine ungenaue Abbildung der Präferenzen zurück. Nur 15 Prozent entstanden durch den dezentralen Verhandlungsprozess.

Dieses Ergebnis verändert den Blick auf KI-Verhandlungen. Das wichtigste Scheitern könnte bereits vor dem ersten Angebot eintreten, wenn ein System die vagen Ziele einer Person in eine operative Rangfolge überführt.

Ein Käufer kann sagen, dass der Preis wichtig ist, während er stillschweigend Lieferzuverlässigkeit priorisiert. Ein Mitarbeiter kann ein höheres Gehalt verlangen, aber Remote-Arbeit stärker schätzen. Ein Patient, der eine Rechnung anficht, bevorzugt möglicherweise einen planbaren Zahlungsplan gegenüber der niedrigsten theoretischen Gesamtsumme.

Menschen entdecken diese Präferenzen häufig erst während einer Verhandlung. Sie reagieren auf konkrete Angebote, erkennen verborgene Zielkonflikte und überarbeiten ihre Prioritäten. Eine statische Erfassung kann nicht jede Präferenz abbilden, die später relevant wird.

Diese Lücke wird gefährlich, wenn der Agent eine Vereinbarung abschließen kann. Ein Modell könnte einen objektiv günstigen Preis erzielen, dabei aber unakzeptable Datenrechte, Verlängerungsbedingungen, Leistungsbeschränkungen oder Reputationskosten akzeptieren.

Das Problem lässt sich nicht lösen, indem man endlos weitere Fragen stellt. Eine lange Erfassung nimmt viel von der Bequemlichkeit, die Delegation attraktiv macht. Sie kann auch falsches Vertrauen schaffen, weil Nutzer nicht jede mögliche Bedingung vorhersehen können.

Ein besseres Design würde Präferenzen als Hinweise statt als dauerhafte Anweisungen behandeln. Der Agent könnte harte Einschränkungen von weichen Präferenzen unterscheiden, sein Vertrauen dokumentieren und eine Genehmigung einholen, wenn neue Zielkonflikte auftreten.

Er könnte auch Beispielentscheidungen präsentieren, bevor er Befugnisse erhält. Wenn ein Nutzer die Entscheidungen des Systems wiederholt ablehnt, hat der Agent direkte Hinweise darauf, dass seine Abbildung weiterhin unvollständig ist.

Die Ergebnisse von Anthropic stützen diesen Ansatz. Teilnehmer, die glaubten, dass Claudes Zusammenfassung ihre Präferenzen erfasst hatte, würden 34 Prozent ihres jährlichen Bücherbudgets delegieren. Jene, die Auslassungen bemerkten, würden 23 Prozent delegieren.

Der Gesamtdurchschnitt lag bei etwa 30 Prozent, verglichen mit 40 Prozent für einen belesenen Freund. Anthropic warnte jedoch, dass seine Mitarbeiter nicht repräsentativ für die breite Öffentlichkeit seien und sich möglicherweise ungewöhnlich wohl mit Claude fühlten.

Das Experiment betraf außerdem Bücher, keine verbindlichen Handelsvereinbarungen. Ein enttäuschendes Buch hat begrenzte Folgen. Eine schlecht verstandene Freistellungsklausel, Finanzierungsbedingung oder Beschäftigungsbeschränkung kann jahrelang bedeutsam sein.

Für Wissensarbeiter lautet die praktische Lehre, dass ein Agent zuverlässigen Kontext benötigt, bevor er schärfere Taktiken braucht. Eine gepflegte persönliche Wissensbasis könnte Präferenzen und frühere Entscheidungen bereitstellen, doch sensible Befugnisse erfordern weiterhin explizite Grenzen.

Die Qualität einer Verhandlung kann nicht allein daran gemessen werden, ob eine Einigung erzielt wurde. Sie muss auch messen, ob die Vereinbarung die tatsächlichen Interessen der Person widerspiegelt.

Loyalität und Fairness ziehen in entgegengesetzte Richtungen

Ein Agent, der seinem Nutzer treu dient, kann den umgebenden Markt dennoch weniger vertrauenswürdig machen.

Project Swap testete diesen Konflikt, indem Agenten unterschiedliche Anweisungen erhielten. Einige sollten rücksichtslos handeln, während andere das zusätzliche Ziel erhielten, allen zu einem passenden Buch zu verhelfen.

Rücksichtslose Agenten erzielten in Claudes Ranglisten etwa 0,02 Punkte mehr als prosoziale Agenten. Prosoziale Agenten akzeptierten für sich selbst doppelt so häufig ein niedriger eingestuftes Buch, obwohl diese Opfer weiterhin selten blieben.

Ein prosozialer Agent gab schließlich seine zweitbeste Wahl auf, nachdem ein anderer Agent um Hilfe gebeten hatte. Der Tausch verbesserte das Ergebnis des anderen Teilnehmers, ließ den entgegenkommenden Agenten jedoch mit seinem zehntplatzierten Buch zurück.

Diese Episode verdeutlicht den Gestaltungskonflikt. Ein Nutzer kann vollständige Loyalität erwarten. Ein Marktplatzbetreiber bevorzugt möglicherweise Kooperation, weniger gescheiterte Transaktionen und Ergebnisse, die die Teilnehmer weithin als fair ansehen.

Menschliche Märkte begegnen ähnlichen Konflikten durch berufliche Pflichten und Plattformregeln. Makler unterliegen Anforderungen zur bestmöglichen Ausführung. Immobilienvertreter haben Offenlegungspflichten. Verbraucherschutzgesetze sehen nach Verkaufsgesprächen unter hohem Druck mitunter Widerrufsfristen vor.

Software-Agenten benötigen gleichwertige Grenzen, doch das bloße Übernehmen von Regeln für Menschen reicht nicht aus. Agenten kommunizieren schneller, behalten detaillierte Historien und können eine Strategie über Tausende Verhandlungen hinweg wiederholen.

Sie können auch Muster erkennen, die einem Menschen entgehen würden. Verantwortungsbewusst eingesetzt, kann diese Fähigkeit für beide Seiten vorteilhafte Geschäfte aufdecken. Aggressiv eingesetzt, kann sie Schwachstellen finden und Druck im großen Maßstab ausüben.

Ein aktuelles Rahmenwerk zur Verhandlungsethik argumentiert, dass autonome Agenten bestehende ethische Risiken verstärken, statt völlig neue zu erfinden. Geschwindigkeit, Ausdauer und adaptive Kommunikation können vertraute Taktiken folgenreicher machen.

Das Rahmenwerk unterscheidet zwischen Wertschöpfung und Wertabschöpfung. Wertschöpfung findet Bedingungen, die beiden Parteien helfen. Wertabschöpfung bestimmt, wie diese Gewinne verteilt werden.

Ein System, das vollständig auf die Durchsetzung von Wertansprüchen optimiert ist, könnte relevante Informationen verbergen, Dringlichkeit ausnutzen oder emotionalen Druck erzeugen. Ein System, das ausschließlich auf Kooperation optimiert ist, könnte hingegen zu viele Zugeständnisse machen und der Person, die es autorisiert hat, nicht gerecht werden.

Das Experiment von Anthropic identifizierte 16 wiederkehrende Taktiken in 205 Marktdurchläufen. Agenten erzeugten Zeitdruck, appellierten an gemeinsame Verpflichtungen, verglichen Angebote von Wettbewerbern, verwiesen auf die Auszeichnungen eines Buchs, führten Wartelisten und agierten mitunter als informelle Vermittler.

Je nach Modell erwähnten zwischen 78 und 96 Prozent der Agenten ihr höchstbewertetes Buch. Diese Präferenz offenzulegen könnte helfen, einen Tausch zu ermöglichen, könnte einer Gegenpartei aber auch zeigen, wo sie Druck ausüben kann.

Die Agenten logen fast nie über ihre erste Wahl. Dennoch stellt ein Markt, der ausschließlich aus den Produktionsmodellen von Anthropic besteht, ungewöhnlich kontrollierte Bedingungen dar.

Anthropic räumte ein, dass jeder teilnehmende Agent seine Modelle nutzte und darauf trainiert worden war, sich höflich zu verhalten. Das Experiment umfasste keine adversarialen Agenten, die darauf ausgelegt waren, ihre Gegenüber zu manipulieren oder auszunutzen.

Reale Märkte werden Systeme verschiedener Unternehmen zusammenführen. Manche werden unter strengen Sicherheitsrichtlinien arbeiten. Andere könnten angewiesen werden, Einsparungen, Umsatz, Kundenbindung oder Abwicklungsgeschwindigkeit ungeachtet weiterreichender Folgen zu maximieren.

Dadurch entsteht ein asymmetrisches Risiko. Ein vorsichtiger Agent könnte seine Beschränkungen offenlegen oder irreführende Taktiken vermeiden, während ein aggressives Gegenüber diese Berechenbarkeit ausnutzt.

Das Gegenteil ist ebenso beunruhigend. Wenn Entwickler ihre Agenten gegen Ausbeutung absichern, könnten die Systeme misstrauisch, verschlossen oder zu Kompromissen nicht bereit werden. Verhandlungen könnten sich verlangsamen oder scheitern, obwohl für beide Seiten akzeptable Bedingungen möglich wären.

Zudem besteht die Aussicht auf stillschweigende Koordination. Agenten, die durch ähnliche Modelle optimiert wurden, könnten sich ohne ausdrückliche Absprache zur Kollusion auf stabile Preise oder wiederkehrende Zugeständnisse einpendeln.

Die Forschenden hinter dem Ethikrahmen nennen algorithmische Kollusion als Bereich, der weiter untersucht werden muss. Das Risiko ist besonders relevant, wenn Agenten wiederholt in Beschaffungs-, Vertriebs-, Werbe-, Versicherungs- oder Arbeitsmärkten verhandeln.

Die angemessene Einheit der Governance ist daher nicht allein der einzelne Agent. Sie umfasst auch das Marktplatzprotokoll, das Identitätssystem, Offenlegungsregeln, Transaktionsprotokolle, Streitbeilegungsverfahren und die Anreize für jeden Teilnehmer.

Die rechtlichen Diskussionen von Anthropic sind wichtig, weil Verhandlungsnormen zu ausführbaren Produktregeln werden müssen. Eine allgemeine Anweisung, „fair zu sein“, kann nicht festlegen, wann Informationen offengelegt, Druck zurückgewiesen oder ein Mensch eingeschaltet werden soll.

Entwickler werden operative Definitionen benötigen. Nutzer werden verständliche Wahlmöglichkeiten brauchen. Gegenparteien müssen darauf vertrauen können, dass die scheinbare Autorität eines Agenten echt ist.

Ohne diese Elemente bleiben Loyalität und Fairness Schlagworte, die gerade dann versagen, wenn ein wertvoller Deal umstritten wird.

Ein guter Deal kann dennoch ein nicht autorisierter Deal sein

Die schwierigste Frage ist nicht, ob ein Agent gut verhandelt hat, sondern ob seine Handlungen die Person hinter ihm rechtlich binden sollten.

Das Vertragsrecht behandelt bereits Transaktionen, die durch automatisierte Systeme zustande kommen. Unternehmen nehmen routinemäßig Onlinebestellungen an und führen regelbasierte Geschäfte aus. Sprachmodell-Agenten schaffen Unsicherheit, weil ihre konkreten Entscheidungen nicht vollständig vorbestimmt sind.

Eine vertragsrechtliche Analyse argumentiert, dass die traditionelle Rechtslehre Vereinbarungen auch ohne den Nachweis einer subjektiven Absicht einer Person für jede einzelne Klausel anerkennen kann. Gerichte konzentrieren sich häufig auf äußere Willensbekundungen und berechtigtes Vertrauen.

Dieses Prinzip kann automatisierten Handel praktikabel machen. Es kann jedoch auch der Person oder dem Unternehmen, die beziehungsweise das den Agenten eingesetzt hat, erhebliche Verantwortung auferlegen.

Angenommen, ein Unternehmen autorisiert einen Agenten, innerhalb eines Budgets Ausrüstung zu beschaffen. Der Agent handelt einen vorteilhaften Stückpreis aus, akzeptiert jedoch eine automatische Verlängerung, eine restriktive Datenklausel und einen weit entfernten Gerichtsstand für Streitigkeiten.

Der Verkäufer kann vernünftigerweise davon ausgehen, dass der Agent dazu befugt war. Der Käufer kann argumentieren, dass das System seinen Auftrag überschritten hat. Die Meinungsverschiedenheit betrifft dann sowohl die Vertragsauslegung als auch das Produktdesign.

Ein dokumentiertes Mandat könnte diese Unsicherheit verringern. Es könnte festlegen, worüber der Agent verhandeln darf, welche Bedingungen er akzeptieren kann und wann eine menschliche Bestätigung zwingend erforderlich ist.

Offenlegung verursacht jedoch strategische Kosten. Eine Gegenpartei, die die exakte Ausgabenobergrenze oder Genehmigungsschwelle eines Agenten kennt, kann Angebote gezielt um diese Grenze herum strukturieren.

Das Mandat benötigt daher möglicherweise getrennte Ebenen. Nutzer und Agent könnten detaillierte private Anweisungen teilen, während die Gegenpartei eine überprüfbare Vollmachtserklärung erhält, ohne vertrauliche Präferenzen einsehen zu können.

Jede wesentliche Handlung sollte zudem einen dauerhaften Nachweis erzeugen. Das Protokoll würde eingegangene Angebote, berücksichtigte Bedingungen, Gründe für Zugeständnisse, offengelegte Daten und den Zeitpunkt der Annahme erfassen.

Protokolle unterstützen Überprüfungen und Streitbeilegung, bringen jedoch Datenschutz- und Sicherheitsrisiken mit sich. Verhandlungen können Finanzinformationen, medizinische Details, Geschäftspläne oder Beschäftigungsfragen enthalten.

Ein kompromittierter Agent könnte dieses Material unmittelbar offenlegen. Ein böswilliges Dokument oder eine Nachricht könnte zudem versuchen, Prompt Injection auszuführen – eine in externen Inhalten versteckte Anweisung, die die ursprüngliche Aufgabe des Agenten überschreiben soll.

Die Gefahr steigt, wenn Agenten browsen, Tools aufrufen, Dokumente unterzeichnen oder Geld überweisen können. Eine irreführende Aussage ist mehr als schlechter Rat, wenn das System unmittelbar danach handeln kann.

Menschliche Genehmigung ist eine naheliegende Schutzmaßnahme, doch Genehmigungsaufforderungen können bedeutungslos werden. Wenn ein Agent für jeden geringfügigen Schritt eine Bestätigung anfordert, könnten Nutzer Aufforderungen automatisch akzeptieren.

Wirksame Aufsicht sollte dem Risiko folgen. Ein Agent könnte über reversible Details frei verhandeln, vor der Offenlegung sensibler Informationen um Genehmigung bitten und vor der Annahme von Verpflichtungen oberhalb eines festgelegten Schwellenwerts stoppen.

Nutzer benötigen zudem Widerrufsmöglichkeiten. Sie sollten eine laufende Verhandlung pausieren, Befugnisse entziehen oder Zugangsdaten ungültig machen können, ohne jeden Dienst nachverfolgen zu müssen, den der Agent kontaktiert hat.

Auch Gegenparteien benötigen Schutzmechanismen. Ein Unternehmen sollte die Identität des Agenten überprüfen, feststellen können, wen er vertritt, und bestätigen können, dass seine Autorisierung weiterhin gültig ist.

Diese Mechanismen ähneln eher digitalem Identitäts- und Zugriffsmanagement als dialogorientierter KI. Sie betreffen Zugangsdaten, Berechtigungen, Prüfbarkeit, Ablauf und Wiederherstellung.

Das umfassendere rechtliche Umfeld bleibt ungeklärt. Unterschiedliche Rechtsordnungen können unterschiedliche Regeln für elektronische Verträge, Verbraucherschutz, Datenschutz, Diskriminierung und automatisierte Entscheidungsfindung anwenden.

Ein Agent kann innerhalb von Sekunden über diese Grenzen hinweg verhandeln. Entwickler können nicht davon ausgehen, dass ein universeller Prompt überall regelkonformes Verhalten hervorbringt.

Auch ethische Regeln sind kontextabhängig. Strategisches Schweigen mag in einer kommerziellen Beschaffungsverhandlung akzeptiert sein, wäre jedoch im Umgang mit einem schutzbedürftigen Verbraucher oder einer wesentlichen medizinischen Dienstleistung unangemessen.

Die Forschung zum Agentenhandel hat die offenen Fragen rund um Datenschutz, Haftung und wirtschaftliche Loyalität bereits hervorgehoben. Jüngste Berichterstattung über Agentenhandel beschreibt zudem Agenten, die auf Widerstand von Menschen treffen, die nicht mit ihnen interagieren möchten.

Dieser Widerstand ist bedeutsam. Eine Person oder ein Unternehmen kann automatisierte Verhandlungen ablehnen, Offenlegung verlangen oder für bestimmte Transaktionen einen menschlichen Vertreter fordern.

Verhandlungsagenten werden nicht allein erfolgreich sein, weil sie überzeugende Nachrichten austauschen können. Sie benötigen institutionelle Akzeptanz von Nutzern, Gegenparteien, Regulierungsbehörden, Versicherern und Gerichten.

Solange diese Parteien den Prozess nicht anerkennen, kann selbst ein effizienter Handel zu einem kostspieligen Streitfall werden.

Drei Signale werden zeigen, ob Agentenverhandlungen bereit sind

Die nächste Phase wird durch Belege für kontrollierte Befugnisse bestimmt sein, nicht durch weitere Demonstrationen flüssiger Verhandlungsführung.

Das erste Signal ist ein konkreter Autorisierungsrahmen. Anthropic oder ein anderer Entwickler muss zeigen, wie Nutzer Ziele, Beschränkungen, Genehmigungsschwellen und Widerrufsrechte festlegen.

Eine kurze Anfrage in natürlicher Sprache wird für folgenreiche Transaktionen nicht ausreichen. Der Rahmen sollte zwischen Beratung, vorläufigen Angeboten und endgültigen Verpflichtungen unterscheiden.

Er sollte Befugnisse zudem gegenüber Gegenparteien kommunizieren, ohne die private Verhandlungsposition des Nutzers offenzulegen. Wenn Entwickler diese Trennung nicht lösen können, bleiben Agenten auf risikoarme Aufgaben beschränkt.

Ein starkes Autorisierungsdesign würde das Argument für delegierte Verhandlungen stärken. Ein Produkt, das sich überwiegend auf breit gefasste Einwilligungsbildschirme stützt, würde es schwächen.

Das zweite Signal sind Tests gegen feindselige und heterogene Agenten. Project Swap nutzte Agenten, die von einem Unternehmen entwickelt und auf kooperatives Verhalten trainiert worden waren.

Reale Märkte werden unterschiedliche Modelle, Tools, Ziele und Sicherheitspraktiken umfassen. Manche Agenten könnten Befugnisse falsch darstellen, offengelegte Präferenzen ausnutzen, den Prozess mit Angeboten überfluten oder böswillige Anweisungen einschleusen.

Sinnvolle Bewertungen sollten prüfen, ob Agenten Manipulation widerstehen, ohne zu Kompromissen unfähig zu werden. Sie sollten außerdem Ergebnisse vergleichen, wenn schwächere und stärkere Modelle direkt miteinander verhandeln.

Die Forschung von Anthropic stellte bereits fest, dass die Modellwahl die Leistung beeinflusste. Bei von Claude erstellten Rankings erzielten Handelsräume ausschließlich mit Haiku einen Wert von 0,75, während reine Opus-Handelsräume 0,88 erreichten.

In gemischten Opus- und Haiku-Handelsräumen setzten sich Opus-Agenten durchweg durch. Wenn ähnliche Unterschiede in Märkten mit höheren Einsätzen bestehen bleiben, könnte der Zugang zu stärkeren Modellen zu einer Quelle von Verhandlungsmacht werden.

Unabhängige adversariale Tests würden das Vertrauen stärken, dass das System außerhalb des Labors von Anthropic funktioniert. Geschlossene Demonstrationen, an denen nur kooperative Agenten beteiligt sind, würden das zentrale Risiko ungelöst lassen.

Das dritte Signal ist ein Einsatz mit echten Rechtsbehelfen. Nutzer benötigen einen klar definierten Prozess, um die Entscheidung eines Agenten anzufechten, sein Präferenzmodell zu korrigieren und sich von nicht autorisierten Verpflichtungen zu erholen.

Ein Transaktionsprotokoll sollte verständlich genug sein, um zu erklären, warum der Agent ein Angebot einem anderen vorgezogen hat. Es sollte Nutzer nicht dazu zwingen, Tausende Tokens zu prüfen oder einen verborgenen Denkprozess zu rekonstruieren.

Das Experiment von Anthropic liefert einen nützlichen Hinweis. Ein Teilnehmer sagte, Beobachtbarkeit sei wichtig, weil sie Menschen Rechtsbehelfe ermögliche. Ein anderer widersprach, als ein Agent offenbar unter Gruppendruck ein begehrtes Buch abgab.

Diese Reaktionen zeigen, warum Ergebniskennzahlen nicht ausreichen. Ein vorteilhafter Preis entschuldigt keine nicht autorisierte Offenlegung. Ein sozial effizienter Tausch rechtfertigt nicht, die Prioritäten des Nutzers zu ignorieren.

Für Entwickler besteht die unmittelbare Aufgabe darin, Fähigkeit von Befugnis zu trennen. Die Fähigkeit eines Modells zu verhandeln belegt nicht, dass es eine Transaktion kontrollieren sollte.

Unternehmenskäufer sollten fragen, wo menschliche Genehmigung vorgesehen ist, wie Befugnisse ablaufen, welche Nachweise einen Streitfall überdauern und ob der Agent sicher mit externen Systemen interagieren kann.

Wissensarbeiter sollten überlegen, welche Präferenzen sie klar formulieren können und welche Entscheidungen weiterhin eine kontextbezogene Beurteilung erfordern. Sie sollten die selbstbewusste Interpretation eines Agenten auch nicht als Beweis für Einwilligung betrachten.

Die KI-Verhandlungsagenten von Anthropic eröffnen einen glaubwürdigen Weg zu reibungsärmerem Handel. Die Forschung zeigt, dass Agenten Tauschmöglichkeiten erkennen, Taktiken einsetzen und Austauschvorgänge abschließen können.

Sie zeigt jedoch auch, dass Präferenzfehler Verhandlungsfehler überwiegen. Dieses Ergebnis sollte die Produktprioritäten bestimmen. Bessere Überzeugungskraft kann nicht dafür entschädigen, das falsche Ziel zu vertreten.

Der nützlichste Verhandlungsagent wird nicht derjenige sein, der stets am härtesten drängt. Er wird wissen, was der Nutzer schätzt, Raum für Korrekturen bewahren und stoppen, sobald die Befugnis unklar wird.

Bevor echte Verhandlungen delegiert werden, sollten drei Fragen gestellt werden: Kann der Agent sein Mandat erläutern, kann die Gegenseite dieses Mandat überprüfen, und können beide Parteien reagieren, wenn das System einen Fehler macht? Solange nicht alle drei Fragen praktisch beantwortet sind, sollte KI-gestütztes Verhandeln beaufsichtigt bleiben, statt als selbstverständlich vorausgesetzt zu werden.