Yale School of Management: Überwachungspreise sind erst der Anfang. KI-Agenten werden der eigentliche Test für das Unternehmensvertrauen sein

Das gesamte Jahr 2025 über gelang es trotz zahlreicher Vorschläge keinem einzigen Bundesstaat, „Überwachungspreise" zu verbieten. In diesem Frühjahr änderte sich das. Im April wurde Maryland der erste Bundesstaat, der Lebensmittelhändlern und Lieferdiensten verbot, persönliche Daten von Verbrauchern zur Preisfestsetzung zu verwenden. Im Juni folgte Connecticut als zweiter Staat. Kalifornien und New York erwägen ähnliche Maßnahmen als Teil einer breiteren Bewegung zur Eindämmung von Überwachungspreisen.

Doch das eigentliche Problem betrifft im Kern nicht die Preisgestaltung. Es geht darum, wie Unternehmen Daten, Algorithmen und zunehmend KI einsetzen: Wenn Technologie es ihnen ermöglicht, Kunden und Mitarbeiter in beispiellosem Detail zu verstehen, werden sie diese Erkenntnisse nutzen, um Mehrwert zu schaffen – oder um ihn abzuschöpfen?

Die Frage ist, ob Unternehmen die Transaktion oder die Person bepreisen. Betrachten Sie zwei identische Uber-Anfragen von Midtown Manhattan zum Newark Airport. Die meisten Fahrgäste verstehen, warum die Fahrt an einem regnerischen Freitagsnachmittag mehr kostet als an einem ruhigen Sonntagmorgen; die Anpassung der Preise an Wetter, Verkehr oder Angebot ist eine transparente Methode zur Marktregulierung.

Doch Verbraucher stellen zunehmend etwas anderes in Frage: zwei Fahrgäste, die zur gleichen Zeit an derselben Ecke stehen und unterschiedliche Preise zahlen – basierend auf ihren Datenprofilen, Kaufhistorien, Geräten oder ihrer vermuteten Zahlungsbereitschaft. Im ersten Fall bepreist die Plattform die Fahrt. Im zweiten bepreist sie den Fahrgast. Die Federal Trade Commission hat die Tragweite davon in einer Studie von 2025 konkretisiert: Sie zeigt, wie Algorithmen, die auf persönliche Daten zurückgreifen, erkennen können, wann Verbraucher möglicherweise weniger Alternativen, größere Dringlichkeit oder eine höhere Zahlungsbereitschaft haben – und Preise oder Angebote entsprechend anpassen.

Dieselbe Logik gilt auf der anderen Seite des Marktes. Ein Algorithmus kann einem Fahrer eine niedrigere Auszahlung anbieten, von dem er vorhersagt, dass dieser sie ohnehin akzeptieren wird – weil sie kurz vor dem Erreichen eines täglichen Verdienstziels steht oder es unwahrscheinlich ist, dass sie die App wechselt. Wenn Unternehmen davon abrücken, die Bedingungen einer Transaktion zu bepreisen, und stattdessen die Schwächen der daran beteiligten Personen ausnutzen, entfernen sie sich von markträumender Effizienz hin zur Abschöpfung – sie untergraben das Vertrauen, verstärken die Unzufriedenheit der Mitarbeiter und provozieren die Regulierung, die sich nun im ganzen Land ausbreitet.

Die Debatte ist dringend, weil die Fähigkeit, Einzelpersonen zu verstehen und zu beeinflussen, kurz davor steht, sich dramatisch auszuweiten. Bislang war der begrenzende Faktor die Fragmentierung. Jeder von uns erzeugt enorme Mengen an Daten – Suchanfragen, Käufe, Standorte, Streaming-Gewohnheiten und Informationen von Wearables – doch kein einzelnes Unternehmen sieht mehr als einen Ausschnitt unseres digitalen Lebens.

AI Agents ändern das.

Wenn Menschen KI echte Aufgaben übertragen – Reisen buchen, Waren nachbestellen, einen Umzug organisieren – offenbaren sie weit mehr als eine Suchanfrage je konnte. Während eine Suche eine momentane Frage erfasste, beobachtet ein Agent den übergeordneten „Job to be done".

Bedenken Sie, was ein AI Agent, der Ihren Haushalt verwaltet, beobachten könnte: Er weiß, dass Ihre Medikamente zur Neige gehen, dass Sie typischerweise unter Stress einkaufen, dass Sie die Essenslieferung auf ein Firmenkonto abrechnen und dass Sie selten Preise vergleichen. Dieses Verhaltensprofil wird zu einem Leitfaden – entweder um Ihren Interessen zu dienen (echte Ersparnisse zu finden und manipulative Angebote herauszufiltern) oder um Ihre Muster für maximale Abschöpfung auszunutzen.

Das ist keine Spekulation mehr. Die führenden KI-Plattformen entwickeln rapide Agenten, die die Präferenzen der Nutzer verstehen, den Kontext im Gedächtnis behalten und zunehmend in deren Namen handeln können. Bain & Company schätzt, dass AI Agents bis 2030 einen US-Handel von 300 bis 500 Milliarden Dollar beeinflussen könnten. Dies könnte KI-Plattformen ein kontinuierliches und Echtzeit-Verständnis der Präferenzen, Bedürfnisse und Verhaltensweisen von Menschen ermöglichen – einschließlich Signale, die diese möglicherweise nie explizit äußern.

Diese Fähigkeit kann auf zwei sehr unterschiedliche Arten eingesetzt werden. Sie kann echte Personalisierung antreiben – ein Agent, der einen günstigeren Tarif findet, auf eine benötigte Nachbestellung hinweist oder das Rauschen herausfiltert. Oder sie kann nach innen gewendet werden – um jede Person näher an den Maximalpreis heranzuführen, den sie zu zahlen bereit ist, sie in ihren verletzlichsten Momenten zu erreichen und bessere Optionen zurückzuhalten, wenn sie wahrscheinlich schlechtere akzeptieren. Die Frage lautet nicht mehr, ob Unternehmen im großen Maßstab personalisieren können, sondern ob sie Grundsätze dafür festlegen werden, wie weit diese Personalisierung gehen darf.

Das macht die Ausrichtung zum zentralen Thema. Ein Agent, der uns so gut kennt, kann auf Verhaltenswissenschaft zurückgreifen – dieselben Vorurteile und Auslöser, die menschliche Entscheidungen schon immer beeinflusst haben – um uns zu beobachten, zu verstehen und entweder zu bedienen oder zu manipulieren. Wenn ein Agent also in Ihrem Namen handelt: Wessen Interessen dient er – Ihren, denen der Plattform, die ihn entwickelt hat, oder dem Meistbietenden für seine Empfehlungen? Angesichts der beispiellosen Summen, die derzeit in KI investiert werden, werden die wirtschaftlichen Anreize zur Monetarisierung dieses Einflusses immens sein.

Hier zeigt unsere Forschung einen anderen Weg auf. Auf der Grundlage von Interviews mit mehr als 200 CEOs im Rahmen des Yale-Programms für Stakeholder-Innovation und -Management haben wir ein konsistentes Muster gefunden: Der effektivste Weg, langfristigen Aktionärswert aufzubauen, besteht darin, das Unternehmen im Gleichschritt mit dem Vertrauen wachsen zu lassen – indem man Mehrwert für Stakeholder schafft, darunter Kunden, Mitarbeiter, Lieferanten und die Gemeinschaften, denen ein Unternehmen dient, und gleichzeitig ihr Vertrauen im Laufe der Zeit gewinnt. Je schärfer KI die Fähigkeit macht, jeden von ihnen zu verstehen und zu beeinflussen, desto größer wird die Versuchung sein, jede Beziehung auf kurzfristigen Gewinn zu optimieren. Die beständigsten Unternehmen werden dieser Versuchung widerstehen und diese Fähigkeiten nutzen, um Vertrauen zu vertiefen und die Beziehungen zu stärken, auf denen dauerhafter wirtschaftlicher Wert beruht.

Überwachungspreise sind nur der erste Test. Die Art und Weise, wie Unternehmen darauf antworten, wird zeigen, wie sie die weitaus mächtigeren Werkzeuge, die jetzt kommen, zu regulieren gedenken – und ob die Agenten, die in unserem Namen handeln, am Ende für uns oder gegen uns arbeiten.

Die in den Kommentarbeiträgen auf Fortune.com geäußerten Meinungen sind ausschließlich die Ansichten der jeweiligen Autoren und spiegeln nicht notwendigerweise die Meinungen und Überzeugungen von Fortune wider.

Diese Geschichte wurde ursprünglich auf Fortune.com veröffentlicht