Yale School of Management: ceny inwigilacyjne to dopiero początek. Agenci AI będą prawdziwym testem zaufania do korporacji

Przez cały 2025 rok, pomimo lawiny propozycji, żadnemu stanowi nie udało się zakazać „cen inwigilacyjnych". Tej wiosny to się zmieniło. W kwietniu Maryland jako pierwszy stan zakazał sprzedawcom żywności i usługom dostawczym wykorzystywania danych osobowych konsumentów do ustalania cen. W czerwcu Connecticut stało się drugim. Kalifornia i Nowy Jork rozważają podobne środki w ramach szerszej fali wysiłków na rzecz ograniczenia cen inwigilacyjnych.

Jednak prawdziwy problem nie dotyczy fundamentalnie cen. Chodzi o to, jak firmy decydują się wykorzystywać dane, algorytmy i coraz częściej sztuczną inteligencję: gdy technologia pozwala im rozumieć klientów i pracowników w bezprecedensowym stopniu szczegółowości, czy użyją tej wiedzy do tworzenia wartości, czy do jej wydobywania?

Pytanie brzmi, czy firmy wyceniają transakcję, czy osobę. Rozważmy dwa identyczne zamówienia Uber z centrum Manhattanu na lotnisko Newark. Większość pasażerów rozumie, dlaczego podróż kosztuje więcej w deszczowe piątkowe popołudnie niż w spokojny niedzielny poranek; dostosowywanie cen do pogody, ruchu ulicznego czy podaży to przejrzysty sposób na zrównoważenie rynku.

Jednak konsumenci coraz częściej kwestionują coś innego: dwóch pasażerów stojących w tym samym miejscu w tym samym momencie, płacących różne ceny na podstawie ich profili danych, historii zakupów, urządzeń lub wnioskowanej gotowości do zapłaty. W pierwszym przypadku platforma wycenia przejazd. W drugim — wycenia pasażera. Federalna Komisja Handlu ukonkretniła stawki w badaniu z 2025 roku, pokazując, jak algorytmy czerpiące z danych osobowych mogą wywnioskować, kiedy konsumenci mogą mieć mniej alternatyw, większą pilność lub wyższą gotowość do zapłaty — i odpowiednio dostosowywać ceny lub oferty.

Ta sama logika działa po drugiej stronie rynku. Algorytm może zaoferować niższą wypłatę kierowcy, którego przewiduje, że i tak zaakceptuje — bo zbliża się do dziennego celu zarobkowego lub raczej nie zmieni aplikacji. Gdy firmy przechodzą od wyceniania warunków transakcji do wykorzystywania słabości uczestniczących w niej ludzi, dryfują od efektywności oczyszczania rynku ku wydobywaniu wartości — niszcząc zaufanie, pogłębiając niezadowolenie pracowników i zapraszając regulacje, które teraz rozprzestrzeniają się po całym kraju.

Debata jest pilna, ponieważ zdolność do rozumienia i wpływania na jednostki ma się dramatycznie rozszerzyć. Do tej pory czynnikiem ograniczającym była fragmentacja. Każdy z nas generuje ogromne ilości danych — wyszukiwania, zakupy, lokalizacje, nawyki strumieniowania i informacje z urządzeń do noszenia — jednak żadna pojedyncza firma nie widzi więcej niż fragment naszego cyfrowego życia.

Agenci AI to zmieniają.

Gdy ludzie delegują prawdziwe zadania do AI — rezerwowanie podróży, ponowne zamawianie towarów, zarządzanie przeprowadzką — ujawniają znacznie więcej niż kiedykolwiek zapytanie wyszukiwania. Tam, gdzie wyszukiwanie uchwyciło chwilowe pytanie, agent obserwuje szersze „zadanie do wykonania".

Rozważmy, co może zaobserwować agent AI zarządzający Twoim gospodarstwem domowym: wie, że kończy Ci się lek, że zazwyczaj robisz zakupy pod wpływem stresu, że obciążasz dostawę jedzenia na konto firmowe i że rzadko porównujesz oferty. Ten profil behawioralny staje się mapą drogową do służenia Twoim interesom — znajdowania prawdziwych oszczędności i filtrowania manipulacyjnych ofert — lub do wykorzystywania Twoich wzorców dla maksymalnego wydobycia wartości.

To nie jest już projekcja. Wiodące platformy AI szybko rozwijają agentów, którzy mogą rozumieć preferencje użytkowników, pamiętać kontekst i coraz częściej podejmować działania w ich imieniu. Bain & Company szacuje, że agenci AI mogą wpływać na 300 do 500 miliardów dolarów w handlu w USA do 2030 roku. Mogłoby to dać platformom AI ciągłe i w czasie rzeczywistym zrozumienie preferencji, potrzeb i zachowań ludzi — w tym sygnałów, których mogą nigdy wyraźnie nie wyrażać.

Ta zdolność może być wykorzystana na dwa bardzo różne sposoby. Może napędzać prawdziwą personalizację — agenta, który znajdzie lepszą taryfę, oznaczy potrzebne uzupełnienie lub odfiltruje szum. Lub może być skierowana do wewnątrz — aby obciążać każdą osobę bliżej maksimum, które zapłaci, docierać do niej, gdy jest najbardziej podatna na zranienie, i ukrywać lepsze opcje, gdy prawdopodobnie zaakceptuje gorsze. Pytanie nie brzmi już, czy firmy mogą personalizować na dużą skalę, ale czy ustanowią zasady dotyczące tego, jak daleko powinna sięgać ta personalizacja.

To sprawia, że wyrównanie interesów staje się centralnym problemem. Agent, który zna nas tak dobrze, może czerpać z nauki o zachowaniu — tych samych uprzedzeń i wyzwalaczy, które zawsze wpływały na ludzkie decyzje — aby obserwować, rozumieć i albo nam służyć, albo nami manipulować. Gdy więc agent działa w Twoim imieniu, czyim interesom służy — Twoim, platformy, która go zbudowała, czy temu, kto najwięcej zapłaci za jego rekomendacje? Biorąc pod uwagę bezprecedensowe sumy inwestowane teraz w AI, ekonomiczne zachęty do monetyzacji tego wpływu będą ogromne.

Tu właśnie nasze badania wskazują inną ścieżkę. Opierając się na wywiadach z ponad 200 dyrektorami generalnymi w ramach Yale's Program on Stakeholder Innovation and Management, znaleźliśmy konsekwentny wzorzec: najskuteczniejszym sposobem budowania długoterminowej wartości dla akcjonariuszy jest rozwijanie biznesu równolegle z budowaniem zaufania — tworzenie wartości dla interesariuszy, w tym klientów, pracowników, dostawców i społeczności, którym firma służy, przy jednoczesnym zdobywaniu ich zaufania w czasie. Gdy AI wyostrza zdolność do rozumienia i wpływania na każdego z nich, pokusa optymalizowania każdej relacji dla natychmiastowego zysku będzie silna. Najbardziej trwałe firmy będą jej się opierać, używając tych możliwości do pogłębiania zaufania i wzmacniania relacji, od których zależy trwała wartość ekonomiczna.

Ceny inwigilacyjne to tylko pierwszy test. To, jak firmy na niego odpowiedzą, ujawni, jak zamierzają zarządzać znacznie potężniejszymi narzędziami, które teraz nadchodzą — i czy agenci działający w naszym imieniu ostatecznie będą pracować dla nas, czy na nas.

Opinie wyrażone w artykułach komentatorskich na Fortune.com są wyłącznie poglądami ich autorów i niekoniecznie odzwierciedlają opinie i przekonania Fortune.

Ta historia została pierwotnie opublikowana na Fortune.com