Йельская школа менеджмента: ценовое наблюдение — это только начало. ИИ-агенты станут настоящим испытанием корпоративного доверия

На протяжении всего 2025 года, несмотря на шквал предложений, ни одному штату не удалось запретить «ценообразование на основе слежки». Этой весной всё изменилось. В апреле Мэриленд стал первым штатом, запретившим продовольственным ритейлерам и службам доставки использовать персональные данные потребителей для установления цен. В июне к нему присоединился Коннектикут. Калифорния и Нью-Йорк рассматривают аналогичные меры в рамках более широкой волны усилий по ограничению ценообразования на основе слежки.

Однако реальная проблема в своей основе не связана с ценообразованием. Она касается того, как компании выбирают использовать данные, алгоритмы и всё активнее — ИИ: когда технологии позволяют им понимать клиентов и сотрудников с беспрецедентной детализацией, будут ли они использовать эти знания для создания ценности или для её извлечения?

Вопрос в том, устанавливают ли компании цену на транзакцию или на человека. Представьте два одинаковых заказа Uber из центра Манхэттена в аэропорт Ньюарк. Большинство пассажиров понимают, почему поездка стоит дороже в дождливый пятничный день, чем тихим воскресным утром; корректировка цен с учётом погоды, пробок или предложения — это прозрачный способ балансировки рынка.

Но потребителей всё больше беспокоит нечто иное: два пассажира, стоящие на одном углу в одно и то же время, платят разные цены на основе своих профилей данных, истории покупок, устройств или предполагаемой готовности платить. В первом случае платформа устанавливает цену на поездку. Во втором — на пассажира. Федеральная торговая комиссия придала этому вопросу конкретность в исследовании 2025 года, показав, как алгоритмы, опирающиеся на персональные данные, могут определять моменты, когда у потребителей меньше альтернатив, больше срочности или выше готовность платить — и соответствующим образом корректировать цены или предложения.

Та же логика действует на другой стороне рынка. Алгоритм может предложить водителю более низкую выплату, предсказав, что тот всё равно согласится, — потому что она приближается к дневной цели по заработку или вряд ли сменит приложение. Когда компании переходят от ценообразования на условия транзакции к эксплуатации уязвимостей участвующих в ней людей, они отклоняются от рыночно-расчётной эффективности в сторону извлечения прибыли — подрывая доверие, усугубляя неудовлетворённость работников и провоцируя регулирование, которое сейчас распространяется по всей стране.

Эта дискуссия актуальна, потому что способность понимать людей и влиять на них вот-вот резко расширится. До сих пор ограничивающим фактором была фрагментация. Каждый из нас генерирует огромные объёмы данных — поисковые запросы, покупки, местоположения, привычки стриминга и информацию с носимых устройств — но ни одна компания не видит больше чем фрагмент нашей цифровой жизни.

ИИ-агенты меняют это.

Когда люди делегируют реальные задачи ИИ — бронирование поездок, повторный заказ товаров, организацию переезда — они раскрывают гораздо больше, чем когда-либо позволял поисковый запрос. Там, где поиск фиксировал мимолётный вопрос, агент наблюдает за более широкой «работой, которую нужно выполнить».

Представьте, что может наблюдать ИИ-агент, управляющий вашим домохозяйством: он знает, что у вас заканчиваются лекарства, что вы обычно делаете покупки в состоянии стресса, что вы относите доставку еды на корпоративный счёт и что вы редко сравниваете цены. Этот поведенческий профиль становится дорожной картой либо для обслуживания ваших интересов — поиска реальной экономии и фильтрации манипулятивных предложений, — либо для эксплуатации ваших паттернов с целью максимального извлечения выгоды.

Это уже не проекция. Ведущие платформы ИИ стремительно разрабатывают агентов, способных понимать предпочтения пользователей, запоминать контекст и всё активнее совершать действия от их имени. По оценкам Bain & Company, ИИ-агенты могут влиять на объём торговли в США в размере от 300 млрд до 500 млрд $ к 2030 году. Это может дать платформам ИИ непрерывное понимание предпочтений, потребностей и поведения людей в режиме реального времени — включая сигналы, которые те могут никогда явно не выражать.

Эту возможность можно использовать двумя принципиально разными способами. Она может обеспечить подлинную персонализацию — агент, который найдёт более выгодный тариф, напомнит о необходимости пополнить запасы или отфильтрует лишнее. Или её можно направить вовнутрь — чтобы назначать каждому человеку цену, близкую к максимальной, которую тот готов заплатить, обращаться к нему в моменты наибольшей уязвимости и скрывать лучшие варианты, когда он, скорее всего, согласится на худшие. Вопрос уже не в том, могут ли компании персонализировать в масштабе, а в том, установят ли они принципы того, насколько далеко эта персонализация должна заходить.

Это делает согласованность интересов центральной проблемой. Агент, который знает нас настолько хорошо, может опираться на поведенческую науку — те же предубеждения и триггеры, которые всегда влияли на решения людей, — чтобы наблюдать, понимать и либо служить нам, либо манипулировать нами. Итак, когда агент действует от вашего имени, чьи интересы он отстаивает — ваши, платформы, которая его создала, или того, кто предложит наибольшую сумму за его рекомендации? Учитывая беспрецедентные суммы, которые сейчас инвестируются в ИИ, экономические стимулы для монетизации этого влияния будут огромными.

Именно здесь наше исследование указывает на иной путь. Основываясь на интервью с более чем 200 генеральными директорами в рамках Программы инноваций и управления стейкхолдерами Йельского университета, мы обнаружили устойчивую закономерность: наиболее эффективный способ создания долгосрочной акционерной стоимости — это развивать бизнес по мере роста доверия, создавая ценность для стейкхолдеров, включая клиентов, сотрудников, поставщиков и сообщества, которым служит компания, и завоёвывая их уверенность со временем. По мере того как ИИ усиливает способность понимать каждого из них и влиять на него, возникнет искушение оптимизировать каждые отношения ради немедленной выгоды. Наиболее устойчивые компании устоят перед ним, используя эти возможности для углубления доверия и укрепления отношений, от которых зависит долгосрочная экономическая ценность.

Ценообразование на основе слежки — лишь первый тест. То, как компании ответят на него, покажет, как они намерены управлять гораздо более мощными инструментами, которые сейчас появляются, — и будут ли агенты, действующие от нашего имени, работать для нас или против нас.

Мнения, высказанные в комментариях на Fortune.com, являются исключительно точкой зрения их авторов и не обязательно отражают мнения и убеждения Fortune.

Этот материал был первоначально опубликован на Fortune.com