イェール大学経営大学院：監視価格設定はほんの始まりに過ぎない。AIエージェントが企業信頼の真の試練となる

2025年を通じて、数多くの提案が出されたにもかかわらず、「監視価格設定」を禁止した州は一つもなかった。しかし今春、その状況が変わった。4月、メリーランド州が食品小売業者と配送サービスによる消費者の個人データを用いた価格設定を禁止する初の州となった。6月にはコネチカット州が続いた。カリフォルニア州とニューヨーク州も、監視価格設定を制限しようとする広範な動きの一環として、同様の措置を検討している。

しかし、本質的な問題は価格設定そのものではない。企業がデータ、アルゴリズム、そして急速に普及するAIをどのように活用するかという問題だ。テクノロジーが顧客や労働者をかつてないほど詳細に把握できるようになったとき、企業はその洞察を価値の創出に使うのか、それとも搾取に使うのか。

問われているのは、企業が取引に価格をつけているのか、それとも人に価格をつけているのかということだ。マンハッタン中心部からニューアーク空港への、まったく同じ2件のUberリクエストを考えてみよう。雨の金曜日の午後には静かな日曜日の朝より料金が高くなる理由は、ほとんどの利用者が理解している。天候、交通状況、または供給状況に応じて価格を調整することは、市場のバランスを保つための透明な方法だ。

しかし消費者が疑問を呈するのは、別のことだ。同じ角に同じ瞬間に立つ2人の乗客が、データプロフィール、購入履歴、デバイス、または推定された支払い意欲に基づいて異なる価格を支払う、というケースだ。前者ではプラットフォームは乗車に価格をつけている。後者では、乗客に価格をつけている。連邦取引委員会は2025年の調査でその重大性を明確にし、個人データを利用したアルゴリズムが、消費者の選択肢が少ない場面や緊急性が高い場面、支払い意欲が高い場面を推測し、それに応じて価格やオファーを調整できることを示した。

同じ論理は、市場の反対側でも機能している。アルゴリズムは、ドライバーがどうせ受け入れると予測した場合—日々の収益目標に近づいているか、アプリを切り替える可能性が低い場合—より低い報酬を提示するかもしれない。企業が取引条件への価格設定から、そこに関わる人々の脆弱性の搾取へと移行するとき、市場均衡効率から搾取へと流れ、信頼を損ない、労働者の不満を深め、今や全国に広がりつつある規制を招く。

この議論が急を要するのは、個人を理解し影響を与える能力が劇的に拡大しようとしているからだ。これまでの制約要因は断片化にあった。私たちの一人ひとりが膨大なデータを生成している—検索、購入、位置情報、ストリーミングの習慣、ウェアラブルからの情報—しかしいかなる単一の企業も、私たちのデジタル生活の一断片しか見えていない。

AIエージェントがそれを変える。

人々がAIに実際のタスクを委任するようになると—旅行の予約、商品の再注文、引っ越しの管理—検索クエリが捉えていた以上の情報が明らかになる。検索が一時的な質問を捉えるのに対し、エージェントはより広範な「果たすべき役割」を観察する。

あなたの家庭を管理するAIエージェントが何を観察できるか考えてみよう。薬が残り少なくなっていること、ストレスを感じたときに買い物をする傾向があること、食事デリバリーを法人口座に請求していること、そして比較購買をほとんどしないことを把握している。この行動プロフィールは、あなたの利益のために機能する—本当の節約を見つけ、操作的なオファーを排除する—か、あるいは最大限の搾取のためにあなたのパターンを悪用するかのどちらかの道標となる。

これはもはや推測ではない。主要なAIプラットフォームは、ユーザーの好みを理解し、文脈を記憶し、ますますユーザーに代わって行動できるエージェントを急速に開発している。ベイン・アンド・カンパニーは、AIエージェントが2030年までに米国の商取引において3,000億ドルから5,000億ドルに影響を与える可能性があると試算している。これにより、AIプラットフォームは人々の好み、ニーズ、行動—明示的に表現されることのないシグナルを含む—をリアルタイムかつ継続的に把握できるようになる可能性がある。

この能力は、まったく異なる2つの方法で使用できる。真のパーソナライゼーションを実現する—より良い運賃を見つけ、必要な補充を知らせ、ノイズを除去するエージェント—ことに使えるかもしれない。あるいは内向きに転じて、各人が支払う最高額に近い価格を請求し、最も脆弱なときに働きかけ、より悪い選択肢を受け入れそうな場合にはより良い選択肢を提示しないために使われるかもしれない。問題は、企業がスケールでパーソナライズできるかどうかではなく、そのパーソナライゼーションをどこまで行うかについての原則を確立するかどうかだ。

それがアライメントを中心的な問題にする。私たちをこれほどよく知るエージェントは、行動科学—人間の意思決定に常に影響を与えてきたバイアスやトリガー—を利用して、私たちを観察し、理解し、奉仕するか操作するかを選択できる。では、エージェントがあなたの代わりに行動するとき、誰の利益のために機能しているのか—あなたのためか、それを構築したプラットフォームのためか、あるいはその推薦に最高額を支払った者のためか？AIに今や前例のない額が投資されていることを考えると、その影響力を収益化しようとする経済的インセンティブは計り知れないほど大きくなるだろう。

ここに、私たちの研究が異なる道を示している。イェール大学のステークホルダー・イノベーション・マネジメント・プログラムにおける200人以上のCEOへのインタビューをもとに、私たちは一貫したパターンを発見した。長期的な株主価値を構築する最も効果的な方法は、信頼を育みながら事業を成長させること—顧客、労働者、サプライヤー、企業が奉仕するコミュニティを含むステークホルダーに価値を創造し、時間をかけて信頼を獲得すること—だ。AIが彼らを理解し影響を与える能力を研ぎ澄ますにつれ、すべての関係を即時の利益のために最適化しようという誘惑が生まれる。最も長続きする企業はそれに抵抗し、これらの能力を信頼の深化と、持続的な経済価値が依存する関係の強化のために活用するだろう。

監視価格設定は最初の試練に過ぎない。企業がそれにどう答えるかは、今まさに到来しつつある、はるかに強力なツールをどのように統治しようとしているかを明らかにするだろう—そして私たちの名の下に行動するエージェントが、最終的に私たちのために働くのか、それとも私たちに対して働くのかを。

Fortune.comのコメンタリーに掲載される意見は、著者個人の見解であり、必ずしもFortuneの意見や信条を反映するものではありません。

この記事はもともとFortune.comに掲載されました