アルゴリズムはユーザーの意思決定にどのように影響しますか?

過去 2 日間、インターネット技術製品が露骨にまたは密かにユーザーのプライバシーを収集しているという記事が次々と公開されました。量的変化がようやくユーザーの質的変化への意欲を呼び覚ましたからなのか、あるいはセルフメディアの人々が退屈して自ら話題を作ったからなのか、近年、インターネット製品はユーザー情報の収集にますます積極的になっていると言わざるを得ません。技術の進歩によって収集能力が向上したことに加え、ますます広く使用されるようになった人工知能の推奨アルゴリズムも、さまざまなインターネット製品がユーザー情報を収集するために多大な努力を払う重要な原動力となっています。

本日お話しするのは、ユーザー情報（プライバシー情報だけではありません）を収集する推奨アルゴリズムです。これらは、私たちが気付かないさまざまな方法で、静かに私たちの意思決定に影響を与えている可能性があります。

Facebook はかつて、研究者が 689,003 人の Facebook ユーザーを被験者として使い、特定の感情的傾向のあるコンテンツを毎日プッシュするという 1 週間にわたる実験を行ったことがあります。ポジティブで幸せなコンテンツが主に見られるユーザーもいれば、ネガティブで悲しいコンテンツが主に見られるユーザーもいます。

実験が終了すると、「モルモット」として使われたこれらの無知なユーザーの投稿行動はそれに応じて変化しました。毎日ポジティブなコンテンツを見たユーザーはポジティブなメッセージを投稿する可能性が高く、毎日ネガティブなコンテンツを見たユーザーはネガティブなメッセージを投稿する可能性が高くなりました。

つまり、Facebook はユーザーの感情を操作できるのです。

おそらく、この実験では研究者の人間的な介入があったため、「アルゴリズム」が特定の感情を伴うコンテンツをユーザーに推奨し、現在私たちが使用しているさまざまな情報プラットフォームは、「研究者」の介入なしに私たちの感情を積極的に制御することはないだろうと思われるかもしれません。確かに、私たちの感情は制御できませんが、私たちの認識は微妙に変化しているのかもしれません。

認知の変化は感情の変化よりも危険です。感情は外部環境の変化によってすぐに調整され回復しますが、認知は一度低下すると自動的に元のレベルに戻ることは困難です。

ニュースアプリを配信する際に使用する各種アルゴリズムが、過度に下品なコンテンツを推奨していると批判されていた時期が長くありました。当初、各プラットフォームは、これらは孤立したサンプルであり、異なる顔を持つアルゴリズムが読者の好みに基づいて正確な推奨を行っている、下品なコンテンツを見るのはプラットフォームのせいではない（ユーザー自身が下品であるという含みがある）と主張していました。ますます多くの人々が団結して同じ疑問を提起するにつれ、プラットフォームは言葉を変えざるを得なくなり、「コンテンツの質を向上させるために手動レビューを追加する」と述べた。

実際、推奨コンテンツがますます下品になっているのは、まさに機械のアルゴリズムの正確な反映です。機械のアルゴリズムは人間の弱点を発見し、正確な推奨を行うための「コツ」を見つけました。ポルノの境界線、下品なジョーク、クリックベイトの見出しは、確かにユーザーの注目を集める可能性が高くなります。これらの実際のクリックは、まさにアルゴリズムの推奨を裏付けています。人間の介入がなければ、アルゴリズムは間違いなく同様のコンテンツをより頻繁に推奨するでしょう。

アルゴリズムによって推奨される下品なコンテンツが増えると、あなたの認知力と鑑賞力は間違いなく低下します。機械のアルゴリズムは読者のニーズに応えているので、間違っているとは言えません。

しかし、最終的な被害者は読者自身です。

コンテンツ プラットフォームの出発点は、ユーザーを卑猥にすることではありません。プラットフォームは、広告という本来の目的を達成するために、ユーザーからより多くの時間を獲得したいだけです。

メディアと広告の協力には長い歴史があります。印刷メディアからラジオ、テレビ、そして今日のインターネットに至るまで、広告は常にメディアにとって最も重要な収入源でした。ただ、インターネット以前のメディア広告は、私たちのショッピングの決定にそれほど影響を与えませんでした（大手メディアの推奨によってもたらされる信頼感を除く）が、今日のインターネット広告はますます私たちのショッピング行動に影響を与えています。

かつてはテレビドラマの途中に挿入される広告にイライラしていましたが、今ではフィードフローに散りばめられたこれらの広告は多くの人々に好まれています。なぜなら、まさにそれがあなたが望んでいるものだからです。

気に入ってはいるものの、それが本当に自分が欲しいものなのかどうか考えたことはありますか？

よく考えてみてください。広告の前後の内容は、あなたにとってショッピングの雰囲気を醸し出していますか?過去 2 日間に関連情報を検索したことがありますか?昨日は買い物カゴに入れたものの、迷って買わなかったことはありませんか？もしそうなら、なぜ昨日は買い物をためらっていたのに、今日関連記事をいくつか読んだ後、購入意欲が大幅に高まったのでしょうか?

昨年の6月から機械学習を学び始めました。これは非常に興味深い主題であり、その中核は数学における確率統計です。機械学習とは、実際には、手動で分類および選別された大量のデータを機械に与え、その中のルールを分析および学習させて特定の機能に適合させ、この機能を適用して、手動で処理されていないより多くのデータ分類タスクを完了することです。

推奨アルゴリズムはデータ分類の応用です。機械は、人間が事前に分類したデータを学習し、分類ルールを「習得」した後、コンテンツ プラットフォーム内の「軍事」「テクノロジー」「母子」などのカテゴリ テーマなど、新しく追加されたデータに対応する分類ラベルを追加します。アルゴリズムによるコンテンツ配信プラットフォームの場合、マシンにはユーザーを分類してラベルを付けるという仕事もあります。マシンは、ユーザーの情報とプラットフォーム上の行動データに基づいて、記事の分類と同様のラベルをユーザーに付けます。

コンテンツとユーザーの分類が完了すると、マシンは同じラベルを持つコンテンツとユーザーをまとめて、混合した推奨を行うことができます。配信プロセス中、マシンはユーザーからのフィードバック（いいね、シェア、嫌いなど）を通じて学習を続けます。コンテンツが多くなり、ユーザーからのフィードバックが充実するほど、推奨の精度が高まります。

したがって、このようなプラットフォームで読めば読むほど、自分の好みに合った情報が表示されるようになるでしょう。

この推奨ロジックによれば、コンテンツの品質が保証されていれば、理論的にはより効率的に情報を入手することができ、それは良いことです。しかし、前にも述べたように、プラットフォームの基本的な目的は一般大衆にサービスを提供することではありません。彼らの出発点は、ユーザーの時間を十分に占有することに基づいて広告を押し付けることです。そして、広告は確かに可能な限り取引を容易にしたいと考えています。

プラットフォーム上のユーザーの行動データのみに基づいてユーザーの「購買意欲」を正確に把握することは困難であるため、ほとんどのプラットフォームは、検索サイトでの検索履歴、ショッピングアプリの閲覧履歴、さらには入力方法の入力履歴など、さまざまな手段を使用してユーザーからの外部データを導入し、機械によるユーザー理解を深めています。

この「オフサイト」情報と組み合わせることで、マシンはより「正確に」ラベルを付け、より正確な広告情報をプッシュできるため、取引を成立させる可能性が高まります。取引を円滑にするプロセスは、大量の周辺情報を積み重ねて、あなたの精神的判断に影響を与えることによって達成されます。あなたはそのプロセス全体を意識せず、むしろそれを楽しんでいるかもしれません。

多くの人は、利便性を享受しているのだから、常に何らかの代価を支払うべきだと言うでしょう。また、プライバシーを「許可なく」収集する行為は不道徳かつ非倫理的だと言う人もいます。ここでは技術的および倫理的な問題について議論するつもりはありません。ただ、皆さんに次のことを思い出してもらいたいのです。

アルゴリズムによって制御されるコンテンツ製品を「サーフィン」しているときは、あなたの認識が変化し、現在の欲求がアルゴリズムによって影響を受ける可能性があることに留意してください。

出典: Xixin (ID: noyanjiu)