スマホを手にし通話か何かをしようとしたところ、微信（WeChat）のマークの右上に赤い丸が表示されているのを目にし、思わず先に微信を起動する。微信のチェックを終えた後、また知らぬ間に別のアプリに気を引かれ、画面をオフにしてから初めて最初スマホで何をするつもりだったかを思い出す。誰もがこんな経験を持っていることだろう。文匯報が伝えた。

これは健忘症？答えはノーだ。スマホのすべてのアプリのアルゴリズムは、人工知能（AI）分野の専門家が手掛けたものであり、さらに心理学・脳科学者による「巧みな設計」が施されており、知らぬ間に深くハマってしまうのだ。

■人の注意力が「巧みな設計」の対象に

スマホをオンにし、あるアプリを起動するか指を動かす。これは多くの人にとっての習慣であり、筋肉の記憶、さらには本能にもなっている。その裏側には「見えざる手」の操作があるのだろうか。

上海交通大学心理・行動科学研究院の李衛東（リー・ウェイドン）執行院長は、「AIの発展により、機械による依存状態がより一般的になっている。薬物の依存症が脳細胞レベルで不可逆的な変化をもたらすのとは異なり、電子製品またはソーシャルアプリの依存症が脳のコントロールに影響を及ぼす手段については、現時点ではまだ明らかになっていない。しかしアルゴリズムとAIの発展に伴い、この依存症の可能性がより大きくなり、影響もより広くなることは間違いない」と説明した。

インターネット時代が訪れるまで、人類のすべての発明は人類の能動的な使用に基づくもので、ある新発明を人類に寄与させようとしていた。だが現在の技術は常にあの手この手で人の注意を引き、さらには人の考えを「操作」することで利益を得ようとする。SNS依存症に関するドキュメンタリー「監視資本主義 デジタル社会がもたらす光と影 (The Social Dilemma)」には、「すべての商品が営利目的だが、これらの商品が無料の場合、商品になるのはあなただ」というセリフがある。

IT企業は人の注意力を「巧みな設計」の対象にしている。ユーザー数の増加、ユーザーの使用時間の増加、さらにはユーザーの考えを操作することで、より多くの利益をもたらす。ユーザーは「放っておけば育つ」商品だ。

多くの人はすでに、ネット上で自分に送られてくる情報がますます自分にぴったりと合ったものになっており、しかもその多くが個人の好みに基づいてアルゴリズムで導き出されたものであることに気づいている。これらの情報は時に事実を根拠としていないことがあり、中にはユーザーの好みに合わせることだけを目的に、過激な、さらには間違った観点が混ざっているものもある。送られてくる情報に個人の好みがどんどん反映されるようになると、そうした情報に基づいて「見る」世界もまた違ったものになっていく。

■アルゴリズムに「包囲」され、人はよりイラつき、精神的に脆くなる？

同済大学で教鞭をとる劉翠蓮（リウ・ツイリエン）氏は長年、心理カウンセリングに従事した経験を持つ。劉氏の観察によると、2000年以降に生まれた若い世代は現実世界と仮想世界が同時に存在する「パラレルワールド」のような環境で成長した。彼らは「いいね」や「コメント」など、ネット上での日常的な交流に慣れている。しかし「いいね」や「コメント」といったSNS上の機能は、心理学の原理に基づき巧みに設計されたものだ。未成年者にとっては、短期的なフィードバックは一時的な満足感を得やすく、このような満足を絶えず求めるようになる。しかしこの「誘導」メカニズムは彼らのストレス源になるかもしれない。

「いかなる技術もしくは機械も、人との間にインタラクティブな関係が存在する。人が機械をコントロールすることもあれば、人が機械にコントロールされることもある」。上海ニューヨーク大学の張峥（ジャン・ジョン）教授は、「技術には良いも悪いもない。検索エンジンを使ってある言葉を検索した場合、結果として表示される1ページ目のトップ10の結果はその人の習慣や好みに基づき巧みに選別されたものだ。その目的は、検索結果を気に入ってもらい、その検索エンジンを持続的に使用してもらうためだ。良く言えば、このような設計の目的はユーザーのリピート率を高めることであり、悪く言えば、その人の好みを強く反映することで、ユーザーをコントロールしやすくするとも理解できる」との見方を示す。

人の好みや行為に対するアルゴリズムの予測がますます正確になると、成人であれ未成年であれますます多くのユーザーがこの心理学と脳科学を融合させたアルゴリズムに「包囲」されるようになり、ますますイラつきやすく、精神的に脆くなっていくかもしれない。機械とうまく付き合う術は、今後誰もが身に着けるべき能力になるだろう。ある学者は、「心理学そのものは人に注目する学問だ。しかし学問の発展という見地からすると、将来の心理学は人そのものに注目するだけでなく、人がいかに機械と付き合っていくかにも注目するべきだ」と呼びかけている。（提供/人民網日本語版・編集/YF）