アルゴリズムは人間の思考や行動をどう変えるのか? 〜アルゴリズムと歩む未来の青写真

新年早々の、スイスの『ノイエノイエ・チュルヒャー・ツァイトゥングZürcher Zeitung 』（略称NZZ）の日曜版では、「２０２１年にわれわれが関心をもつべきことWas uns 2021beschäftigen sollte.」と題して、新年に重要となると思われれる課題や問題をとりあげる特集記事が掲載されました(NZZ am Sonntag, 3.1.2021)。

記事は、新年を眺望する特集記事として、全般に読み応えがあったのですが、わたしにとってとりわけ気になったのは、そのなかのひとつのトピック、アルゴリズムに関するものでした。洗練度が年々高まり、デジタル分野で日常的にますます普及しているアルゴリズムは、今後、わたしたちの生活にどのような影響を与えるのか、その可能性や問題性を指摘したものです。

今回は、この記事の指摘を出発点に、人類未踏の領域である、アルゴリズムが日常的に普及する世界について、歴史家ハラリと台湾デジタル担当大臣タンという、対照的な見識者の意見を参考にしながら、思索の旅にでてみたいと思います。アルゴリズムに全く門外漢のわたしの旅なので、一体、どこにたどりつくのかわかりませんが、よかったらおつきあいください。

※NZZは、スイスで名高い日刊紙で、２年に一度、学術的な第三者機関がスイスの主要マスメディアの質を審査する調査でも、常に、新聞部門で群を抜いてトップに位置している新聞です（「「メディアの質は、その国の議論の質を左右する　〜スイスではじまった「メディアクオリティ評価」https://jneia.org/181010-2/）。この記事内容は、しかし、専属記者が書いたものでなく、スイス の代表的な未来およびトレンド研究のシンクタンクで、特にバイオテクノロジーなど技術・工学的な分析が強いことでしられるW.I.R.E.の調査結果をまとめたものです。

記事で指摘されているアルゴリズムに関する問題

まず、この記事で簡潔にまとめられているアルゴリズムについての問題を以下、箇条書きであげてみます（一部は文章を直接引用）。

・アルゴリズムは、膨大なデータと、個々人の趣向の違いをすりあわせてわたしたちに、いろいろな提案をしてくれる。レストランや音楽の選択や、パートナー選びまで、日常に深く根付いている。

・アルゴリズムは、わたしたちを、膨大な情報のジャングルをくぐっていくためのガイドをしてくれて、私たちのかわりに判断（決断）を引き受けている。

・これはとても便利な反面、利用すればするほど、依存するようになったり、マニピュレーション（巧みな操作）のリスクが生じる。このようなリスクは、社会全体で考えると、さらに深刻で危険な次元に達する可能性がある。

・自分で判断することがなくなることで、統一的になり、同一化にすらなりうる。「クリエイティビティ（創造性）は、批判的な自由な政治的文化なしには不可能である。」

・「それではどうすればいいか」（という項目を置き、企業と人々に分けて、それぞれの対応を喚起しています。）

これを使う企業は、利用されるデータと、アルゴリズムがどのような目的をもっているかについて、透明性を確保するべき。人々は、プレイリストなしに自分で音楽を選んだり、スマホのナビなしで生活したり、パートナーを自分で選ぶなど「われわれのアルゴリズムに対抗する自由の戦いがはじまらなくてはならない」

「自由な意志」に基づく「自由な選択」はあるか？

上記の内容は刺激に満ちたものですが、他方、最後の結語、「われわれのアルゴリズムに対抗する自由の戦いがはじまらなくてはならない」というところで、引っかかるものを感じました。

ここで言う「自由」とは、自由意志に基づき選択する自由、というようなことだと思いますが、「自由の（ための）戦い」とは、具体的にどんなものなのを指すのでしょう。政治的なムーブメントとして「自由の（ための）戦い」が語られれば、想像できますが、アルゴリズムを前にした「自由の戦い」とはなにを意味するのでしょう。

歴史家ハラリYuval Noah Harariは、『２１Lessens. 21世紀の人類のための21の思考 21 Lessens for the 21st Century』(河出書房新社、２０１９年)で、以下のようにつづりながら、「自由意志」というものが幻想であると断言しています。

「最高の科学理論に従えば、そして、最新のテクノロジーに何ができるかを考えれば、心はつねに操作される危険がある。人を操作する枠組みから解放されたがっている正真正銘の自己などありはしないのだ。」（３２３頁）
「あなたはこれまでの年月に自分がどれだけの数の映画や小説や詩を観たり読んだりしてきたか、見当がつくだろうか？」（３２３頁）（中略）「もしあなたが、どこかのデリート・ボタンを押せばハリウッドの形跡を自分の潜在意識や大脳辺縁系からすべて消し去れると考えているのなら、それは自己欺瞞にほかならない。」
「バイオテクノロジーと機械学習が進歩するにつれ、人々の最も深い情動や欲望を操作しやすくなるので、ただ自分の心に従うのは、いっそう危険になる。」（３４５頁）
（ビックデータと機械学習によってアルゴリズムが）「あなた以上にあなたを知るようになった日には、これらのアルゴリズムはあなたを支配したり操作したりできるだろう。」（３４６頁）

ハラリは、つまり、さまざまなファクターが折り重なって、自分が「自由な意志」と思っているようなものを形成しているだけだと言います。自分よりも自分の好みがよくわかるアルゴリズムすら可能となるともいいます。だとすると、もともと自分が選ぶようなものを、アルゴリズムが先立って選んでくれているだけで、どうせ同じようなものを選ぶ、という風にも解釈できます。

そうなると、記事のように自分の「自由さ」にこだわり、アルゴリズムに対抗する自由の戦いをはじめることの意義や目的、理由はなんで、具体的に戦いの中身は何になるのでしょう。気持ちとしては、アルゴリズムに占拠されずに「自由に選択する」ことにこだわりたいのは、よくわかるのですが、実質的にどんな戦い方であり、その戦いの結果、なにを得ようとしているのかが、判然としません。

というわけで、「われわれのアルゴリズムに対抗する自由の戦いがはじまらなくてはならない」というこの項目の結論部分には、これ以上深入りをせずに、それ以外の部分について、以下、考えてみたいと思います。

アルゴリズムが人や社会に与える影響

仕切り直して、アルゴリズムに関する指摘で、ほかに重要と思われるキーワードをくくりだして、そこからのアプローチを考えてみます。

・「依存」
・（それが続くと）統一、同一化してしまう
・クリエイティビティ（創造性）が失われる

とはいえ、これらのキーワードの前後の説明は極めて少なく、いわんとすることがこれもまた、はっきりはわかりません（ただし、シンクタンクの記述が不十分だと批判しているわけではありません。未来研究の素晴らしいところは、ぼんやりした未来像に大胆に一石を投じること自体です。しかし、いかんせん未来のことなので、内容を詳細に示すことができないのもしかたないことです。）。

このため、僭越ながら私の理解と言葉を補充して、もう少し詳しい叙述を試みてみます。

アルゴリスムを使いつづけると、それへの「依存」体質となる恐れ。そして（それが続くと）、人々や社会全体の、思考パターンや嗜好などが、統一的になり、同一化する傾向がでてくるのでは。そうなると、多様な自由な発想が乏しくなり、批判的な思考もきたえにくくなる。批判的精神の乏しい政治的文化の土壌の上では、個性的・奇想天外な発想がでにくくなり、社会や個人のクリエイティビティ（創造性）もまた全般に減っていく。

大筋で、そのようなことを想定し、全般に、脅威ととらえていると考え、先にすすんでみたいと思います。さて、このような予測はどのくらい正しいでしょうか。

アルゴリスムに依存するとどうなるか

まず、依存について。「依存」が強すぎると、なにが問題となるのでしょう。真っ先に考えられるのは、人が自分自身で決断できなくなるようになることでしょう。決断するというのも、一種のトレーニングが必要な作業で、それをしばらくしていないと、筋トレしないと筋肉が落ちるように、全般に、自分で決める決断力が落ちる危険がある、という仮説が考えられます。そうすると、なにをするにも（必ずしもアルゴリズムで決めてもらうのが最良の解にならないような場合も含め）、アルゴリズムが手放せなくなるようになる。そうなると、ドラッグの依存症同様に、アルゴリズム漬けの状態から脱することができなくなる。

ところで、脳に負担をかけないと、不安になりやすいという説があります（メンタリストDaiGo『自分を操り』）。この説に沿って、この問題を考えると、らくをしてアルゴリズムにやってもらってばかりいると、どんどん、脳も逆に、不安になったり弱くなるということになるかもしれません。

一方、もう少し楽観的な見方もあります。RadicalChange財団の主催で実現した上述のハラリと、台湾のデジタル担当大臣オードリー・タン（Audrey Tang 唐鳳）の対談で、それが表現されている部分を以下、引用してみます（ユヴァル・ノア・ハラリとオードリー・タンの対談、２０２０。訳は、AI新聞編集長湯川鶴章によるものを使わせていただきます）。

ハラリ「オンライン政府が強制的に何かをわれわれにさせる、という話ではありません。自分自身よりもアルゴリズムのほうがわれわれのことをよく知っていて、よりよいレコメンデーションができると、われわれ自身が考えるようになるという話です。われわれが、人生の決断をますますアルゴリズムに頼り始めるという話です。」
「アルゴリズムは常に改良され続けます。それにアルゴリズムは完璧である必要はありません。人間がする予測の平均値よりも、優れていればいいだけなのです。アルゴリズムが改良されるにつれ、人々が自分の判断を信じるより、アルゴリズムを信じるようになる可能性があります。」

タン「ではそのことについて議論していきましょう。アルゴリズムのことを「コード 」と呼ぶことにしますね。わたしがコードというと、アルゴリズムのことだと思ってください。コードはもちろん、ユヴァルが説明したようなインパクトを持っています。」
「コードはLawです。Lawといっても、法律ではなく、法則のようなものです。コードは、何が起こりうるか、何が起こらないかを決定する、サイバースペースにおける物理の法則のようなものなのです。」
「適正な手続きにのっとりさえすれば、アルゴリズムのコードを法のコードと同じよう書き換えることができるのかどうか。社会がそうすることにどれくらい前向きか。それ次第だと思います。」
「私にとって、この価値観の問題を解決する１つの方法は、基本的ルールとして複数の物の見方を提供することだと思います。人間のアシスタントと同じことだと思います。複数の人間のアシスタントが、あなたの価値観を理解した上で、それぞれの提案をします。もし一人があなたの利益にならない提案をしたら、残りのアシスタントがその一人と協議することでしょう。もしその一人が何度もあなたの価値観と違う提案をしたら、残りのアシスタントがその一人に警告を発するでしょう。」
「この「１つの意見ではなく、複数の意見を参照する」というのは、わたしの仕事上のモットーでもあります。」

RadicalxChange（司会）「RadicalxChangeのアイデアの一つにデータの尊厳があります。オードリー、あなたは会話の最初の方で、アーキテクチャについて言及していましたね。ここで考慮すべきことの1つは、このような多元性を持つようにアルゴリズムをどのように構築できるか、データの尊厳をどう担保するのかということだと思います。」

この３者（ハラリとタンと司会）の意見が交錯する対談からみえてくる楽観的な見方（ハラリは基本的に同調していないかもしれませんが）について、わたしが理解できた範囲で、まとめてみると以下のようになります。

所詮、アルゴリズムは人間がプログラミングしてつくりだしたものであり、複数が並行して存在可能で、あらわれる価値観が違うことも可能。つまり、人がアルゴリズムによって決断できない、しなくなるのではなく、決断の内容や仕方が変わるということであり、複数のアルゴリズムで、どれが最良かを見極めるという最終的な決断は、変わらず人の手中にある。

しかしそうなると、それぞれのアルゴリズムのくせや限界や問題点、それが十分に透明性を担保しているか、などを自身が理解していないと、最良のアルゴリズムを選べないことになり、アルゴリズムを理解するのに最低限必要な（高い）能力が前提となります。アルゴリズムを理解する能力は、現在は、ひとにぎりの専門家だけにとどまっていますが、それを、どれほど、一般的な人々の間でも引き上げることができるのかが、キーとなりそうです。

思考や行動がフラットになるのか。個々人のクリエイティビティ（創造性）が失われるのか

先ほどあげてみた残りのパスワードで、記事の指摘するほかの論点もあらわしてみます。アルゴリズムを使うと、決断・結論の出し方が似てきて、その結果、行動パターンや思考パターンも類似しだして、最終的に、相対的に社会や人のなかのクリエイティビティが減る。

これは、本当でしょうか。ここで再び、対談にでてきたオードリー・タンの意見を参考にしてみます。タンは、最新の著作『デジタルとAIの未来を語る』で、高齢者がデジタル化で不便を感じる時、想像力が必要だとしています。プログラムやインターフェースに問題があるのであれば、高齢者ではなく、そのサービスを提供する側が、それらの点を工夫すればいいという発想です。

このような立ち位置から考えると、もしも、アルゴリズムを使い込むことで、いくつかの弊害がでたとすれば、その時に、さらに想像力をふくらまし、もっとよいものを作ればいいのでは。そうすれば、アルゴリズムの弊害もまた克服できるのでは。これまでにないような発想で、新たにでてくる問題をそれぞれ、克服していけばいいのでは、ということになると思います。

そう簡単にいくのか。理想にすぎないのではないか。そんな疑いや批判の声がきこえてきそうです。たしかに現実には簡単ではなく、克服できる可能性は高くないかもしれません。関与する技術者の質や量、熱意、分別、公平なバランス感覚によって、非常に左右されるかもしれません。

他方、では、アルゴリズムを、あなたは実際にあきらめられますか、と訊かれて、どのくらいの人が、堂々と、名乗りをあげられるでしょうか。頼れる便利なものがあれば、使いたい。多すぎる情報や選択肢を効率よく処理したい。一度アルゴリズムを味わった人の多くが、内心そう思っているかもしれません。もし、そうであれば、たとえ、今のアルゴリズムが問題をおこすと予想されたとしても、それに変わるものが所望されるだけで、頼れる便利なツールを全面使わないというの現実的ではなさそうです。

これを、政治に例えれば、（まったく今ある体制をこわして新たにうち耐えることを目指す）革命ではなく、（いまあるリソースを最大限活用するという効率を重視しながら、問題と思われる部分に改善のメスを入れる）改革路線といったところでしょうか。

おわりに

ところで、タンは、前揚書で、資本主義社会には、競争原理であるが、競争がすべてではなく、ほかの要素も多くあること。また、競争の原理から離れ、公共の価値を生み出すことに達成感を見い出すことができれば、AIに仕事をうばわれることはなく、人間の仕事は決してなくならないとも言っています。

前回と前々回でとりあげたハスラーの著作も、人は一人では満たされる人生を生きることができず、人と関わり自分が役に立っているという気持ちが、高齢者の精神衛生を保つのに必要だ、という主旨のことをいっていました（「「２５年間も引退生活なんて、とんでもない」（１）　〜スイスの高齢者の夢と現実」、「「２５年間も引退生活なんて、とんでもない」（２）　〜スイスの哲学者が提示する高齢者が参加する未来」）。

タンとハスラーの視座には共通するところがあるように思います。生活スタイルや、アルゴリズムなど、身の回りにある環境がいろいろ変わっても、結局肝心なのは、人がそこでどう自分の生活の仕方を決めていくかということで、そこが自身で、はっきりしていなければ、自分の境地を受け身にとらえ、外的環境にふりまわされていると感じるのかもしれません。

そう思うと、未来研究者ホルクスMatthias Horxの言葉もまた思い出されます。昨年春のロッックダウン中、コロナ危機解決の手がかりとして、これから議論していくべきことはなにか、というインタビューの問いに対し、ホルクスは、これからの時代で重要なのは、「確信（確実な期待）Zuversicht」だといいます。「確信は、我々を行動や変化に近づけるひとつの姿勢（態度）であ」り、「確信のある人は、自分でなにかを起こすことできることを可能と考え、それを自覚する」。確信をもつことで、人は、「未来はどうなるのか」と（受け身的に　筆者註）問うのではなく、むしろ、わたしに何ができるか、どう作用できるか、なにが変わり、わたしはそこでなにができるか、と主体的に考え、「未来のためにわたしはなにができるのか」と自問するようになる。つまり「自分たちのうちにある未来への責任を担う」ようになり、そうすることが結局、「自分たちが」（自分たちの手で　筆者註）「未来をつくっていくことになる」（「新たな「日常」を模索するヨーロッパのコロナ対策（２）　〜追跡アプリ、医療情報のデジタル化、地方行政の采配、緩和政策の争点」）。

アルゴリズムのある生活はバラ色か、それともその奴隷となるということなのか。議論をそこの部分だけでおわりにするのでなく、違う側面にも注目すべきでしょう。それは、不必要に恐怖するのでも、無心にたよるのでもなく、アルゴリズムのある生活、アルゴリズムを使う側の自分の姿勢や主体性を、いかに意識するか自覚するかということです。そういう自覚をもつ人たちが増えれば、なにかおかしいところは、アルゴリズム自体やあるいはアルゴリズムとの関わり方を、変えていき、アルゴリズムのある生活を、さらに進化させていくことができるのではないでしょうか。

そうしているうちに、人によりそい、人に快適・便利さを提供するだけでなく、特には、潜在的な能力をひき伸ばすような、そんなしかけやアルゴリズムなども実現してくれたらいいのになあ。と、こんなところまで結局、発想がとんでしまうわたしのような人間は、しかし、すでに、（手遅れなまでに）アルゴリズムへの依存症が過度に進行しているということなのでしょうか。。。

参考文献

メンタリストDaiGo『自分を操り、不安をなくす 究極のマインドフルネス』PHP研究所、２０２０年

Mijuk, Gordana/ Blaschke, Sonja, «Ohne Reply-Taste gibt es keinen Raum für Trolle», sagt Taiwans Digitalministerin Audrey Tang. In: NZZ am Sonntag, 26.12.2020, 21.45 Uhr

オードリー・タン(Audrey Tang 唐鳳) 『デジタルとAIの未来を語る』プレジデント社、２０２０年

Was uns 2021beschäftigen sollte. In: NZZ am Sonntag, 3.1.2021, Hintergrund Schweiz, S.16-17.

ユヴァル・ノア・ハラリYuval Noah Harari『２１Lessens. 21世紀の人類のための21の思考 21 Lessens for the 21st Century』河出書房新社、２０１９年

Yuval Noah Harari, ユヴァル・ノア・ハラリとオードリー・タンの対談(2020年７月２日アップロード)

Yuval Noah Harari ユヴァル・ノア・ハラリ、オードリー・タン対談「民主主義、社会の未来」全和訳、AI新聞、湯川鶴章訳、2020.7.12