フェイクニュース対策としての法律　〜評価が分れるドイツのネットワーク執行法を参考に

2018-05-06　2019-01-09

世界で問われるフェイクニュース対策

国内外で政治や外交を翻弄したり、社会背景の異なる人々の間の溝を広げるフェイクニュースは、ソーシャルネットワークが全盛の現代において、制御が難しい非常にやっかいな代物です。このため、これらへの対策については、どこの国でも大きな関心がもたれ、様々な次元や形の対処が試みられていますが、どのような対策が有効に働くのか、はっきりした答えはみつかっていません。

ドイツ語圏でもフェイクニュースへの取り組みが注目されており、同時に、それらの問題点や是非をめぐる議論も活発です。これらの動きは、日本でも参考になる活動や議論が多く含まれていると思われるため、今回から３回にわたって、記事でご紹介してみたいと思います。

ところで、フェイクニュース対策といっても、具体的なアプローチ方法や対象となるものは非常に様々です。例えば、発生に随時して、応急処置的な対処法で済ませるというのが、まず、ひとつの方法でしょう。しかし、今後もデジタルメディア環境においてフェイクニュースが減るより増える可能性が高いことを考えると、それがあること、起きることを前提とし、それが起きた時にシステマティックに対応する手法や、起きる前の予防措置などを重視し備えることが、ますます重要になってくるでしょう。

では、応急処置的でない長期的なフェイクニュース対策として、具体的にどんなことが考えられるでしょうか。フェイクニュースは歴史が浅く、その対策の事例も少ないため、グローバルな人々やものの移動を背景に現代社会においても依然、少なからぬ脅威であり続けている感染症対策を参考に考えてみます。感染症とフェイクニュースはもちろん全く違うものですが、社会に広がることで脅威や被害が広がること、同時に、伝播を最小限に抑えたりより効果的に対処するためには、社会の一部ではなく、社会全体が協力的に関わることが重要である点が、類似しており、対処のアプローチとして参考になることがあるように思われます。

長期的・総合的な感染症対策としては、以下のような３つの異なる側面（次元）での対策が、重要だと考えられます。

１発病した人の手当てと病気の発生場所の現場処理
発症した人や病気がすでに発生した場所を（安全な状態になるまで）ほかから一旦隔離し、病原の排除を徹底化する。
２公衆衛生を確保
伝染予防のため、感染者のいない社会全体を衛生的に保つ
３免疫力の向上化
個々人が病気になりにくくするため、免疫力を高めさせる。

これらの感染症対策に相当する、フェイクニュースにおける対策はどのようなものになるでしょうか。この問いを出発点にして、これからの３回の記事で、フェイクニュースに有効な対策を探ってみたいと思います。

※「フェイクニュース」という言葉の使い方について
「フェイクニュース」という言葉は、使う人の立場や地域、文脈によって、言葉の示す内容に、くい違いがみられ、明確に定義されるものではありません。レポートにおいては、主に、TwitterやFacebookなどのソーシャルメディアにおいて、政治や商業的意図などをもって、発信・拡散される、偽情報や歪曲された情報全般を指すものとして使用していきます。

ドイツのフェイクニュースへの法的な取り組み

今回は、１に当たるもの、つまり、フェイクニュースの直接的な除去に関する対策として、ドイツで新しく施行された法律についてみていきたいと思います。

ドイツでは、２０１５年ごろからソーシャルメディア上のヘイトスピーチやフェイクニュースが急増しました（これには難民危機が直接的・間接的に関連していると考えられます（「ドイツとスイスの難民　〜支援ではなく労働対策の対象として」）。１９９７年から、ソーシャルメディア・ネットワークのポータルサイトを運営する事業者（以下「SNS事業者」と表記）は、違法な内容が記載されたら、それを速やかに除去し掲載できないようにすることが法律で義務化されていましたが、以降も状况は改善されるどころか、むしろ悪化してきたといえます。

このため、フェイクニュースやヘイトスピーチについてより厳しい法的な措置を望む声が国民の間で強まっていきます。２０１７月５月に１４歳以上の１０１１人を対象に、社会研究調査機関Forsaが行ったオンラインアンケート調査では、80%の人が、フェイスブックなどの事業体がフェイクユースをより迅速に除去しなくてはならなくなるような新しい法律が必要だと回答し、フェイクニュースが偽ではなく、単なる自由な発言だとしたのは、回答者の8%にとどまっています。(Forsa, 2018, S.6)

このような世論を受け、昨年、SNS事業者の義務の履行を徹底させるため新しい法「ソーシャルネットワークにおける法執行の改善に関する法律」が制定され、１０月から施行されました。具体的にどのような法律なのかみてみましょう。

ネットワーク執行法

ネットワーク執行法では、ドイツ国内の登録利用者数が200万人以上のインターネット上の営利的なプラットフォームを運営する事業者が対象とする法律で、以下のような業務を具体的に義務づけました。

ドイツの刑法ですでに犯罪とみなされている内容（民衆の扇動、人種憎悪挑発、信条の冒涜、侮辱、脅迫、中傷、名誉毀損、悪評の流布など）を２４時間報告できる、専用報告サイトの設置。
年間100件以上の報告（または苦情）を受けた対象事業者は、違法内容に関する報告の処理について、半年ごとに当該期間を対象とする報告書を作成し、連邦官報及び自身のウェブサイト上で報告書作成から遅くとも一ヶ月以内に公表すること。
事業者は、違法な内容を疑う報告を受けた場合、直ちに違法性を審査し、ドイツの刑法で明らかに違法のものは、24時間以内それ以外の違法情報についても、7日以内の削除、あるいはドイツのIPアドレスをもつ人が閲覧できないようにアクセスをブロックすること。

上記の義務を事業者が十分に行っていないと認められた場合、最高５０００万ユーロまでの過料が科せられることになりました。ちなみにドイツ刑法の特定の犯罪を含むコンテンツとは、侮辱、名誉棄損、違憲団体の宣伝、犯罪の扇動などであり、著作権などに関してはここでは扱いません。

ネットワーク執行法への批判

この法律は、世論の多数派の期待を受けて制定されたものの、当初から批判的な意見も社会で幅広くみられました。フェイクニュースやヘイトスピーチの問題に関心が強いジャーナリズム業界でも反対が強かったのが特徴です。

なにが問題とされているのでしょうか。批判の指摘には、フェイクニュースに対する規制を法的な措置によって促進しようとする際の矛盾や困難さがよくあらわれているので、少し詳細の話になりますが、以下ご紹介してみます。

公平性・正当性への疑い

まず、この法律によって義務化されたSNS事業者が行う審査のプロセスの公平性・正当性について強く批判されています。

誰がどのように審査し、報告処理がどのように行われるかについては、事業者自身に委ねられているため、報告内容の審査の仕方やプロセスが不透明で、正しく行われているかを外部のものが検証することができません。

このため、法律に違反しているかを見極めるのは難しい判断であることもあるのに、一企業が雇用する何人かのスタッフに一任するのでいいのか。また、審査にあたるのがたとえ優れたスタッフであったとしても、報告件数に対し人手が少なかったり、処理時間が十分とれない状況で、十分に考慮されずに判断が下されるのではないか。と、その公平性や正当性に強い疑問の声があります。

現在の大手SNS運営会社を例にしてみると、ドイツ国外に本拠地を置く会社であり、ある意味では、国内の法律違反審査を海外企業に委ねていることになり、そのような委託、あるいは丸投げともとれる状況に不安を覚える声もあります。

オーバーブロッキング

このような欠陥のある審査体制が陥りやすいと危惧されているのが、オーバーブロッキング（過剰すぎる対処）です。オーバーブロッキングとは、SNS事業者は、高額な過料を科せられることへの恐れから、言論の自由をできる限り擁護しようという立場よりも、穏便に処理しようとする方に力学が強く働き、報告されたものを慎重に吟味せずに、安易に違法と判断し削除することを意味します。

今年１月２１日には、このような危惧をさらに強めさせる調査が発表されました。EU連合では、２０１６年５月以降、違法なヘイトスピーチの内容を除去することに賛同しているIT企業４社（Facebook, Twitter, YouTube,Microsoft）の内容審査に関する調査を２０１６年からEU加盟国を対象に３回行ってきましたが、この３回の調査のわずか２年足らずの短期間の間に、ドイツで大きな変化がみられました。

一般の利用者や第三機関の専門家から報告された違法なヘイトスピーチに関する内容で削除されたものの割合をみてみると、１回目では52.0%で、２回目では80.1%に上昇し、さらに３回目は100%に達しました（Jourová, Results, 2018, p.3）。

EU諸国で削除された内容の平均割合をみても、１回目が28%、２回目は59%、３回目が70%と徐々に高くなる傾向がみられますが、ドイツの削除率の100%という数値は突出しており、ドイツのネットワーク規制法の影響が強いのではと、疑いがもたれます。

この調査をまとめた欧州委員ヨウロヴァJourováは、「ドイツでは厳しい罰則の危険があるためできるだけすぐに除去する。ドイツの法律の抑止効果は機能しているが、もしかしたらよく機能しすぎるかもしれない。私自身としては、これを全ヨーロッパに望みたいかは、わからない」と述べています。

また、オーバーブロッキングのように、公正に処理が行われず、事業者が、言論の自由や情報にアクセスする権利を侵害していたとしても、それを審査したり異議を唱える制度が整っていないことも批判点のひとつです。

かくして、この法律は、望ましいフェクニュースやヘイトスピートの抑制につながらないだけでなく、結果的に、SNS上の言論の自由がなし崩し的に、脅かされる危険にあると批判者たちは反対します。

EU諸国の報告の除去率
出典: Jourvá, 2018, p.3.

ドイツから広がる世界的な影響

このような国内で起こりうる言論の自由の侵害などの問題だけでなく、国際的な人権擁護団体ヒューマン・ライト・ウォッチは、この法律が世界のほかの国に与える波紋についても言及し、警鐘をならします。

「ドイツの法律が、先例として大きな注目を浴び」たことで、世界中で「ソーシャルメディアに検閲官として働くよう強いて、ネット上の言論の自由を制限する」動きが、ドイツから世界にドミノのように広がる可能性があるとし、実際にシンガポール、フィリピン、ロシア、ヴェネズエラ、ケニア、フランスやイギリスで、すでに規制に向けた動きがでてきていると指摘しています(Human Rights Watsch, Deutschland, 2018)。

擁護派による批判に対する反論

一方、この法律を評価、擁護する人々もいます。その代表として、１月末に発表された『ポリシー・ペーパー』 (Roßnagel, 2018)の論点をご紹介してみます（この報告書は、ドイツで名高い研究所の学際的なプロジェクト・チーム「フォーラム・プリバートハイト」によって作成されました）。

まず、高い過料を恐れて事業者がオーバーブロッキングするのを助長することになるという批判についてですが、法律で定めている過料が、事業体が全体に義務を行っていると思われる時に発生するものであり、個々のコメントや記事についてではないことを事業体がよく理解すれば（するはずであるし）、疑心暗鬼な不安にかられて過剰に反応するようなことは考えられないとします。

むしろ、事業者にとって、掲載した内容がよってたかって除去されるという印象を与えることは、顧客を失いかねない致命的なダメージとなるため、それを避けようとするはずだといいます。

内容を除去したりブロックすることが言論の自由を侵害しているという批判については、これについては、掲載された内容によって傷つけられる個人やグループの権利と合わせて考量する必要があるといいます。

内容の違法性を審査するという行為は本来国が行うべきことであって、それを民間事業者に委任することへの批判や、それが検閲のようになるのではないかという批判については、違法な中傷や侮辱が含まれる内容であれば言論の自由という権利は認められないというのは、この法律に関係なくドイツの法体系で定められていることであること。また、この法律が施行する２０年前の１９９７年から、ソーシャルネット事業者は、法的に不法な内容を除去することは義務付けられていたこと。そして、「なにを消去しなければいけないかの基準を定めるのは、ソーシャルネットワーク事業者ではない。唯一ドイツの刑法だけがそれができる」(Roßnagel, 2018, S.8）と強調して、この法律は、そのような違法な内容をより簡単に処理できるようにするためのものにすぎないと反論します。

２４時間以内に除去あるいはブロックしなくてはいけないという規定を厳しすぎるとする批判に対しては、２４時間以内の規定に該当するのは、「深刻な人権侵害か明確な民衆扇動に当たるものであり、深い調査なしにも認知できるもの」(Roßnagel, 2018, S.8）であり、過大すぎる要求とは言えないとします。それと同時に、そのような批判が、被害を受けた方の保護の必要の重要性を訴えます。違法な内容が掲載されたり拡散することによって受ける被害者の打撃や苦痛が非常に大きいはずだからです。

ただし、手放しで法律を評価するのではなく、調査結果に基づき、法律の不備も指摘します。例えば、内容が不当にブロックされた際の記載者の保護や、被害にあった人の民法上の権利保護や攻撃者に対抗するための暫定的な権利保護などが、法律の改正も必要であるとします。

また、違法の内容に対抗するのに「この法律が十分だと国がもしも思うのなら、それは、この法律の最大のまちがいとなるだろう」(Roßnagel, 2018, S.12）とし、犯罪を犯したものに対し迅速かつ効果的に刑事訴訟に持ち込むことなどを重要な課題としてあげています。

同様に、「オーバーブロッキング」も「アンダーブロッキング」ものぞんでいないはずのSNS事業者が効果的に正確に審査を進めていくための支援の大切さについても言及しています。そして、少なくとも半年ごとに研修を行ったり支援体制をつくるなどを提案します。

総じて、「ネットワーク執行法は、硫黄の内容や処罰すべき偽のニュース、また公共の民主主義的な議論を危機にさらすものに効果的に戦うための重要な一歩」(Roßnagel, 2018, S.11）と位置付けています。

この反論では、現実的な事業者の利害とあわせて、社会全体の利益を最大化することに重きが置かれており、このような立場からみると、法的措置を批判する人々の指摘が、言論の自由など、シンボリックで表層的な問題にこだわるだけで、社会（特に弱者や犠牲者について）の配慮や責任感が乏しいようにみえてきます。立場の違いにより、見えることや問題視されることに、ブレが大きいということもあるのかもしれません。いずれにせよ、批判側同様、擁護派の議論のなかにも、フェイクニュースを法でなんらかの規制をしようとする際の問題について、示唆に富む論点が多く含まれているといえます。

EU内で報告されたヘイトスピーチの内訳
出典: Jourvá, 2018, p.4.

具体的な削除例と今後の見通し

最後に、削除の対象となった具体的な事例をいくつかみながら、今度のこの法律の展望について考えてみます。

『ティタニックTitanic』という風刺雑誌がTwitterに掲載した５つのコンテンツが削除され、アカウントへのアクセスがブロックされました。アカウントへのアクセスのブロックは、数日後に解除されましたが、削除された内容は削除されたままだといいます（Twitter entsperrt, 2018）。削除されたコンテンツには、「ベビー・ヒトラーが免許証をとる！」という上書きがつけられたオーストリアのセバスティアン・クルツ　Sebastian Kurz首相の写真を掲載した昨年１１月に雑誌の表紙もあったといいます。
極右政党「ドイツのための選択肢 AfD」の政治家フォン・シュトルヒBeatrix von Storch のTwitterに載せた反イスラム的なコンテンツも１月早々に削除されました。「ドイツのための選択肢 AfD」はもともとこの法律に反対していましたが、以後、自分たちを「検閲の犠牲者」だと主張しています（Twitter-Sperre, 2018）。
公共空間にメッセージ性のある看板やシールを貼る独自の芸術表現で知られる匿名アーティスト、バーバラBarbaraのフェイスブックとインスタグラムに載せた多数の作品の写真も、１月に削除されました。しかし、このことについてドイツを代表する高級紙『フランクフルター・アールゲメイネ・ツァイトゥング』で報道される(Facebook, 2018)など社会的な注目が高まってまもなくして、削除されていた内容が再び掲載されました。フェイスブックからバーバラに謝罪の通知もあったといいます。

これらは、法律の本格的な運用がはじまってまもない１月初めのわずかな事例であり、審査の正当性についてこれだけで、論じることは毛頭できませんが、この事例からだけでもわかることがいくつかあるように思われます。

まず、審査の基準が事業者のなかでも一貫したものに定まっておらず、特に、風刺の内容や芸術表現については、審査の判断が難しい場合があること。一方、事業者は一度審査し、削除した後も、その判断を、謝罪を伴い修正するなど、変更される可能性があること。また、審査自体に直接的な影響は与えられないものの、主要なメディアでの報道や世論が、事業者に審査内容の見直しや修正を迫る一定の圧力として働く、つまり一定の役割を担う可能性も示唆されていると思います。

一方、今年３月には、フェイスブックによる合法な内容の消去やブロックをドイツの法廷がはじめて禁じる決定が下されました（Zweifelhafte, 2018）。このような決定が今後も増えていけば、結果として、自由に投稿する権利が不当に侵害されるのを抑制していくことになるでしょう。このような、合法な内容を削除された人々の保護や審査結果の正当性への法的な監視機能は、法律批判者と擁護側両者が一致して評価できるものではないかと思われます。

いずれにせよ、この法律を制定したキリスト教民主同盟と社会民主党の連立政権との継続が今年２月に決まったばかりであることもあり、少なくとも当面は、この法律の内容が覆されるようなことにはならないと考えられます。

おわりに

フェイクニュースがあったら削除やブロックしてそれがさらに広がらないように迅速に対処するよう、法律を介して促す。こう聞くと、一見、大変効果的に聞こえますが、実際にそれが法律として施行されてドイツをみてみると、半年あまりが経ちましたが、ほかの弊害（オーバーブロッキングや言論の自由が侵害されるなど）が心配されており、法的措置の是非についての意見は、大きく分かれています。施行からまだ半年あまりしかたっておらず、実際にどの程度有効に働くのかも、まだはっきりわかっていないため、判断がつきにくいというのもあるのかと思います。

一方、このように法的措置をめぐり議論が活発になったこと自体はよいことといえるかもしれません。社会の関心が高まり、SNS事業者をはじめとするフェイクニュースに関連する組織や個人に、フェイクニュースやほかの偽情報対策への意識を高めさせることになれば、結果的に、フェイクニュースが広がりにくい環境になりやすくなると思われるためです。

次回以降は、今回扱った法的措置とは全く別の形で、フェイクニュースにどのような対策が可能かを、引き続きみていきたいと思います。