中国は10日から、ディープフェイクの制作を制限する包括的な規制を実施しました。
これは、最近の白紙運動に関連する反体制世論を抑えるための措置の一環であり、言論の自由侵害などを理由に勧告レベルにとどまっている欧州連合や米国とは対照的に、実質的な禁止措置であるという点で興味深いものです。もちろん、中国のこのような措置は、20年以上運用されてきた万里の長城と呼ばれるインターネット検閲システムがあるからこそ可能に見える部分もありますが、透明性および情報公開の遵守に対する負担は非常に大きいため、国内および国外における実効性については、今後も疑問が提起される可能性が高いと思われます。
ディープフェイク関連技術は、初期から合成コンテンツへのラベル付けの必要性を訴えてきましたが、実際にそれを保証する方法が不明確であるという限界は明らかでした。また、インターネットは永遠であるという表現にあるように、作成されたコンテンツが拡散した場合、それを完全に削除することは非常に困難です。さらに、コンテンツが削除された後も、視聴者の集団意識は消えないという点は、白紙運動に影響を与えた上海の封鎖政策を批判した「4月の声」コンテンツの事例からも確認されています。
歴史的に、技術が社会に浸透するのを防ぐことはできません。世界中のディープフェイク動画の95％がわいせつ物であるという統計、ロシアの侵攻初期のウクライナ大統領の偽の降伏宣言動画、失語症を患うブルース・ウィリスの広告出演など、社会全体に影響を与えるディープフェイク技術の危険な現実的な事例は明らかです。しかし、私たちが本当に警戒すべきは、当該技術の規制方法ではないかもしれません。事実を操作する新しい方法は常に存在しており、常に最新の技術に注目するのは、結果的に常に負けるゲームになります。むしろ、私たちが関心を払うべきなのは、関連する制作物がなぜ制作され、どのように拡散するか、つまり、虚偽のナラティブの拡散を裏付ける社会的要因に焦点を当てることです。
「ディープフェイク技術は倫理的に疑わしいが、本質的に間違っているわけではない。」
倫理学者であり政治哲学者でもあるアドリアン・デ・ライター（Adrienne de Ruiter）は、彼女の研究を通じて、「同意を得ていない人への表現」、「視聴者を意図的に欺く行為」、そして「有害な意図」が、当該技術の結果物を非倫理的なものにするという意見を表明しています。この技術から切り離された制作者と視聴者、つまり人間の意図こそが、警戒すべき主体であることを明らかにしたのです。特に、芸能人や政治家など、社会的な影響力が比較的大きい対象を対象としたマイクロターゲティングされたディープフェイクコンテンツは、制作者の意図の発現を規制することが非常に困難になりがちです。
では、今後、関連する代替策をどのように構築していくべきでしょうか？大きく2つの方向で提示できます。
第一に、私たちはカメラと認識システムの世界における存在であることを認識し、受け入れる必要があります。この記事を書いている筆者も、この記事を読んでいるあなたも、カメラを搭載したモバイルフォンやノートパソコンの前にいて、ほとんどの日常を送っています。システムの視点から、人間の行動はアルゴリズムのための物質です。
子供をきちんと世話しているかを確認するカメラは、親とベビーシッターの理想的な関係のために存在しますが、人間が人間を制限しようとする意図を学習し、実行する非人間的な主体でもあります。私たちがこれらの新しい主体と共に生活しているという意識は、ディープフェイクに関連する非倫理的な意図を管理および対応する上で役立つ可能性があります。
第二に、コミュニティ単位の関連教育が生成され、普及する必要があります。私たちは、デジタル体系内の弱いつながりの中で帰属意識を見つけようとする傾向があります。これは、パンデミックによって強化された社会団体からの帰属意識の欠如に関連して、趣味や関心事などによって、目に見えない誰かとつながっていると感じたいという現象です。夜中の2時まで繰り返されるTikTokの確認、正確であることを期待しないウィキペディアへの頻繁なアクセス、Instagramの継続的なストーリーの確認、関心の薄いグループチャットの放置などがその例です。
ディープフェイクは、このような弱いつながりからの帰属意識を刺激する傾向がありますが、当該主体への深い関心が欠如しているという点で、関連コンテンツの影響力の解体も比較的容易です。政治家の信用を落とすためのディープフェイクコンテンツの真偽性を確認することは、個人としては困難でしたが、政党単位では偽を識別したあるプロジェクトの結果は、コミュニティの視点、価値観、慣行に基づいた教育プログラムが効果的な代替策となりうることを証明しました。これは、ディープフェイクコンテンツが共有されるプラットフォームサービス企業が、ユーザー対象の独自のコミュニティ対応策を策定し、提案することで、戦略的な機会を生み出すこともできることを意味します。
事故で亡くなったポール・ウォーカーを、実の弟の代役演技の上に顔だけ合成して蘇らせた映画『ワイルド・スピード』のようなディープフェイク技術の肯定的な活用事例がある一方で、ある女性ジャーナリストをターゲットにした偽の性行為動画によって、ある人の人生が台無しになる事例も現実で起きています。
映画業界の俳優たちは、現在、ディープフェイク技術から最も保護されている人たちであることを覚えておく必要があります。その対象が一般人になった場合、どのような対応が可能なのか、今の社会はまだ答えられないようです。法的規制への期待の前に、TikTokなどのソーシャルチャンネルでディープフェイク関連コンテンツを面白半分に確認している私たち自身に向けた自覚が、最も必要な最初のステップではないでしょうか。
*この記事は、23年2月14日付け電子新聞の署名コラムに掲載された内容の原本です。
参考文献
コメント0