这是AI翻译的帖子。
选择语言
durumis AI 总结的文章
- 中國實施了限制深度偽造製作的全面規範，採取了與歐盟和美國不同的強硬措施，這被認為是為了壓制最近與白紙運動有關的 反對意見。
- 深度偽造技術引發了倫理爭議，尤其是在針對具有重大社會影響力的人物製作內容時，其被濫用的可能性很高， 引發了人們的擔憂。
- 與規範深度偽造技術相比，分析內容製作背景和傳播過程更為重要， 從系統的角度看待人類的認知轉變，以及透過社區層級的教育計劃，可以解決問題。
中國從 10 日起實施了全面限制“深度偽造”製作的規範。
這項措施是為了阻止最近與白紙運動有關的反對言論，與僅停留在建議層面的歐盟或美國形成對比， 因為後者以侵犯言論自由等為由，未採取實質性禁令，因此值得注意。當然，中國的這種做法 得益於其運營超過 20 年的“防火長城”網絡審查系統，但在透明度和信息公開方面，中國仍然面臨著巨大的壓力， 因此其內外效力一直存在爭議。
深度偽造相關技術從一開始就提倡對合成內容進行標記，但實際上如何保障這一點一直存在著明顯的局限性。 此外，正如“網絡永恆”所言，一旦製作好的內容被傳播出去，就幾乎不可能完全刪除。更重要的是，即使內容被刪除， 觀眾的集體意識也不會消失，這一點從“四月的聲音”事件中得到了印證，該事件批評了上海封城政策，並對白紙運動產生了影響。
從歷史角度來看，技術滲透到社會是不可避免的。全球 95% 的深度偽造視頻都是色情內容，俄羅斯入侵烏克蘭初期出現了烏克蘭總統 假扮投降的視頻，以及患有失語症的布魯斯·威利斯出演廣告等事件，這些都明確證明了深度偽造技術對整個社會構成危險的現實威脅。 然而，我們真正應該警惕的可能是對該技術的監管方式。事實上，操縱真相的新方法一直存在，而總是將目光放在最新的技術上， 最終只會成為一場輸贏遊戲。相反，我們應該關注的是，相關作品為什麼會被製作，以及如何被傳播，也就是說，要關注支撐虛假敘事傳播的社會因素。
“深度偽造技術在道德上值得懷疑，但本質上並無錯誤。”
倫理學家兼政治哲學家阿德里安·德·魯伊特（Adrienne de Ruiter）在其研究中指出， “未經同意者的表達”、 “故意欺騙觀眾的行為”以及“惡意”使該技術的產出不道德。她指出，與該技術分離的製作者和觀眾，也就是說，人的意圖才是我們應該警惕的主體。 特別是針對名人或政治家等社會影響力較大的對象的微目標深度偽造內容，在規範製作者的意圖方面存在很大困難。
那麼，未來應如何制定相關解決方案？可以提出兩個主要方向。
首先，我們必須意識到，我們存在於一個由攝像頭和識別系統構成的世界中。撰寫本文的作者，以及閱讀本文的您， 都在大部分時間裡面對著裝有攝像頭的移動電話和筆記本電腦。 從系統的角度來看，人的行為就是為算法提供物質。
旨在確認孩子是否得到良好照顧的攝像頭，雖然旨在建立父母和保姆之間的理想關係，但也可能成為學習和執行 人類限制人類的非人道行為的主體。意識到我們與這些新主體共同生活，有助於管理和應對與深度偽造相關的不道德意圖。
其次，需要在社區層面建立和推廣相關教育。我們傾向於在數字系統中脆弱的聯繫中尋找歸屬感。 這與疫情加劇了人們對社會團結的缺失，並希望與那些在興趣愛好或關注點方面與自己相似，但卻從未見過面的人建立聯繫有關。 凌晨 2 點不斷刷 TikTok，對維基百科的準確性並無期待，頻繁瀏覽 Instagram 故事，以及對不感興趣的群組聊天室的放任， 都是這種現象的例子。
深度偽造往往會刺激人們對這種脆弱聯繫的歸屬感，但由於缺乏對這些主體的深厚興趣，因此相應內容的影響力也相對容易瓦解。 雖然個人可能難以判斷針對政治人物的深度偽造內容的真偽，但一個政黨項目成功地區分了真假，證明了基於社區觀點、價值觀和慣例的教育方案 可以成為有效的解決方案。這也意味著深度偽造內容的平台服務企業可以通過為用戶制定獨特的社區應對措施，創造戰略性機遇。
電影《速度與激情》通過將演員保羅·沃克的臉部合成到其弟弟的替身演員身上，將其“復活”，這是深度偽造技術積極應用的案例。 然而，現實中也出現了針對一名女性記者的假性愛愛視頻，導致其人生毀滅的事件。
需要記住，電影行業內的演員目前是受到深度偽造技術保護最多的人。當目標轉向普通人時，當今社會似乎還沒有答案。 在期待法律規範之前，我們或許需要首先對自己在 TikTok 等社交平台上以娛樂心態觀看深度偽造相關內容的行為進行反思。
* 本文是 2023 年 2 月 14 日電子新聞署名專欄 刊登的原稿。
References
