眼見為憑：人工智慧時代重建信任

古老的口頭禪是「親眼所見，我會相信」 ，而今天的技術讓每個人都在問一個非常不同的問題。 我能相信我所看到的嗎？

改變影像和深度偽造比以往任何時候都更容易實現。 在某些情況下，風險很低。 教宗方濟各穿著蓬鬆的外套？ 這只是一些無害的人工智慧詭計。

凱特米德爾頓這張明顯被篡改的照片引發了一波謠言和長期的錯誤訊息，但造成的危害相對較小，除了英國王室之外，幾乎沒有影響到其他人。

根據《連線》雜誌報道，印度的風險要高得多，印度選民被強制灌輸來自政治候選人的經批准的深度造假——在最近的選舉之前，有超過5000 萬候選人被強迫灌輸這些信息。

今年，全球近一半的人口將前往投票站投票，視覺媒體將在他們的決策中發揮巨大作用。

區分真假影像的挑戰非常重要。

篡改或偽造的競選照片、演講、採訪和政治廣告有可能削弱公眾對真相的辨別力，從而破壞民主進程本身。

公眾在選擇政治領導時依賴事實資訊的取得。

然而，一場完美的風暴正在醞釀中——科技的快速進步，加上錯誤訊息的病毒式傳播和對機構的不信任感不斷上升。 這是一種危險的組合，會危及知情的公民參與。

隨著大眾對人工智慧處理影像的認識不斷增強，他們對辨別事實與虛構越來越困難的擔憂也隨之增強。 將兩者分開需要具備很少人具備的技術能力。

像素深度視圖

15 年來，我一直在研究數位相機——從開發韌體到設計用於查看它們的軟體。 不存在「未改變」的圖像。

無論是相機中的感光元件、後處理軟體或人工智慧引擎，某些東西都在改變影像的某個地方。

人類不擅長掩蓋自己的蹤跡——他們在手動後製影像時總是留下證據。

將雜誌封面放大得足夠近，就可以輕鬆看出圖像在何處以及如何「增強」。 人工智慧引擎仍然處於初級階段，它們的編輯是可以檢測到的，但這種情況不會持續太久。

我們已經非常接近「真實」和「假」影像將無法區分的地步，因為後製變更和相機影像處理看起來太相似了。

無論專家放大多遠，他們都無法發現影像離開相機後已被更改的任何跡象。

到那時，區分真假影像的唯一方法就是透過整個監管鏈追蹤影像，追溯到捕捉它的相機。 分析影像本身將不再有幫助。

驗證真偽

技術解決方案可以幫助管理深度偽造和人工智慧合成媒體的擴散，一些大型科技公司已經採取措施實施這些解決方案。

OpenAI 承諾將內容來源和真實性聯盟 (C2PA) 元資料納入 DALL·E 3 產生的影像中，這是相機製造商也使用的開放技術標準。

Meta 也致力於使用 C2PA 的標準來標記人工智慧生成的圖像。

數位相機還可以編程為在每個影像的元資料中包含此代碼，使其可驗證。

例如，影像的校驗和可以使用只有相機製造商擁有的私鑰進行加密，公眾中的任何人都可以驗證該私鑰（或透過 Content Credentials verify 等第三方網站，據報道 TikTok 打算使用該網站） 。

每個數位相機製造商都需要將其程式碼提交給審核，以驗證其沒有執行任何被認為不可接受的變更。

每個執行後處理編輯的人都需要向圖像添加額外的元數據，以顯示確切的更改。 原始圖像需要包含在文件中。

任何不符合這些標準的圖像都可以被認為是假的。 這包括印在紙上的圖像和螢幕截圖。

隨著時間的推移，社會將了解到大多數圖像就像繪畫一樣——有時，它們描繪真實事件，但大多數時候，除非有額外的證據來證實其真實性，否則它們不會。

質疑我們的信仰

這並不容易，但技術發展如此之快，以至於需要額外的步驟來證明真實性。 有興趣尋找真相的人，例如記者和法官，在檢查證據時需要格外小心。

一個世紀前，目擊者的證詞在法庭上具有至高無上的地位。 然後，錄音、指紋和照片證據等創新保證了可信度，儘管指紋分析仍然需要驗證監管鏈。

美國國家科學院現在對這些標準提出了挑戰——指紋和彈道學的準確性再次受到質疑。

隨著人工智慧的進步，照片和影片也失去了可靠性。 前進的道路需要技術創新者、真理探索者和公眾之間的合作。

實施標準化身份驗證框架、強調透明度以及重新考慮圖像真實性假設都是至關重要的。

憑藉著警覺和集體責任，我們可以努力保持眼見為憑的信心。

編者註：本文由 Otherweb 執行長兼創辦人 Alex Fink 撰寫。 Alex 是一名技術主管，也是Otherweb 的創始人兼首席執行官，Otherweb 是一家公益公司，利用人工智慧幫助人們閱讀新聞和評論、收聽播客以及搜尋網絡，而無需付費牆、點擊誘餌、廣告或任何其他「垃圾」內容。 Otherweb 可作為 iOS 或 Android 應用程式、網站、新聞通訊或獨立的瀏覽器擴充功能。 在加入 Otherweb 之前，Alex 是 Panopteo 的創始人兼執行長以及 Swarmer 的聯合創始人兼董事長。

您對這項技術有何看法？ 請在下面的評論中給我們留言，或將討論轉移到我們的 Twitter 或 Facebook。

編輯推薦：

• AI Deepfakes 透過拜登機器人電話首次亮相政治
• 谷歌的搜尋演算法將深度偽造色情內容視為有用的內容
• 什麼是深度偽造色情片？
• 布魯斯威利斯是否把他的肖像權賣給了一家深度造假公司？