เห็นแล้วสงสัย: คืนความไว้วางใจในยุค AI

มนต์เก่าบอกว่าฉันจะเชื่อเมื่อเห็น และ เทคโนโลยีในปัจจุบันทำให้ทุกคนถามคำถามที่แตกต่างกันมาก ฉันสามารถเชื่อสิ่งที่ฉันเห็นได้หรือไม่?

ภาพที่เปลี่ยนแปลงและดีพเฟคนั้นง่ายต่อการดึงออกมามากกว่าที่เคยเป็นมา ในบางกรณีเดิมพันต่ำ สมเด็จพระสันตะปาปาฟรานซิสในเสื้อคลุมพอง? นั่นเป็นเพียงกลอุบาย AI ที่ไม่เป็นอันตราย

ภาพถ่ายที่บิดเบือนอย่างเห็นได้ชัดของเคท มิดเดิลตันทำให้เกิดกระแสข่าวลือและข้อมูลที่ผิดๆ อย่างต่อเนื่อง แต่ความเสียหายนั้นค่อนข้างน้อย โดยส่งผลกระทบเพียงไม่กี่รายนอกเหนือจากราชวงศ์อังกฤษ

เงินเดิมพันนั้นสูงขึ้นอย่างมากในอินเดีย ซึ่งผู้มีสิทธิเลือกตั้งถูกบังคับป้อนโดย Deepfakes ที่ถูกคว่ำบาตรจากผู้สมัครทางการเมือง ซึ่งมากกว่า 50 ล้านคนในจำนวนนี้นำไปสู่การเลือกตั้งครั้งล่าสุด ตามรายงานของ WIRED

ในปีนี้ เกือบครึ่งหนึ่งของประชากรโลกจะไปลงคะแนนเสียงในการเลือกตั้ง และสื่อภาพจะมีบทบาทสำคัญในการตัดสินใจของพวกเขา

ความท้าทายในการแยกแยะภาพจริงจากภาพปลอมถือเป็นสิ่งสำคัญอย่างยิ่ง

ภาพถ่าย คำปราศรัย บทสัมภาษณ์ และโฆษณาทางการเมืองที่ปลอมแปลงหรือปลอมแปลง ขู่ว่าจะบ่อนทำลายกระบวนการประชาธิปไตยด้วยการทำลายการรับรู้ความจริงของสาธารณชน

ประชาชนต้องอาศัยการเข้าถึงข้อมูลที่เป็นข้อเท็จจริงเมื่อเลือกผู้นำทางการเมือง

อย่างไรก็ตาม พายุที่สมบูรณ์แบบกำลังก่อตัว — ความก้าวหน้าอย่างรวดเร็วของเทคโนโลยีรวมกับการแพร่กระจายของข้อมูลที่ผิดแบบไวรัล และความไม่ไว้วางใจที่เพิ่มขึ้นในสถาบันต่างๆ เป็นการผสมผสานที่อันตรายซึ่งเป็นอันตรายต่อการมีส่วนร่วมของพลเมืองที่ได้รับข้อมูล

ในขณะที่การรับรู้ของสาธารณชนทั่วไปเกี่ยวกับภาพที่ปรับแต่งโดย AI ยังคงเพิ่มขึ้น พวกเขาก็กังวลเช่นกันว่าการแยกแยะข้อเท็จจริงจากนิยายเป็นเรื่องยากมากขึ้นเรื่อยๆ การแยกทั้งสองออกจากกันต้องใช้ความสามารถทางเทคนิคซึ่งมีเพียงไม่กี่คนเท่านั้นที่ติดอาวุธได้

มุมมองที่ลึกระดับพิกเซล

ฉันทำงานเกี่ยวกับกล้องดิจิตอลเป็นเวลา 15 ปี ตั้งแต่การพัฒนาเฟิร์มแวร์ไปจนถึงการออกแบบซอฟต์แวร์ที่จะใช้ในการดูกล้อง ไม่มีสิ่งที่เรียกว่าภาพที่ "ไม่เปลี่ยนแปลง"

ไม่ว่าจะเป็นเซ็นเซอร์ในกล้อง ซอฟต์แวร์หลังการประมวลผล หรือกลไก AI มีบางอย่างกำลังเปลี่ยนแปลงภาพไปที่ไหนสักแห่ง

มนุษย์ปกปิดรอยทางได้ไม่ดี พวกเขามักจะทิ้งหลักฐานไว้เสมอเมื่อทำการประมวลผลภาพด้วยตนเอง

ซูมเข้าไปใกล้พอบนปกนิตยสาร และง่ายต่อการบอกว่ารูปภาพได้รับการ "ปรับปรุง" ที่ไหนและอย่างไร เอ็นจิ้น AI ยังใหม่พอที่จะตรวจจับการแก้ไขได้ แต่นั่นจะไม่เป็นเช่นนั้นเป็นเวลานาน

เราใกล้จะถึงจุดที่ภาพ "จริง" และ "ปลอม" ไม่อาจแยกความแตกต่างได้ เนื่องจากการเปลี่ยนแปลงหลังการประมวลผลและการประมวลผลภาพในกล้องจะดูคล้ายกันเกินไป

ไม่ว่าผู้เชี่ยวชาญจะซูมเข้าไปไกลแค่ไหน พวกเขาก็จะไม่พบสัญญาณใดๆ ที่แสดงว่าภาพมีการเปลี่ยนแปลงหลังจากที่ออกจากกล้อง

ณ จุดนั้น วิธีเดียวที่จะบอกความแตกต่างระหว่างภาพจริงและภาพปลอมได้คือการติดตามภาพผ่านห่วงโซ่การควบคุมเต็มรูปแบบ กลับไปยังกล้องที่จับภาพไว้ การวิเคราะห์ภาพเองจะไม่ช่วยอีกต่อไป

การตรวจสอบความถูกต้อง

โซลูชันทางเทคนิคสามารถช่วยจัดการการแพร่กระจายของดีพเฟคและสื่อสังเคราะห์ด้วย AI และบริษัทเทคโนโลยีขนาดใหญ่บางแห่งได้ดำเนินการเพื่อนำไปปฏิบัติแล้ว

OpenAI ได้ให้คำมั่นที่จะรวมข้อมูลเมตา Coalition for Content Provenance and Authenticity (C2PA) ซึ่งเป็นมาตรฐานทางเทคนิคแบบเปิดที่ผู้ผลิตกล้องใช้เช่นกัน ในภาพที่ผลิตโดย DALL·E 3

Meta ยังทำงานเพื่อติดป้ายกำกับรูปภาพที่สร้างโดย AI โดยใช้มาตรฐานของ C2PA

กล้องดิจิตอลยังสามารถตั้งโปรแกรมให้รวมโค้ดนี้ไว้ในข้อมูลเมตาของทุกภาพได้ ทำให้สามารถตรวจสอบได้

ตัวอย่างเช่น การตรวจสอบรวมของรูปภาพสามารถเข้ารหัสได้โดยใช้คีย์ส่วนตัวที่มีเพียงผู้ผลิตกล้องเท่านั้น ซึ่งสามารถตรวจสอบได้โดยใครก็ตามในที่สาธารณะ (หรือผ่านไซต์บุคคลที่สาม เช่น Content Credentials Verify ซึ่ง TikTok รายงานว่าตั้งใจจะใช้) .

ผู้ผลิตกล้องดิจิตอลทุกรายจะต้องส่งรหัสของตนไปยังการตรวจสอบเพื่อตรวจสอบว่าไม่ได้ทำการเปลี่ยนแปลงใดๆ ที่อาจถือว่าไม่สามารถยอมรับได้

ทุกคนที่ทำการแก้ไขหลังการประมวลผลจะต้องเพิ่มข้อมูลเมตาเพิ่มเติมให้กับรูปภาพที่แสดงการเปลี่ยนแปลงที่แน่นอน รูปภาพต้นฉบับจะต้องรวมอยู่ในไฟล์

ภาพใดๆ ที่ไม่เป็นไปตามมาตรฐานเหล่านี้สามารถสันนิษฐานได้ว่าเป็นภาพปลอม ซึ่งรวมถึงรูปภาพที่พิมพ์บนกระดาษและภาพหน้าจอ

เมื่อเวลาผ่านไป สังคมจะเรียนรู้ว่าภาพส่วนใหญ่ก็เหมือนกับภาพวาด บางครั้งอาจพรรณนาถึงเหตุการณ์จริง แต่โดยส่วนใหญ่จะไม่เป็นเช่นนั้น เว้นแต่จะมีหลักฐานเพิ่มเติมเพื่อยืนยันความถูกต้องของภาพ

การตั้งคำถามว่าเราเชื่ออะไร

ไม่ใช่เรื่องง่าย แต่เทคโนโลยีกำลังดำเนินไปอย่างรวดเร็วจนต้องมีขั้นตอนเพิ่มเติมเพื่อพิสูจน์ความถูกต้อง ผู้ที่สนใจค้นหาความจริง เช่น นักข่าวและผู้พิพากษา จะต้องแสดงความระมัดระวังเป็นพิเศษเมื่อตรวจสอบหลักฐาน

หนึ่งศตวรรษที่ผ่านมา คำให้การของพยานมีอำนาจสูงสุดในศาล จากนั้น นวัตกรรมต่างๆ เช่น การบันทึกเสียง ลายนิ้วมือ และหลักฐานภาพถ่ายก็รับประกันความน่าเชื่อถือ แม้ว่าการวิเคราะห์ลายนิ้วมือยังจำเป็นต้องมีการตรวจสอบห่วงโซ่การควบคุมก็ตาม

ขณะนี้สถาบันวิทยาศาสตร์แห่งชาติได้ท้าทายมาตรฐานเหล่านั้นแล้ว ลายนิ้วมือและขีปนาวุธต้องเผชิญกับข้อกังขาเกี่ยวกับความแม่นยำอีกครั้ง

เมื่อ AI ก้าวหน้า ภาพถ่ายและวิดีโอก็สูญเสียความน่าเชื่อถือเช่นกัน เส้นทางข้างหน้าต้องอาศัยความร่วมมือระหว่างนักสร้างสรรค์เทคโนโลยี ผู้แสวงหาความจริง และสาธารณชน

การใช้กรอบการตรวจสอบความถูกต้องที่เป็นมาตรฐาน การเน้นความโปร่งใส และการพิจารณาสมมติฐานความถูกต้องของภาพใหม่ ล้วนเป็นสิ่งจำเป็น

ด้วยความรอบคอบและความรับผิดชอบร่วมกัน เราสามารถทำงานเพื่อรักษาความมั่นใจว่าการมองเห็นคือความเชื่อ

หมายเหตุบรรณาธิการ: บทความนี้เขียนโดย Alex Fink ซีอีโอและผู้ก่อตั้ง Otherweb Alex เป็นผู้บริหารด้านเทคนิคและเป็นผู้ก่อตั้งและซีอีโอของ Otherweb ซึ่งเป็นบริษัทเพื่อสาธารณประโยชน์ที่ใช้ AI เพื่อช่วยให้ผู้คนอ่านข่าวและบทวิจารณ์ ฟังพอดแคสต์ และค้นหาเว็บโดยไม่ต้องใช้เพย์วอลล์ คลิกเบต โฆษณา หรือ 'ขยะ' อื่นๆ เนื้อหา. Otherweb มีให้บริการในรูปแบบแอป iOS หรือ Android เว็บไซต์ จดหมายข่าว หรือส่วนขยายเบราว์เซอร์แบบสแตนด์อโลน ก่อนที่จะมาร่วมงานกับ Otherweb นั้น Alex เคยเป็นผู้ก่อตั้งและซีอีโอของ Panopteo และเป็นผู้ร่วมก่อตั้งและประธานของ Swarmer

คุณคิดอย่างไรเกี่ยวกับเทคโนโลยีนี้ ส่งข้อความถึงเราด้านล่างในความคิดเห็นหรือดำเนินการสนทนาบน Twitter หรือ Facebook ของเรา

คำแนะนำของบรรณาธิการ:

• AI deepfakes เปิดตัวทางการเมืองด้วย Biden robocall
• อัลกอริธึมการค้นหาของ Google มองว่าสื่อลามกปลอมเป็นเนื้อหาที่มีประโยชน์
• สื่อลามก Deepfake คืออะไร?
• Bruce Willis ขายลิขสิทธิ์ภาพของเขาให้กับบริษัท Deepfake หรือไม่?