การหลอกลวงการโคลนเสียงด้วย AI: ผู้ใหญ่ 1 ใน 4 ตกเป็นเป้าหมายแล้ว

คุณคิดว่าคุณสามารถแยกแยะความแตกต่างระหว่างข้อความเสียงจากคนที่คุณรักกับข้อความเสียงที่สร้างโดย AI ได้หรือไม่ พวกสแกมเมอร์ที่ใช้เทคโนโลยีการโคลนเสียงด้วย AI เพื่อฉ้อโกงเหยื่อที่ไม่สงสัยนั้นหวังว่าคุณจะทำไม่ได้ และตอนนี้พวกเขากำลังตื่นตัวมากขึ้นกว่าที่เคย

การสำรวจเมื่อเร็ว ๆ นี้จัดทำโดย McAfee พบว่าหนึ่งในสี่ของผู้ใหญ่ตกเป็นเป้าหมายของการหลอกลวงด้วยเสียงของ AI แล้ว โดยผลที่ตามมาคือคนส่วนใหญ่สูญเสียเงินที่หามาอย่างยากลำบาก นอกจากนี้ยังเผยให้เห็นว่าผู้ใหญ่ส่วนใหญ่แบ่งปันความคิดเห็นของพวกเขาบนแพลตฟอร์ม โซเชียลมีเดีย และพื้นที่ออนไลน์อื่น ๆ อย่างน้อยสัปดาห์ละครั้ง – ซึ่งทำให้ผู้คุกคามได้รับสิ่งที่พวกเขาต้องการเพื่อดำเนินการหลอกลวงประเภทนี้ซ้ำแล้วซ้ำอีก

ดังนั้น การหลอกลวงด้วยการโคลนเสียงด้วย AI ทำงานอย่างไร เกิดขึ้นบ่อยแค่ไหน และคุณจะมองเห็นการหลอกลวงด้วยการโคลนด้วยเสียงด้วย AI ได้อย่างไร เรามาดูกันดีกว่า

• AI Voice Cloning Scam คืออะไร?
• AI Voice Cloning ทำงานอย่างไร
• AI Voice Clone Scams เป็นอย่างไร?
• จะบอกได้อย่างไรว่าข้อความเป็นการหลอกลวง AI Voice Clone

AI Voice Cloning Scam คืออะไร?

การหลอกลวงด้วยการโคลนเสียงด้วย AI คือการหลอกลวงใดๆ ก็ตามที่ใช้ไฟล์เสียงที่สร้างขึ้นโดยปลอมเพื่อหลอกลวงเหยื่อให้คิดว่าคนที่พวกเขารักกำลังตกอยู่ในอันตราย หรือต้องการความช่วยเหลือทางการเงินอย่างเร่งด่วน และได้ติดต่อพวกเขาเพื่อขอความช่วยเหลือ

ในการหลอกลวงประเภทนี้ มิจฉาชีพจะเรียกใช้คลิปของหัวข้อที่กำลังพูด ซึ่งมักจะคัดลอกมาจากโซเชียลมีเดีย ผ่านเครื่องกำเนิดเสียง AI เมื่อใช้แมชชีนเลิร์นนิง เครื่องกำเนิดจะวิเคราะห์จังหวะ โทนเสียง และระดับเสียงของคลิปเริ่มต้น แล้วปล่อยให้มิจฉาชีพสร้างเสียงต้นฉบับที่ไม่เหมือนใครซึ่งเลียนแบบเสียงของอาสาสมัครได้เกือบสมบูรณ์แบบ

จากนั้น สแกมเมอร์จะส่งเสียงบันทึกเหล่านี้ไปให้เพื่อนและญาติของบุคคลดังกล่าวผ่านแอปอย่าง WhatsApp โดยหวังว่าพวกเขาจะไม่สามารถแยกความแตกต่างระหว่างเสียงของคนที่คุณรักกับเสียงในเวอร์ชันที่สร้างโดย AI

ตามปกติของ การหลอกลวงทางออนไลน์อื่นๆ นักต้มตุ๋นจะพยายามใส่ความรู้สึกเร่งด่วนและความทุกข์ใจลงในการติดต่อเพื่อกระตุ้นให้เป้าหมายดำเนินการอย่างหุนหันพลันแล่นหรือผิดพลาด

ในกรณีหนึ่งเมื่อเร็วๆ นี้ นักสแกมเมอร์ด้วยเสียง AI พยายามโน้มน้าวแม่คนหนึ่งในสหรัฐฯ ว่าลูกสาวของเธอถูกลักพาตัวโดยการโคลนเสียงของเด็ก

สำหรับสแกมเมอร์มือใหม่จะไม่พบว่าเป็นการยากในการเปิดไฟล์เสียงที่พวกเขาต้องการเพื่อกำหนดเป้าหมายเป็นเหยื่อ อันที่จริง พวกเขามีแนวโน้มที่จะมีทางเลือกมากมาย

การสำรวจในเดือนพฤษภาคม 2023 ที่เผยแพร่โดย McAfee ซึ่งมีผู้คนมากกว่า 7,000 คนจาก 7 ประเทศพบว่า 53% ของผู้ตอบแบบสำรวจกล่าวว่าพวกเขาแบ่งปันความคิดเห็นทางออนไลน์อย่างน้อยสัปดาห์ละครั้ง ในอินเดียตัวเลขนี้คือ 86%

การโคลนเสียงทำงานอย่างไร

การโคลนเสียง AI ทำได้ด้วยเครื่องมือ AI ที่เรียกว่าเครื่องกำเนิดเสียง AI เท่านั้น โดยสรุป เครื่องกำเนิดเสียง AI เปลี่ยนไฟล์ข้อความเป็นเสียงพูด (มักเรียกว่าเครื่องมือ "แปลงข้อความเป็นคำพูด" หรือ "TTS")

เครื่องกำเนิดเสียง AI ใช้แมชชีนเลิร์นนิงเพื่อสอนตัวเองให้พูดด้วยวิธีเฉพาะโดยการวิเคราะห์ข้อมูลจากไฟล์เสียงของคนที่พูด จากนั้นตัวสร้างจะใช้สิ่งที่ได้เรียนรู้เพื่ออ่านไฟล์ข้อความที่ผู้ใช้ให้มา และสร้างเนื้อหาเสียงต้นฉบับ

เครื่องมือสร้างเหล่านี้หลายตัวมีเสียงแบบกำหนดเองที่คุณสามารถเลือกอ่านข้อความของคุณได้ รวมถึงเสียงคนดังให้เลือก แต่ตัวอื่นๆ จะให้คุณบันทึกเสียงของคุณเองและสร้างเนื้อหาเสียงตามมาได้

เครื่องมือแปลงข้อความเป็นคำพูด Descript.com นำเสนอ "เครื่องกำเนิดเสียงล้ำสมัยที่สร้างเสียงของคุณเอง"

ขณะนี้เครื่องกำเนิดเสียง AI พร้อมใช้งานอย่างกว้างขวางสำหรับอุปกรณ์ทุกประเภท โปรแกรมเหล่านี้มอบคุณค่ามากมายให้กับผู้ที่มีปัญหาในการอ่าน หรือเพียงแค่เรียนรู้ได้ดีขึ้นเมื่อฟังเสียงมากกว่าการอ่านคำที่เขียน

พวกเขายังใช้โดย บริษัท โฆษณาที่ไม่มีงบประมาณในการจ้างนักพากย์เสียงราคาแพงสำหรับเนื้อหาทางการตลาดของพวกเขา

ความสำเร็จและการใช้งานอย่างแพร่หลายของ ChatGPT ได้ให้ความสำคัญกับเครื่องมือ AI ทุกรูปแบบและขนาด รวมถึงเครื่องมือที่สามารถใช้สำหรับการโคลนเสียง แม้จะมีการใช้งานที่สูงส่ง แต่ปัจจุบันมีระบบนิเวศเล็กๆ ของเครื่องมือ TTS AI ที่สามารถถูกนำไปใช้ในทางที่ผิดเพื่อเป้าหมายที่ชั่วร้าย รวมถึงการหลอกลวงผู้คน

AI Voice Clone Scams เป็นอย่างไร?

ในแบบสำรวจของ McAfee ที่เพิ่งเผยแพร่เมื่อเร็ว ๆ นี้ ยักษ์ใหญ่ด้านความมั่นคงปลอดภัยทางไซเบอร์พบว่า 1 ใน 4 ของผู้ใหญ่ที่ตอบแบบสำรวจเคยประสบกับการหลอกลวงด้วยเสียงของ AI

77% ของผู้ที่ตกเป็นเป้าหมายรายงานว่าพวกเขาสูญเสียเงินเนื่องจากการหลอกลวง McAfee รายงานว่าจาก 77% นั้น “มากกว่าหนึ่งในสามสูญเสียมากกว่า $1,000 ในขณะที่ 7% ถูกหลอกจาก $5,000 ถึง $15,000”

ผลสำรวจเผยเหยื่อในสหรัฐฯ สูญเสียมากที่สุด 11% ของเหยื่อในสหรัฐฯ ที่สูญเสียเงินจากการหลอกลวงการโคลนเสียงด้วย AI สูญเงินไประหว่าง 5,000–15,000 ดอลลาร์

จะบอกได้อย่างไรว่าข้อความเป็นกลโกง AI Voice Clone

การสำรวจของ McAfee ยังพบว่า 70% ของผู้คนกล่าวว่าพวกเขา “ไม่แน่ใจ” หากพวกเขาสามารถแยกความแตกต่างระหว่างเสียง AI และเสียงของมนุษย์ได้

เกือบหนึ่งในสาม (28%) ของผู้ตอบแบบสำรวจในสหรัฐฯ กล่าวว่าพวกเขาไม่สามารถบอกความแตกต่างระหว่างข้อความเสียงที่ส่งโดย "ผู้แอบอ้างปลอม" ตามที่ McAfee พูด กับคนที่คุณรัก

โปรดจำไว้ว่า สแกมเมอร์อาจจำลองเสียงของคนที่คุณรักได้ แต่การควบคุมหมายเลขของคนที่คุณรักหรือบัญชี WhatsApp นั้นยากกว่ามาก

อาจเป็นเรื่องยากที่จะทำตัวสงบเมื่อดูเหมือนว่าญาติหรือเพื่อนของคุณกำลังทุกข์ใจ แต่ด้วยกลโกงด้วยเสียงของ AI ที่พบเห็นได้ทั่วไปมากขึ้นเรื่อยๆ จึงเป็นเรื่องสำคัญที่คุณจะต้องดำเนินการ มีสัญญาณบางอย่างว่าข้อความเสียง AI อาจเป็นกลโกง:

• วิธีการติดต่อที่ผิดปกติ (เช่น หมายเลขที่ไม่รู้จัก)
• ขอเงินจำนวนมากทันที
• ขอให้โอนเงินด้วยวิธีที่ผิดปกติ (เช่น บัตรของขวัญหรือเงินดิจิตอล)
• ความต้องการที่จะไม่บอกใครเกี่ยวกับการโทร/เหตุการณ์

ด้วยเหตุนี้ FTC จึงแนะนำให้คุณทำดังนี้

• โทรไปยังหมายเลขที่ฝากข้อความไว้เพื่อตรวจสอบว่าเป็นใคร
• โทรหาคนที่คุณรักหรือเพื่อนของคุณด้วยหมายเลขส่วนตัวของพวกเขา
• ส่งข้อความถึงครอบครัวและเพื่อนสนิทของบุคคลดังกล่าว

หากคุณติดต่อไม่ได้ สิ่งสำคัญคือคุณต้องแจ้งหน่วยงานบังคับใช้กฎหมายทันที สำหรับผู้ที่ยังไม่ตกเป็นเป้าหมายของหนึ่งในกลโกงเหล่านี้ แต่ต้องการให้แน่ใจว่าคุณจะไม่ตกเป็นเหยื่อของกลโกงเหล่า นี้ ให้สร้างคำที่ปลอดภัย กับครอบครัวและเพื่อนของคุณ

นี่คือรหัสที่หมายความว่าคุณและคนที่คุณรักสามารถระบุตัวตนของกันและกันได้ ซึ่งเป็นหนึ่งในวิธีที่ดีที่สุดเพื่อให้แน่ใจว่าคุณจะไม่ตกเป็นเหยื่อของกลโกงเสียง AI สิ่งนี้จะเป็นประโยชน์อย่างยิ่งสำหรับสมาชิกในครอบครัวที่เป็นผู้สูงอายุ และหากไม่เคยจดบันทึกไว้ ก็สามารถเก็บไว้ได้ค่อนข้างง่าย

สิ่งสำคัญคือต้องติดตามวิธีการ เทคนิค และรูปแบบล่าสุดที่นักต้มตุ๋นเสียง AI ใช้เพื่อขู่กรรโชกเหยื่อ นอกเหนือจากการระแวดระวังและรับสายจากหมายเลขที่ไม่รู้จักด้วยความระมัดระวังอย่างยิ่งแล้ว การวางหูของคุณให้แนบกับพื้นมักจะเป็นสิ่งที่ดีที่สุดที่คุณสามารถทำได้