สแปมที่สร้างโดย AI อาจทำให้กล่องจดหมายของคุณเต็มไปด้วยกลโกงในไม่ช้า

ในแต่ละวัน ข้อความจากเจ้าชายแห่งไนจีเรีย ผู้ค้ายาเสพติดที่น่าพิศวง และผู้ส่งเสริมการลงทุนที่พลาดไม่ได้ทำให้กล่องจดหมายอีเมลสำลัก

การปรับปรุงตัวกรองสแปมดูเหมือนจะเป็นแรงบันดาลใจให้เทคนิคใหม่ ๆ ในการทำลายการป้องกัน

การแข่งขันทางอาวุธระหว่างผู้บล็อกสแปมและผู้ส่งสแปมกำลังจะทวีความรุนแรงขึ้นพร้อมกับการเกิดขึ้นของอาวุธใหม่: ปัญญาประดิษฐ์เชิงกำเนิด

ด้วยความก้าวหน้าล่าสุดของ AI ที่ ChatGPT ทำให้ผู้ส่งอีเมลขยะสามารถมีเครื่องมือใหม่ในการหลบเลี่ยงตัวกรอง ดึงดูดความสนใจของผู้คน และโน้มน้าวให้พวกเขาคลิก ซื้อ หรือให้ข้อมูลส่วนตัว

ในฐานะผู้อำนวยการห้องปฏิบัติการ Advancing Human and Machine Reasoning ที่ University of South Florida ฉันค้นคว้าเกี่ยวกับจุดตัดของปัญญาประดิษฐ์ การประมวลผลภาษาธรรมชาติ และการใช้เหตุผลของมนุษย์

ฉันได้ศึกษาว่า AI สามารถเรียนรู้ความชอบ ความเชื่อ และนิสัยใจคอของแต่ละคนได้อย่างไร

สามารถใช้เพื่อทำความเข้าใจวิธีการโต้ตอบกับผู้คน ช่วยให้พวกเขาเรียนรู้ หรือให้คำแนะนำที่เป็นประโยชน์ได้ดีขึ้น

แต่นี่ก็หมายความว่าคุณควรเตรียมพร้อมสำหรับสแปมที่ฉลาดกว่าซึ่งรู้จุดอ่อนของคุณ – และสามารถใช้พวกมันต่อต้านคุณได้

สแปม สแปม สแปม

แล้วสแปมคืออะไร? สแปมหมายถึงอีเมลเชิงพาณิชย์ที่ไม่ได้ร้องขอซึ่งส่งโดยบุคคลที่ไม่รู้จัก คำนี้บางครั้งขยายไปถึงข้อความ ข้อความโดยตรงบนโซเชียลมีเดีย และรีวิวปลอมเกี่ยวกับผลิตภัณฑ์

นักส่งสแปมต้องการกระตุ้นให้คุณดำเนินการ เช่น ซื้อบางอย่าง คลิกลิงก์ฟิชชิ่ง ติดตั้งมัลแวร์ หรือเปลี่ยนมุมมอง

สแปมมีประโยชน์ อีเมลหนึ่งฉบับสามารถสร้างรายได้ $1,000 ในเวลาเพียงไม่กี่ชั่วโมง ทำให้ผู้ส่งอีเมลขยะเสียเงินเพียงไม่กี่ดอลลาร์ – ไม่รวมการตั้งค่าเริ่มต้น แคมเปญสแปมยาออนไลน์อาจสร้างรายได้ประมาณ 7,000 ดอลลาร์ต่อวัน

นอกจากนี้ ผู้ลงโฆษณาที่ถูกต้องตามกฎหมายยังต้องการกระตุ้นให้คุณดำเนินการ เช่น ซื้อผลิตภัณฑ์ ทำแบบสำรวจ และสมัครรับจดหมายข่าว

ถึงกระนั้น ในขณะที่อีเมลของนักการตลาดอาจเชื่อมโยงไปยังเว็บไซต์ของบริษัทที่จัดตั้งขึ้นและมีตัวเลือกยกเลิกการสมัครตามระเบียบข้อบังคับของรัฐบาลกลาง อีเมลสแปมอาจไม่เป็นเช่นนั้น

นักส่งสแปมยังขาดการเข้าถึงรายชื่ออีเมลที่ผู้ใช้สมัครใช้งาน แต่ผู้ส่งสแปมกลับใช้กลยุทธ์ตอบโต้ที่ใช้งานง่าย เช่น การหลอกลวง "เจ้าชายแห่งไนจีเรีย"

เจ้าชายชาวไนจีเรียคนหนึ่งอ้างว่าต้องการให้คุณช่วยปลดล็อคเงินจำนวนมหาศาล โดยสัญญาว่าจะตอบแทนคุณอย่างงาม

ผู้ที่เชี่ยวชาญด้านดิจิทัลปฏิเสธคำขอดังกล่าวทันที แต่ความจริงแล้วคำขอที่ไร้เหตุผลอาจเลือกตามอายุที่ไร้เดียงสาหรือสูงวัย โดยกรองผู้ที่มีแนวโน้มจะตกเป็นเหยื่อการหลอกลวงมากที่สุด

อย่างไรก็ตาม ความก้าวหน้าใน AI หมายความว่านักส่งสแปมอาจไม่ต้องพึ่งพาวิธีการตีหรือพลาดดังกล่าว

AI สามารถช่วยให้พวกเขาสามารถกำหนดเป้าหมายบุคคลและทำให้ข้อความของพวกเขาโน้มน้าวใจได้มากขึ้นโดยอิงตามข้อมูลที่เข้าถึงได้ง่าย เช่น โพสต์บนโซเชียลมีเดีย

อนาคตของสแปม

มีโอกาสที่คุณเคยได้ยินเกี่ยวกับความก้าวหน้าในการสร้างโมเดลภาษาขนาดใหญ่เช่น ChatGPT

งานที่ LLM เชิงกำเนิดเหล่านี้ทำนั้นเรียบง่ายอย่างเหลือเชื่อ: กำหนดลำดับข้อความ ทำนายว่าโทเค็นใด – คิดว่านี่เป็นส่วนหนึ่งของคำ – ตามมา

จากนั้นทำนายว่าโทเค็นใดจะเกิดขึ้นหลังจากนั้น และอื่น ๆ ซ้ำแล้วซ้ำอีก

อย่างไรก็ตาม การฝึกอบรมเกี่ยวกับงานนั้นเพียงอย่างเดียว เมื่อเสร็จสิ้นด้วยข้อความเพียงพอใน LLM ที่ใหญ่พอ ดูเหมือนจะเพียงพอที่จะทำให้โมเดลเหล่านี้มีความสามารถในการทำงานได้ดีอย่างน่าประหลาดใจในงานอื่นๆ มากมาย

มีหลายวิธีในการใช้เทคโนโลยี ซึ่งแสดงให้เห็นถึงความสามารถของเทคโนโลยีในการปรับตัวเข้ากับและเรียนรู้เกี่ยวกับบุคคลได้อย่างรวดเร็ว

ตัวอย่างเช่น LLMs สามารถเขียนอีเมลแบบเต็มในรูปแบบการเขียนของคุณ โดยยกตัวอย่างวิธีการเขียนเพียงเล็กน้อยเท่านั้น และมีตัวอย่างคลาสสิกซึ่งตอนนี้มีอายุกว่าทศวรรษแล้วที่ Target รู้ว่าลูกค้าตั้งครรภ์ก่อนที่พ่อของเธอจะรู้ตัว

นักส่งสแปมและนักการตลาดจะได้รับประโยชน์จากความสามารถในการคาดการณ์เกี่ยวกับบุคคลที่มีข้อมูลน้อยกว่า

เมื่อพิจารณาจากหน้า LinkedIn ของคุณ โพสต์สองสามโพสต์ และรูปโปรไฟล์หนึ่งหรือสองรูป นักส่งสแปมที่มี LLM อาจคาดเดาได้อย่างแม่นยำพอสมควรเกี่ยวกับความเอนเอียงทางการเมือง สถานภาพการสมรส หรือลำดับความสำคัญในชีวิตของคุณ

การวิจัยของเราแสดงให้เห็นว่า LLM สามารถใช้ทำนายคำที่แต่ละคนจะพูดต่อไปด้วยระดับความแม่นยำที่เหนือกว่าวิธี AI อื่นๆ ในงานสร้างคำที่เรียกว่า semantic fluency task

เรายังแสดงให้เห็นว่า LLM สามารถใช้คำถามบางประเภทจากการทดสอบความสามารถในการให้เหตุผล และทำนายว่าผู้คนจะตอบคำถามนั้นอย่างไร

สิ่งนี้ชี้ให้เห็นว่า LLMs มีความรู้อยู่แล้วว่าความสามารถในการให้เหตุผลโดยทั่วไปของมนุษย์นั้นเป็นอย่างไร

หากนักส่งสแปมผ่านตัวกรองเริ่มต้นและให้คุณอ่านอีเมล คลิกลิงก์ หรือแม้แต่มีส่วนร่วมในการสนทนา

เป็นอีกครั้งที่ LLM สามารถเปลี่ยนเกมได้ ผลลัพธ์เบื้องต้นชี้ให้เห็นว่าสามารถใช้ LLM เพื่อโต้แย้งอย่างโน้มน้าวใจในหัวข้อต่าง ๆ ตั้งแต่การเมืองไปจนถึงนโยบายสาธารณสุข

ดีสำหรับห่านตัวผู้

อย่างไรก็ตาม AI ไม่เข้าข้างฝ่ายใดฝ่ายหนึ่ง ตัวกรองสแปมควรได้ประโยชน์จากความก้าวหน้าของ AI สแปม ทำให้พวกเขาสร้างอุปสรรคใหม่สำหรับอีเมลที่ไม่ต้องการ

นักส่งสแปมมักจะพยายามหลอกลวงตัวกรองด้วยอักขระพิเศษ คำที่สะกดผิด หรือข้อความที่ซ่อนอยู่ โดยอาศัยแนวโน้มของมนุษย์ในการให้อภัยความผิดปกติของข้อความขนาดเล็ก ตัวอย่างเช่น “c1ick h.ere n0w”

แต่เนื่องจาก AI เข้าใจข้อความสแปมได้ดีขึ้น ตัวกรองจึงสามารถระบุและบล็อกสแปมที่ไม่ต้องการได้ดีขึ้น และอาจปล่อยสแปมที่ต้องการ เช่น อีเมลการตลาดที่คุณสมัครใช้งานอย่างชัดแจ้ง

ลองนึกภาพตัวกรองที่คาดเดาว่าคุณต้องการอ่านอีเมลก่อนที่คุณจะอ่านด้วยซ้ำ

แม้จะมีความกังวลมากขึ้นเกี่ยวกับ AI ซึ่งเห็นได้จาก Elon Musk ซีอีโอของ Tesla, SpaceX และ Twitter, Steve Wozniak ผู้ก่อตั้ง Apple และผู้นำด้านเทคโนโลยีคนอื่นๆ ที่เรียกร้องให้หยุดการพัฒนา AI ชั่วคราว ข้อดีหลายอย่างอาจมาจากความก้าวหน้าของเทคโนโลยี

AI สามารถช่วยให้เราเข้าใจว่าจุดอ่อนในการให้เหตุผลของมนุษย์อาจถูกใช้ประโยชน์โดยผู้ไม่ประสงค์ดีได้อย่างไร และพัฒนาวิธีการต่อต้านกิจกรรมที่มุ่งร้าย

เทคโนโลยีใหม่ทั้งหมดอาจส่งผลให้เกิดทั้งความประหลาดใจและอันตราย ความแตกต่างอยู่ที่ใครเป็นผู้สร้างและควบคุมเครื่องมือและวิธีการใช้งาน

บทความนี้ได้รับการปรับปรุงเพื่อระบุว่าเป็นพ่อของวัยรุ่น

มีความคิดเกี่ยวกับเรื่องนี้หรือไม่? วางบรรทัดด้านล่างในความคิดเห็นหรือส่งการสนทนาไปที่ Twitter หรือ Facebook ของเรา

คำแนะนำของบรรณาธิการ:

• วิธีเปลี่ยนการตั้งค่าสแปมของ Gmail และปรับแต่งตัวกรอง
• วิธีระบุและป้องกันสแปม WhatsApp
• เพจ Facebook ที่ยืนยันแล้วถูกแฮ็กและแพร่มัลแวร์
• ผู้นำด้านเทคโนโลยีต้องการกดปุ่มหยุดชั่วคราวในการฝึกอบรม AI

หมายเหตุบรรณาธิการ: บทความนี้เขียนโดย John Licato ผู้ช่วยศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์และผู้อำนวยการ AMHR Lab มหาวิทยาลัยเซาท์ฟลอริดา และเผยแพร่ซ้ำจาก The Conversation ภายใต้สัญญาอนุญาตครีเอทีฟคอมมอนส์ อ่านบทความต้นฉบับ