OpenAI ทำงานบน GPT-5 หรือไม่

ขณะนี้ระบบ AI ร่วมสมัยกลายเป็นสิ่งที่มนุษย์สามารถแข่งขันได้ในงานทั่วไป และเราต้องถามตัวเองว่า: เรา ควร ปล่อยให้เครื่องจักรทำให้ช่องข้อมูลของเราเต็มไปด้วยโฆษณาชวนเชื่อและความจริงหรือไม่? เรา ควร ทำให้งานทั้งหมดหายไปโดยอัตโนมัติ รวมถึงงานที่ทำเสร็จหรือไม่? เรา ควร พัฒนาจิตใจที่ไม่ใช่มนุษย์ซึ่งอาจมีจำนวนมากกว่า ชิงไหวชิงพริบ ล้าสมัย และแทนที่เราในที่สุดหรือไม่? เรา ควร เสี่ยงที่จะสูญเสียการควบคุมอารยธรรมของเราหรือไม่? การตัดสินใจดังกล่าวต้องไม่มอบให้กับผู้นำเทคโนโลยีที่ไม่ได้รับเลือก

ระบบ AI ที่ทรงพลังควรได้รับการพัฒนาก็ต่อเมื่อเรามั่นใจว่าผลกระทบจะเป็นไปในเชิงบวกและความเสี่ยงจะถูกจัดการได้ ความเชื่อมั่นนี้ต้องได้รับการพิสูจน์อย่างดีและเพิ่มขึ้นตามขนาดของผลกระทบที่อาจเกิดขึ้นจากระบบ แถลงการณ์ล่าสุดของ OpenAI เกี่ยวกับปัญญาประดิษฐ์ทั่วไป ระบุว่า "ในบางจุด อาจเป็นเรื่องสำคัญที่จะต้องได้รับการตรวจสอบโดยอิสระก่อนที่จะเริ่มฝึกอบรมระบบในอนาคต และสำหรับความพยายามขั้นสูงที่สุดในการตกลงที่จะจำกัดอัตราการเติบโตของการคำนวณที่ใช้สำหรับการสร้างใหม่ โมเดล” เราเห็นด้วย. จุดนั้นอยู่ในขณะนี้

ดังนั้น เราจึงเรียกร้องให้ห้องปฏิบัติการ AI ทั้งหมดหยุดชั่วคราวเป็นเวลาอย่างน้อย 6 เดือนเพื่อฝึกอบรมระบบ AI ที่ทรงพลังกว่า GPT-4 การหยุดชั่วคราวนี้ควรเปิดเผยต่อสาธารณะและตรวจสอบได้ และรวมถึงผู้มีส่วนสำคัญทั้งหมด หากไม่สามารถประกาศใช้การหยุดชั่วคราวดังกล่าวได้อย่างรวดเร็ว รัฐบาลควรเข้ามาดำเนินการและประกาศเลื่อนการชำระหนี้

ห้องปฏิบัติการ AI และผู้เชี่ยวชาญอิสระควรใช้การหยุดชั่วคราวนี้เพื่อร่วมกันพัฒนาและนำชุดโปรโตคอลความปลอดภัยที่ใช้ร่วมกันมาใช้สำหรับการออกแบบและพัฒนา AI ขั้นสูงที่ได้รับการตรวจสอบและควบคุมอย่างเข้มงวดโดยผู้เชี่ยวชาญอิสระจากภายนอก โปรโตคอลเหล่านี้ควรทำให้แน่ใจว่าระบบที่ปฏิบัติตามนั้นปลอดภัยโดยปราศจากข้อสงสัยอันสมเหตุสมผล นี่ ไม่ ได้หมายถึงการหยุดการพัฒนา AI โดยทั่วไป แต่เป็นการก้าวถอยหลังจากการแข่งขันที่อันตรายไปสู่แบบจำลองกล่องดำที่คาดเดาไม่ได้ซึ่งมีขนาดใหญ่ขึ้นเรื่อย ๆ พร้อมความสามารถที่เกิดขึ้นใหม่

การวิจัยและพัฒนา AI ควรมุ่งเน้นไปที่การทำให้ระบบที่ทรงพลังและล้ำสมัยในปัจจุบันมีความแม่นยำ ปลอดภัย ตีความได้ โปร่งใส แข็งแกร่ง สอดคล้องกัน เชื่อถือได้ และภักดีมากขึ้น

ในขณะเดียวกัน นักพัฒนา AI จะต้องทำงานร่วมกับผู้กำหนดนโยบายเพื่อเร่งการพัฒนาระบบการกำกับดูแล AI ที่มีประสิทธิภาพอย่างมาก อย่างน้อยสิ่งเหล่านี้ควรรวมถึง: หน่วยงานกำกับดูแลใหม่และมีความสามารถซึ่งอุทิศตนเพื่อ AI; การกำกับดูแลและการติดตามระบบ AI ที่มีความสามารถสูงและกลุ่มความสามารถในการคำนวณขนาดใหญ่ แหล่งที่มาและระบบลายน้ำเพื่อช่วยแยกแยะของจริงจากวัสดุสังเคราะห์และติดตามการรั่วไหลของโมเดล ระบบนิเวศการตรวจสอบและการรับรองที่แข็งแกร่ง ความรับผิดต่ออันตรายที่เกิดจาก AI เงินทุนสาธารณะที่แข็งแกร่งสำหรับการวิจัยทางเทคนิคด้านความปลอดภัยของ AI; และสถาบันที่มีทรัพยากรที่ดีในการรับมือกับการหยุดชะงักทางเศรษฐกิจและการเมืองอย่างมาก (โดยเฉพาะต่อประชาธิปไตย) ที่ AI จะทำให้เกิด

มนุษยชาติสามารถเพลิดเพลินกับอนาคตที่เฟื่องฟูด้วย AI หลังจากประสบความสำเร็จในการสร้างระบบ AI ที่ทรงพลัง ตอนนี้เราสามารถเพลิดเพลินไปกับ "ฤดูร้อนของ AI" ที่เราเก็บเกี่ยวผลตอบแทน ออกแบบระบบเหล่านี้เพื่อประโยชน์ที่ชัดเจนของทุกคน และเปิดโอกาสให้สังคมได้ปรับตัว สังคมได้หยุดเทคโนโลยีอื่นชั่วคราวซึ่งอาจส่งผลร้ายแรงต่อสังคม เราสามารถทำได้ที่นี่ มาสนุกกับฤดูร้อน AI ที่ยาวนานกันเถอะ อย่าเร่งรีบในช่วงฤดูใบไม้ร่วง”