OpenAI가 GPT-5에서 작동합니까?

현대의 AI 시스템은 이제 일반적인 작업에서 인간과 경쟁하고 있으며 우리는 스스로에게 질문해야 합니다. 기계가 정보 채널을 선전과 거짓으로 가득 채우도록 내버려 두어야 할까요 ? 만족스러운 작업을 포함하여 모든 작업을 자동화 해야 합니까 ? 결국 우리를 능가하고, 똑똑하고, 구식이 되어 우리를 대체할 수 있는 비인간적인 마음을 개발 해야 할까요 ? 우리 문명의 통제력을 잃을 위험을 감수 해야 합니까 ? 그러한 결정은 선출되지 않은 기술 리더에게 위임되어서는 안 됩니다.

강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 합니다. 이러한 확신은 충분히 정당화되어야 하며 시스템의 잠재적 영향의 크기에 따라 증가해야 합니다. 인공 일반 지능에 관한 OpenAI의 최근 성명에서는 "어느 시점에서는 미래 시스템을 교육하기 시작하기 전에 독립적인 검토를 받는 것이 중요할 수 있으며, 새로운 시스템을 생성하는 데 사용되는 컴퓨팅의 성장 속도를 제한하는 데 동의하는 가장 앞선 노력을 기울이는 것이 중요할 수 있습니다. 모델.” 우리는 동의한다. 그 시점은 지금입니다.

따라서 우리는 모든 AI 연구실에 GPT-4보다 강력한 AI 시스템 교육을 최소 6개월 동안 즉시 중단할 것을 요청합니다 . 이 일시 중지는 공개적이고 검증 가능해야 하며 모든 주요 행위자를 포함해야 합니다. 이러한 중단을 신속하게 시행할 수 없다면 정부가 개입하여 유예 조치를 취해야 합니다.

AI 연구실과 독립적인 전문가는 이 일시 중지를 사용하여 독립적인 외부 전문가가 엄격하게 감사하고 감독하는 고급 AI 설계 및 개발을 위한 일련의 공유 안전 프로토콜을 공동으로 개발하고 구현해야 합니다. 이러한 프로토콜은 이를 준수하는 시스템이 합리적 의심의 여지 없이 안전하도록 보장해야 합니다. 이것은 일반적으로 AI 개발의 중단을 의미하는 것이 아니라 , 위험한 경쟁에서 벗어나 새로운 기능을 갖춘 예측할 수 없는 블랙박스 모델로 한 걸음 물러나는 것일 뿐입니다.

AI 연구 및 개발은 오늘날의 강력한 최신 시스템을 보다 정확하고 안전하며 해석 가능하고 투명하고 견고하며 정렬되고 신뢰할 수 있으며 충실하게 만드는 데 다시 초점을 맞춰야 합니다.

동시에 AI 개발자는 강력한 AI 거버넌스 시스템의 개발을 극적으로 가속화하기 위해 정책 입안자와 협력해야 합니다. 여기에는 최소한 다음이 포함되어야 합니다. AI에 전념하는 새롭고 유능한 규제 당국; 고도로 유능한 AI 시스템과 대규모 계산 능력 풀에 대한 감독 및 추적 실제와 합성을 구별하고 모델 누출을 추적하는 데 도움이 되는 출처 및 워터마킹 시스템 강력한 감사 및 인증 생태계; AI로 인한 피해에 대한 책임; 기술 AI 안전 연구를 위한 강력한 공적 자금 지원; AI가 야기할 극적인 경제적, 정치적 혼란(특히 민주주의)에 대처할 수 있는 풍부한 자원을 갖춘 기관.

인류는 AI와 함께 번영하는 미래를 누릴 수 있습니다. 강력한 AI 시스템을 만드는 데 성공한 우리는 이제 보상을 거두고 모두에게 분명한 이익을 위해 이러한 시스템을 설계하며 사회에 적응할 기회를 제공하는 "AI 여름"을 즐길 수 있습니다. 사회는 잠재적으로 사회에 치명적인 영향을 미칠 수 있는 다른 기술에 대해 일시 중지했습니다. 여기서 할 수 있습니다. 기나긴 AI 여름을 즐기자, 준비 없이 급히 가을을 향해 달려가지 말자.”