심판의 날 시계란 무엇이며 AI가 이에 어떤 영향을 미치나요?

과학자들은 이번 주에 지구 종말 시계가 2년 연속 자정에서 90초로 유지될 것이라고 확인했습니다.

최후의 심판의 날 시계는 인류가 세상을 파괴하기 직전에 있다는 것을 비유적으로 표현한 것으로, 기후 문제와 우크라이나 전쟁으로 인해 2023년 마지막으로 상징적 종말점인 자정에 가까워졌습니다.

매년 시간을 정하는 원자력 과학자 게시판(Bulletin of Atomic Scientists)은 기록상 가장 더운 해이자 흥미롭게도 인공 지능에 대한 우려가 커지고 있는 가자 전쟁에도 불구하고 90초를 유지할 것이라고 밝혔습니다.

심판의 날 시계가 정확히 무엇인지, 그리고 AI가 어떻게 시계를 멸망에 가깝게 만드는지 살펴보겠습니다.

최후 심판의 날 시계란 무엇입니까?

원자폭탄을 개발한 J. 로버트 오펜하이머(J. Robert Oppenheimer)와 그의 동료 과학자들이 1947년에 처음 개발한 종말시계는 인류가 전멸에 얼마나 가까이 다가왔는지를 묘사합니다. 이는 제2차 세계대전의 파괴적인 영향에 따라 다시는 핵무기가 사용되지 않도록 세계 지도자들에게 압력을 가하기 위해 만들어졌습니다.

시계바늘은 자정 7분 전을 시작으로 총 25번 움직였습니다. 심지어 1991년 냉전이 종식된 이후에는 자정 17분 전으로 되돌아가기도 했습니다.

전쟁은 시계 계산의 주요 원인입니다. 화요일에 회보에서는 중국, 러시아, 미국이 핵무기를 확장하고 현대화하면서 “실수나 계산 착오로 인해 항상 존재하는 핵전쟁의 위험”이 가중되었다고 밝혔습니다. 마찬가지로 우크라이나 전쟁 역시 “항상 존재하는 핵 고조 위험”을 야기했습니다.

그러나 시계가 아마겟돈에 가장 가까운 것으로 남아 있는 이유로 인공 지능 도구도 언급되었습니다.

AI가 카운트다운에 어떤 영향을 미치나요?

원자력과학자회 회원들은 2007년부터 시계 계산에 AI와 같은 인간이 만든 위험을 포함시켰습니다.

그러나 OpenAI의 ChatGPT 와 같은 챗봇이 이틀에 한번씩 헤드라인을 장식하는 등 생성 AI 기술의 극적이고 빠른 발전 덕분에 올해 목록에서 이 챗봇이 중요하게 언급되는 것은 놀라운 일이 아닙니다.

게시판에는 다음과 같은 내용이 나와 있습니다. "우리는 특히 우려되는 한 가지 문제를 강조합니다. 즉, 개인이 생물학을 오용하도록 근본적으로 권한을 부여할 수 있는 새로운 인공 지능 도구와 생물학적 기술의 융합입니다."

기업과 조직은 생산성을 높이고 오류를 최소화하는 데 도움이 되는 인공 지능과 대규모 언어 모델의 이점을 누리고 있습니다. 헬스케어 산업에서도 진단 효율성이 향상되면서 AI 효과가 긍정적으로 나타나고 있습니다. 그렇다면 원자과학자들이 우려하게 되는 것은 정확히 무엇입니까?

Doomsday Clock 성명 에 따르면:

“대규모 언어 모델을 사용하면 충분한 노하우가 부족한 개인이 수많은 인간, 동물, 식물 및 기타 환경 요소에 해를 끼칠 수 있는 생물학적 작용제를 식별, 획득 및 배포할 수 있다는 점이 우려됩니다.”

그보다 더 나아가, 생성 AI의 예측 불가능성과 정보를 부패시키고 허위 정보를 확대할 수 있는 잠재력은 모두 민주주의에 대한 위협이며, 이는 결국 우리가 핵 위험, 전염병 및 기후 변화를 관리하는 방법에 큰 영향을 미칠 수 있습니다.

기술 관련 관점에서 말하면, AI가 업계에도 영향을 미치는 방식에는 차등성이 있습니다.

비즈니스에는 좋지 않지만 궁극적으로 무해한 DPD 온라인 챗봇의 예를 들어보겠습니다. DPD는 쉽게 조작되어 자신과 회사를 비판하게 되었습니다. 대규모로 파괴적인 것은 아니지만 회사에 금전적 손실을 가져올 수 있는 당황스러운 실수입니다.

저울의 반대편에는 생명에 대한 위험이 따릅니다. 작년에 Tesla는 자동 조종 장치 오작동으로 인해 200만 대 이상의 차량을 리콜해야 했습니다. 이는 두 대의 차량이 주차된 소방차와 경찰차의 후방을 들이받는 일련의 충돌 사고 때문이었습니다.

원자력과학자들은 “예를 들어 인공지능과 유전공학의 발전은 엄청난 잠재력을 가지고 있지만, 이러한 기술이 어떻게 사용되는지에 따라 상당한 위험을 안겨준다”고 말했습니다.

AI 규정이 도움이 될 수 있을까?

Doomsday Clock의 주요 목표는 인식을 높이고 글로벌 문제를 강조하여 정치인, 세계 지도자 및 시민의 행동을 촉발하는 것입니다.

원자력과학자회(Bulletin of the Atomic Scientists)의 회장 겸 CEO인 레이첼 브론슨(Rachel Bronson)은 다음과 같이 설명했습니다. “우리 성명서에는 두 가지 핵심 메시지가 있으며 그 중 하나는 자정까지 90초가 매우 불안정하며 안주심을 불러일으켜서는 안 된다는 것입니다. 두 번째는 기술 발전이 가속화되고 있다는 것입니다. 그리고 그들을 통치하는 우리의 능력을 능가합니다.”

이는 AI와 같은 "새로운 파괴적 기술"이 적절한 법률 및 규정에 따라 처리되어야 함을 의미합니다.

지난 10월 조 바이든 미국 대통령은 “생물학적 합성 스크리닝을 위한 강력한 새 표준을 개발함으로써 위험한 생물학적 물질을 조작하기 위해 AI를 사용할 위험으로부터 보호”를 요구하는 “안전하고 신뢰할 수 있는 AI”에 대한 행정 명령에 서명했습니다. 법적 구속력은 없지만 이번 조치는 올바른 방향으로 나아가는 조치입니다.

마찬가지로 전 세계 많은 국가에서는 AI의 피해 가능성을 인식하고 완화 규정을 마련하고 있습니다. 여기에는 유럽 연합이 제안한 규제 프레임워크, AI 위험을 해결하기 위한 국제 선언, 새로운 UN 자문기구 구성이 포함됩니다.

개인적으로 가장 효과적이고 안전한 방식으로 인공 지능을 사용하려면 사용하는 각 생성 AI 도구의 한계와 위험을 완전히 이해해야 합니다. 이렇게 하면 사용량을 더 잘 제어할 수 있고 똑딱거리는 시계를 계속 유지하는 데 도움이 될 것입니다.