ChatGPT는 선거에 대한 질문을 받으면 사용자에게 투표 페이지로 보냅니다.

OpenAI는 올해 미국과 영국을 포함해 전 세계에서 진행되는 선거에서 ChatGPT가 파괴적인 영향을 미치지 않도록 할 계획을 공개했습니다.

미국 사용자에게 합법적인 투표 정보를 제공하기 위해 회사가 취하고 있는 조치 중 하나는 사용자를 CanIVote.Org라는 "권한 있는" 투표 사이트로 안내하는 것입니다. 이 사이트에서 사용자는 선거 절차, 투표 장소 및 투표 장소와 관련된 정보를 찾을 수 있습니다. 조기 및 부재자 투표.

스타트업은 또한 기업에서 사용하는 가장 인기 있는 AI 도구로 남아 있는 플랫폼의 정치적 콘텐츠 및 남용 방지와 관련된 기타 중요한 설명 및 변경 사항을 발표했습니다.

투표 정보가 포함된 페이지로 사용자를 안내하는 ChatGPT

OpenAI는 이번 주 블로그 게시물에서 “미국에서 우리는 미국에서 가장 오래된 공직자들을 위한 초당파적 전문 조직인 전미 국무장관 협회(NASS)와 협력하고 있습니다”라고 밝혔습니다.

2024년 미국 선거에 대한 접근 방식의 일환으로 ChatGPT는 투표 문제에 대한 특정 질문을 받으면 사용자를 CanIVote.org로 직접 보냅니다.

CanIVote.org는 자격을 갖춘 모든 미국 유권자가 유권자 등록 상태, 가장 가까운 투표소 위치 및 투표를 위한 유효한 신분증에 대한 정보를 확인할 수 있는 웹페이지입니다.

부재자 및 조기 투표에 관한 정보도 주정부 선거 당국 링크를 통해 사이트를 통해 확인할 수 있습니다.

OpenAI는 이러한 종류의 조치가 미국에서 성공한다면 선거 주기 동안 다른 지역에서도 이러한 접근 방식을 반복할 것이라고 말합니다.

선거 연도 동안 ChatGPT가 취하는 기타 단계

유권자를 합법적인 투표 정보 소스로 안내하는 것 외에도 OpenAI는 선거 기간 동안 ChatGPT가 오용되지 않도록 하기 위해 취할 몇 가지 다른 단계가 있다고 말합니다.

예를 들어, 정치인이나 기관을 모방한 GPT(맞춤형 챗봇)를 구축한 다음 그들을 대신하여 말하는 척할 수 없습니다. 사람들의 참여를 방해하는 '애플리케이션'도 메뉴에서 제외됩니다.

Open AI는 "우리는 오해를 불러일으키는 ' 딥페이크 ', 대규모 영향력 행사 또는 후보자를 사칭하는 챗봇과 같은 관련 남용을 예측하고 예방하기 위해 노력하고 있습니다."라고 말합니다.

"새로운 시스템을 출시하기 전에 우리는 레드 팀을 구성하고 피드백을 위해 사용자와 외부 파트너를 참여시키고 피해 가능성을 줄이기 위한 안전 완화 조치를 구축합니다."라고 회사는 덧붙입니다.

이미지 생성 측면에서 올해 초 ChatGPT는 DALL-E를 사용하여 생성된 모든 이미지에 암호화 마커를 첨부하는 콘텐츠 출처 및 진위성 디지털 자격 증명 연합을 구현하고 있습니다.

OpenAI는 또한 회사가 실험하고 있는 새로운 출처 분류기에서 몇 가지 "유망한" 결과를 보았다고 말합니다. 이 기술은 이미지가 어떤 방식으로 수정되더라도 DALL-E를 사용하여 이미지가 생성되었는지 여부를 감지하도록 설계되었습니다.

ChatGPT가 선거에 좋은 영향을 미칠까요, 아니면 나쁜 영향을 미칠까요?

ChatGPT는 미국 전역의 기업에서 널리 사용되며 , 선거가 가까워짐에 따라 챗봇은 쏟아지는 정치적, 법적 질문에 설득력 있게 대응할 것으로 예상됩니다.

ChatGPT 및 기타 AI 도구가 허위 정보를 퍼뜨리는 데 사용될 것이라는 전망이 많이 언급되었지만 ChatGPT가 특히 선거에 특히 부정적인 영향을 미칠지 여부는 확실하지 않습니다.

물론 ChatGPT가 의도치 않게 잘못된 정치적 정보를 제공할 위험이 있습니다. 하지만 OpenAI는 접근 방식을 통해 이러한 가능성을 정면으로 해결하는 것으로 보입니다.

실제로 합법적인 투표 정보가 있는 사이트로 유권자를 안내하고 ChatGPT가 민주적 절차를 잘못 표현하지 않도록 보장하려는 계획은 적어도 표면적으로 OpenAI가 우리가 사용하는 다른 많은 채널보다 자체적으로 더 엄격한 규제를 시행했을 수 있음을 시사합니다. 허위 정보가 종종 훼손되는 정보 출처.

허위 정보와 기타 설득력 있는 정치 콘텐츠는 이미 소셜 미디어 사이트, 검색 엔진, 일부 기존 미디어 채널을 통해 빠른 속도로 흐르고 있습니다 .

게다가 OpenAI는 소셜 미디어 사이트와 같이 인간이 생성한 콘텐츠의 끝없는 스트림을 생성하는 수백만 명의 사용자를 관리하지 않으며 이에 상응하는 수정헌법 제1조 고려사항도 없습니다. ChatGPT의 출력은 동일한 방식으로 "통제되지" 않으며 보호되지도 않습니다.

이론적으로 OpenAI는 원할 경우 "정치 금지" 규칙을 시행할 수도 있습니다. 이러한 종류의 광범위한 원칙은 이미 GPT에 적용되고 있으며, 이는 인물이나 기관을 흉내낼 수 없습니다.

AI가 국내 민주 선거에 가하는 위협(매우 현실적임)은 2024년 선거에 대한 "접근 방식"을 홍보하라는 대중의 압력을 받지 않는 생성적 AI 도구에서 나올 가능성이 더 높습니다. 또는 악의적인 AI 도구를 구축하여 가드레일을 구현하지 않는 사람으로부터 발생합니다.

물론, 국가 행위자들은 이미 허위 정보를 퍼뜨리기 위해 AI 도구를 사용하고 있으며, 지난 몇 년간의 선거 개입이 계속된다면 이것이 AI가 민주적 절차를 방해하는 데 사용되는 가장 가능성이 높은 방법일 것입니다.

이것이 우리를 계속해서 놀라게 하고, 오류가 있을 수 있고 조작의 가능성이 있음을 계속해서 입증하는 AI 시스템 이라는 점을 기억하는 것도 중요합니다. 그리고 OpenAI가 ChatGPT를 변경하자마자 이를 논리적 한계까지 밀어붙이려는 수많은 사람들이 기다리고 있습니다. 대량의 선거는 단순히 이를 수행하려는 추가적인 정치적 동기를 생성합니다.

무슨 일이 일어나든 유권자들이 ChatGPT와 기타 AI 도구를 사용하는 방식은 일년 내내 헤드라인을 장식할 이야기가 될 것입니다.