조심하고 피해야 할 ChatGPT 및 AI 사기

게시 됨: 2023-05-29

ChatGPT는 작년 11월에 출시된 이후로 전 세계 직원들이 이 기술을 매일 적용할 수 있는 혁신적인 방법을 찾고 있는 가운데 무한한 유용성이 입증되었습니다. 그러나 이러한 AI 도구의 힘 은 맬웨어 스크립트 및 피싱 이메일 작성과 같은 교활한 목적에도 사용될 수 있습니다.

사기를 조율하기 위해 인공 지능을 활용하는 것과 함께 지난 6~8개월 동안 해커가 인기 주제를 활용하여 돈을 갈취하고 가짜 투자 기회 및 사기 응용 프로그램을 통해 정보를 훔치는 것이 목격되었습니다.

AI 사기는 식별하기 가장 어려운 것 중 하나이며 많은 사람들은 의심스러운 웹사이트로 이동하거나 의심스러운 앱을 다운로드하려고 할 때 사용자에게 경고하는 Surfshark 바이러스 백신 과 같은 도구에 투자하지 않습니다. 그래서 우리는 최근 야생에서 관찰된 모든 일반적인 전술에 대한 이 가이드를 모았습니다. 대체로 이 기사에서는 다음을 다룹니다.

AI 사기: 얼마나 흔한가요?
AI 지원 피싱 사기
AI 음성 복제 사기
가짜 채팅GPT 앱
가짜 채팅GPT 웹사이트
AI 투자 사기
AI 사기: 점점 더 악화될 것입니다.

AI 사기: 무엇이고 얼마나 흔한가요?

이 기사의 서론에서 언급했듯이 "AI 사기"는 두 가지 다른 장르의 사기를 지칭할 수 있으며, 그 예는 2023년 동안 정기적으로 발생했습니다.

AI 지원 사기 에서 인공 지능은 사기꾼이 피싱 이메일의 텍스트를 작성하는 것과 같이 실제로 사기를 저지르는 것을 돕습니다. 일반적인 AI 사기 에서 해커는 AI의 인기와 시대정신을 주제로 활용하여 가짜 ChatGPT 앱 사기와 같은 호기심 많은 대상의 흥미를 끕니다.

캘리포니아 DFPI는 AI 투자 사기의 증가를 기록했으며 McAfee와 같은 사이버 보안 회사는 최근 몇 달 동안 AI 음성 복제 사기가 증가한 것을 관찰했습니다.

ChatGPT의 폭발적인 출시는 또한 생성되는 악성 도메인의 물결로 이어졌으며, 이 문서에서도 논의될 것입니다.

최근 AI 개발 중단을 촉구하는 서한 에 최근 서명한 Apple 공동 설립자 Steve Wozniak은 인공 지능이 사기를 훨씬 더 탐지하기 어렵게 만들고 악의적인 행위자가 점점 더 설득력 있게 들리도록 할 것이라고 경고했습니다. AI 지원 사기의 시대가 도래했습니다.

서비스로서의 랜섬웨어가 회사를 공격하는 데 필요한 기술적 능력 수준을 낮춘 것처럼 ChatGPT와 같은 AI 도구는 거의 모든 사람이 설득력 있게 들릴 수 있음을 의미하므로 이론적으로 더 큰 인구 통계가 이제 효과적으로 조정할 수 있습니다.

AI 지원 피싱 사기

피싱 사기는 수년 동안 존재해 왔습니다. 사기꾼은 Microsoft와 같은 합법적인 회사로 가장한 이메일이나 문자 메시지를 보내 사용자가 링크를 클릭하도록 유도하여 악의적인 웹 사이트로 연결합니다.

거기에서 위협 행위자는 장치에 맬웨어를 주입하거나 암호와 같은 개인 정보를 훔칠 수 있습니다. 역사적으로 이러한 오류를 발견하는 가장 쉬운 방법 중 하나는 Microsoft와 같은 권위 있는 회사가 고객에게 보내는 공식 이메일에서 단순히 작성하지 않는 철자와 문법 오류였습니다.

그러나 2023년에는 간단한 프롬프트로 ChatGPT가 맞춤법 오류가 없는 깨끗하고 유동적인 사본을 생성할 수 있습니다. 이로 인해 합법적인 서신과 피싱 공격을 구별하기가 훨씬 더 어려워집니다.

피싱을 목적으로 이메일 작성을 ChatGPT에 명시적으로 요청하면 챗봇은 이를 거부합니다. 그러나 우리는 ChatGPT에 피싱 사기의 템플릿으로 사용할 수 있는 두 가지 유형의 이메일을 생성하도록 요청했으며 놀랍게도 이러한 종류의 요청은 콘텐츠 규칙에 따라 차단되지 않는 것 같습니다.

AI 피싱 사기로부터 자신을 보호하기

합법적인 회사에서 보낸 것처럼 보이지만 귀하의 의사 결정에 긴박감을 불어넣으려는 이메일을 받은 경우(예: 벌금을 물거나 계정이 삭제되지 않도록 계정에 로그인하도록 요청하는 경우) 극도로 조심스럽게. 이것은 전형적인 피싱 수법입니다.

이메일이 진짜일 가능성이 높다고 생각되면 언제든지 그 사람이나 회사와 새로운 커뮤니케이션 라인을 열 수 있습니다.

예를 들어, 승인되지 않은 제3자가 귀하의 계정에 액세스했다는 의심스러운 이메일을 은행으로부터 받은 경우 이메일에 응답하지 말고 은행 고객 서비스 팀에 직접 연락하십시오. 그들의 웹사이트.

AI 음성 복제 사기

AI 음성 사기는 최근 몇 달 동안 헤드라인을 장식한 일종의 AI 지원 사기입니다. 글로벌 McAfee 설문 조사 에 따르면 응답자의 10%가 이미 AI 음성 사기의 표적이 된 것으로 나타났습니다. 추가로 15%는 표적이 된 사람을 알고 있다고 보고했습니다.

AI 음성 복제 사기 중 돈을 잃은 미국 피해자의 11%는 $5,000–$15,000를 사기당했습니다.

AI 음성 사기에서 악의적인 행위자는 대상의 소셜 미디어 계정에서 오디오 데이터를 스크랩한 다음 원본 오디오 스타일로 새로운 콘텐츠를 생성할 수 있는 텍스트 음성 변환 앱을 통해 실행합니다. 이러한 종류의 앱은 온라인에서 무료로 액세스할 수 있으며 악의적이지 않은 적법한 용도로 사용됩니다.

사기꾼은 곤경에 처해 있고 돈이 절실히 필요한 대상을 묘사하는 음성 메일 또는 음성 메모를 만듭니다. 그런 다음 사랑하는 사람의 목소리와 AI 생성 버전을 구별할 수 없기를 바라며 가족에게 전송됩니다.

AI 음성 사기로부터 자신을 보호하세요

FTC(Federal Trade Commission)는 소비자들에게 곤경에 처한 사랑하는 사람으로부터 온 것으로 주장되는 서신을 받은 경우 침착함을 유지하고 전화를 받은 번호로 전화를 걸어 그것이 사실인지 확인하도록 조언합니다.

이 위치에 있다고 생각되고 전화를 걸 수 없는 경우 해당 사람의 일반 전화 번호를 사용해 보십시오. 답변을 받지 못한 경우 가까운 사람들에게 연락하여 소재를 확인하고 내 친구 찾기와 같은 앱을 사용하는 경우 안전한 위치에 있는지 확인하십시오.

소재를 확인할 수 없는 경우 즉시 법 집행 기관에 연락하는 것이 중요합니다. 사기라고 판단되면 FTC에 직접 신고해야 합니다.

사기성 ChatGPT 앱 사기

다른 주요 기술 열풍과 마찬가지로 사람들이 그것에 대해 이야기하고 더 중요한 것은 검색하는 경우 사기꾼은 이를 악용할 것입니다. ChatGPT가 그 대표적인 예입니다.

Sophos의 최근 보고서에 따르면 "fleeceware"라고 불리는 수많은 ChatGPT 인접 앱이 발견되었습니다. Fleeceware 앱은 기능이 제한된 무료 프로그램을 제공한 다음 사용자가 비싼 구독에 가입할 때까지 인앱 광고로 사용자를 공격합니다.

사이버 보안 회사에 따르면 "앱 스토어 안팎의 광고와 스토어의 평가 시스템을 조작하는 가짜 리뷰를 조합하여 이러한 오해의 소지가 있는 앱의 개발자는 순진한 기기 사용자가 앱을 다운로드하도록 유인할 수 있습니다."

SensorTower에 따르면 일주일에 7달러 또는 연간 70달러의 구독을 제공하는 Genie라는 가짜 ChatGPT 앱은 한 달에 100만 달러를 벌었습니다. 다른 사람들은 수만 파운드를 벌었습니다. Android 스토어의 "Chat GBT"라는 또 다른 앱은 Sophos의 보고서에서 구체적으로 다음과 같이 이름이 지정되었습니다.

(이미지 제공: 소포스)

사이버 보안 회사에 따르면 사용자가 막대한 금액을 지불하게 되는 "프로" 기능은 무료 버전과 "본질적으로 동일"합니다. 그들은 또한 앱이 중단되기 전에 리뷰 섹션이 "앱을 다운로드하고 작동하지 않는다는 것을 발견한 사람들의 의견 - 잠금 해제되었을 때 광고만 표시되거나 질문에 응답하지 못한 것"으로 가득 차 있었다고 보고합니다.

가짜 ChatGPT 앱 사기로부터 자신을 보호하세요

이러한 종류의 가입비가 발생하지 않거나 원치 않는 맬웨어를 다운로드하지 않도록 하는 가장 간단한 방법은 단순히 앱을 다운로드하지 않는 것입니다. iPhone 사용자는 이제 최근 출시된 공식 ChatGPT 앱을 다운로드할 수 있습니다. 이것이 현재 App Store를 채우고 있는 가짜 ChatGPT 앱의 종말을 의미하는지 확인하는 것은 흥미로울 것입니다.

또는 iOS 및 Android 사용자 모두 홈 화면에 ChatGPT 웹 링크를 추가할 수 있으며, iPhone 사용자인 경우 웹의 ChatGPT로 바로 연결되는 Siri 바로가기를 만들 수 있습니다. 이 맥락에서 홈 화면 바로 가기와 기본 애플리케이션 사이에는 실질적인 차이가 거의 없습니다.

가짜 채팅GPT 웹사이트

가짜 ChatGPT 앱과 함께 가짜 ChatGPT 웹사이트도 많이 있습니다.

2023년 2월 트위터 사용자 Alvosec은 모두 ChatGPT 관련 이름으로 맬웨어를 배포하는 4개의 도메인을 식별했습니다.

️ 맬웨어를 배포하는 #ChatGPT 도메인을 주의하세요.
chat-gpt-windows[.]com
채팅-gpt-온라인-pc[.]com
채팅-gpt-pc[.]온라인
chat-gpt[.]run@OpenAI #cybersecurity #infosec pic.twitter.com/hOZIVGN4Wi
— Alvosec ️ (@alvosec) 2023년 2월 23일

일부 보고서에 따르면 가짜 ChatGPT 웹사이트는 OpenAI의 챗봇을 브라우저 내 애플리케이션이 아닌 다운로드 가능한 Windows 애플리케이션으로 제시하여 장치에 맬웨어를 로드할 수 있다고 밝혔습니다.

가짜 ChatGPT 웹사이트로부터 자신을 보호하는 방법

ChatGPT는 OpenAI 제품이며 챗봇에 액세스할 수 있는 유일한 방법은 모바일 앱 또는 특정 도메인을 통해서라는 점을 기억하십시오. 예를 들어 "ChatGPT[.]com"은 합법적인 실제 ChatGPT와 아무 관련이 없으며 소프트웨어 클라이언트인 것처럼 ChatGPT를 다운로드할 수 없습니다.

이상하게도 합법적인 ChatGPT 가입/로그인 랜딩 페이지의 URL에는 "ChatGPT"라는 단어조차 없습니다: https://chat.openai.com/auth/login.

OpenAI의 블로그(https://openai.com/blog/chatgpt)를 통해서도 가입할 수 있지만 이것도 OpenAI 도메인의 일부입니다. 누군가가 위의 주소 중 하나로 연결되지 않는 ChatGPT 사이트에 대한 링크를 보내는 경우 해당 링크를 클릭하지 말고 대신 Google을 통해 합법적인 사이트로 이동하는 것이 좋습니다.

AI 투자 사기

암호화폐와 마찬가지로 사기꾼들은 기술 자체뿐만 아니라 AI에 대한 과대 광고를 활용하여 진짜처럼 보이는 가짜 투자 기회를 만들고 있습니다.

"TeslaCoin"과 "TruthGPT Coin"은 사기에 사용되어 Elon Musk와 ChatGPT에 대한 언론의 입소문에 편승하고 스스로를 트렌디한 투자 기회로 가장했습니다.

캘리포니아의 금융 보호 및 혁신 부서는 Maxpread Technologies라는 회사가 가짜 AI 생성 CEO를 만들고 펀더에게 투자를 장려하는 스크립트로 프로그래밍했다고 주장합니다(아래 그림 참조). 회사는 중단 및 자제 명령을 내 렸습니다.

(이미지 제공: coinstats.app)

Forbes는 또 다른 투자 회사인 Harvest Keeper(DFPI가 지난 3월에 무너졌다고 말함)가 열광적인 고객을 지배하기 위해 CEO로 가장할 배우를 고용했다고 보고했습니다. 이것은 일부 사기꾼이 피치가 충분히 현실적임을 확인하기 위해 갈 길이를 보여줍니다.

AI 투자 사기로부터 자신을 보호

당신이 모르는 누군가가 당신에게 투자 기회를 가지고 당신에게 직접 연락을 한다면 그들의 팁을 극도로 조심스럽게 다루십시오. 가치 있는 투자 기회는 이런 식으로 사람들의 무릎에 떨어지는 경향이 없습니다.

사실이 되기에는 너무 좋게 들리고 누군가가 귀하에게 보장된 수익을 제공한다고 해도 믿지 마십시오. 투자에 대한 수익은 결코 보장되지 않으며 귀하의 자본은 항상 위험에 처해 있습니다.

회사에 정기적으로 투자하는 사람이라면 힘들게 번 현금을 버리기 전에 실사를 하는 것의 중요성을 알게 될 것입니다. 관련 제품에 대한 소문과 사기의 확산을 고려하여 장래의 AI 투자에 더 높은 수준의 조사를 적용하는 것이 좋습니다.

AI 사기: 점점 더 악화될 것입니다.

2022년 미국 소비자들은 사기로 인해 88억 달러의 막대한 손실을 입었으며 2023년에도 다를 것 같지 않습니다. 금융 불안정 기간은 종종 사기 증가와 관련이 있으며 전 세계적으로 많은 국가가 어려움을 겪고 있습니다.

현재 인공 지능은 사기꾼의 금광입니다. 모두가 그것에 대해 이야기하고 있지만 무엇이 무엇인지에 대해 실제로 아는 사람은 거의 없으며 모든 형태와 규모의 회사가 AI 제품을 시장에 출시하고 있습니다.

현재 AI에 대한 과대 선전은 AI를 인터넷에서 가장 다운로드 가능하고 투자 가능하며 클릭 가능한 주제로 만들고 있습니다. 사기꾼에게 완벽한 커버를 제공합니다.

라운드를 수행하는 최신 사기를 최신 상태로 유지하는 것이 중요하며 AI로 인해 발견하기가 훨씬 더 어려워지기 때문에 이것이 더욱 중요합니다. FTC, FBI 및 기타 연방 기관은 정기적으로 경고를 발령하므로 소셜 미디어에서 최신 업데이트를 확인하는 것이 좋습니다.

그러나 NordVPN 또는 Surfshark 와 같은 맬웨어 감지 기능이 있는 VPN을 구입하는 것도 권장합니다. 둘 다 표준 VPN처럼 IP 주소를 숨길 뿐만 아니라 Google 검색 결과 페이지에 잠복해 있는 의심스러운 웹사이트를 알려줍니다. 이와 같은 기술을 갖추는 것은 온라인에서 자신을 안전하게 지키는 중요한 부분입니다.