AI가 생성한 스팸이 곧 받은 편지함을 사기로 가득 채울 수 있습니다.

매일 나이지리아 왕자, 놀라운 약의 행상인, 놓칠 수 없는 투자 홍보자들의 메시지가 이메일 받은 편지함을 질식시킵니다.

스팸 필터의 개선은 보호 기능을 뚫는 새로운 기술에 영감을 주는 것 같습니다.

이제 스팸 차단기와 스팸 발신자 사이의 군비 경쟁은 새로운 무기인 생성 인공 지능의 등장으로 확대될 예정입니다.

최근 ChatGPT로 유명해진 AI의 발전으로 스패머는 필터를 피하고 사람들의 관심을 끌고 개인 정보를 클릭, 구매 또는 포기하도록 유도할 수 있는 새로운 도구를 갖게 되었습니다.

University of South Florida의 Advanced Human and Machine Reasoning 연구소 소장으로서 저는 인공 지능, 자연 언어 처리 및 인간 추론의 교차점을 연구합니다.

나는 AI가 어떻게 사람들의 개인적 선호도, 신념, 개성을 학습할 수 있는지 연구했습니다.

이것은 사람들과 상호작용하는 방법을 더 잘 이해하고, 그들이 배우도록 돕고, 유용한 제안을 제공하는 데 사용될 수 있습니다.

그러나 이것은 또한 귀하의 약점을 알고 귀하에게 불리하게 사용할 수 있는 더 똑똑한 스팸에 대비해야 함을 의미합니다.

스팸, 스팸, 스팸

그렇다면 스팸이란 무엇일까요? 스팸은 알 수 없는 주체가 보내는 원치 않는 상업성 이메일로 정의됩니다. 이 용어는 때때로 문자 메시지, 소셜 미디어의 직접 메시지 및 제품에 대한 가짜 리뷰로 확장됩니다.

스패머는 무언가를 구매하거나, 피싱 링크를 클릭하거나, 맬웨어를 설치하거나, ​​보기를 변경하는 등의 조치를 취하도록 유도하려고 합니다.

스팸은 수익성이 있습니다. 한 번의 이메일 폭발은 단 몇 시간 만에 $1,000를 벌 수 있으며 스패머는 초기 설정을 제외하고 몇 달러에 불과합니다. 온라인 제약 스팸 캠페인은 하루에 약 $7,000를 벌어들일 수 있습니다.

합법적인 광고주는 또한 제품 구매, 설문 조사 참여, 뉴스레터 가입 등의 조치를 취하도록 유도하기를 원합니다.

그러나 마케터 이메일은 기존 회사 웹사이트로 연결되고 연방 규정에 따라 구독 취소 옵션을 포함할 수 있지만 스팸 이메일은 그렇지 않을 수 있습니다.

스패머는 또한 사용자가 등록한 메일링 리스트에 대한 액세스 권한이 없습니다. 대신 스패머는 "나이지리아 왕자" 사기와 같은 직관적이지 않은 전략을 사용합니다.

나이지리아의 왕자는 터무니없는 금액의 돈을 풀기 위해 당신의 도움이 필요하다고 주장하며 당신에게 좋은 보상을 약속합니다.

정통한 디지털 네이티브는 그러한 탄원을 즉시 기각하지만 요청의 부조리로 인해 실제로 사기에 빠질 가능성이 가장 높은 사람들을 필터링하여 순진하거나 고령을 선택할 수 있습니다.

그러나 AI의 발전은 스패머가 이러한 성공 또는 실패 접근 방식에 의존할 필요가 없음을 의미합니다.

AI를 통해 개인을 대상으로 삼고 소셜 미디어 게시물과 같이 쉽게 액세스할 수 있는 정보를 기반으로 메시지를 보다 설득력 있게 만들 수 있습니다.

스팸의 미래

ChatGPT와 같은 생성적 대규모 언어 모델의 발전에 대해 들어보셨을 것입니다.

이러한 생성 LLM이 수행하는 작업은 믿을 수 없을 정도로 간단합니다. 텍스트 시퀀스가 ​​주어지면 어떤 토큰(이를 단어의 일부로 생각)이 다음에 오는지 예측합니다.

그런 다음 그 뒤에 어떤 토큰이 올지 예측하십시오. 그리고 계속해서.

여하튼, 충분히 큰 LLM에서 충분한 텍스트로 수행될 때 해당 작업에 대한 교육만으로도 이러한 모델이 다른 많은 작업에서 놀라울 정도로 잘 수행할 수 있는 능력을 부여하기에 충분해 보입니다.

이 기술을 사용하는 다양한 방법이 이미 등장하여 개인에게 빠르게 적응하고 학습할 수 있는 기술의 능력을 보여줍니다.

예를 들어, LLM은 작성 방법에 대한 몇 가지 예만 주어지면 작성 스타일로 전체 이메일을 작성할 수 있습니다. 그리고 이제 10년이 넘은 고전적인 예가 있습니다. 타겟이 그녀의 아버지가 알기도 전에 고객이 임신한 것을 알아냈습니다.

스패머와 마케터 모두 적은 데이터로 개인에 대해 더 많이 예측할 수 있다는 이점이 있습니다.

LinkedIn 페이지, 몇 개의 게시물, 프로필 이미지 한두 개를 감안할 때 LLM으로 무장한 스패머는 정치적 성향, 결혼 여부 또는 삶의 우선 순위에 대해 상당히 정확한 추측을 할 수 있습니다.

우리의 연구는 LLM을 사용하여 의미론적 유창성 작업이라는 단어 생성 작업에서 다른 AI 접근 방식을 훨씬 능가하는 정확도로 개인이 다음에 말할 단어를 예측하는 데 사용할 수 있음을 보여주었습니다.

우리는 또한 LLM이 추론 능력 테스트에서 특정 유형의 질문을 선택하고 사람들이 해당 질문에 어떻게 반응할지 예측할 수 있음을 보여주었습니다.

이것은 LLM이 이미 일반적인 인간의 추론 능력이 어떤 것인지에 대한 지식을 가지고 있음을 시사합니다.

스패머가 초기 필터를 통과하여 이메일을 읽거나 링크를 클릭하거나 심지어 대화에 참여하게 하면 맞춤형 설득을 적용하는 능력이 크게 향상됩니다.

여기서도 LLM은 판도를 바꿀 수 있습니다. 초기 결과는 LLM이 정치에서 공중 보건 정책에 이르는 주제에 대해 설득력 있게 논쟁하는 데 사용될 수 있음을 시사합니다.

갠더에게 좋다

그러나 AI는 한쪽이나 다른 쪽을 선호하지 않습니다. 스팸 필터는 또한 AI 스팸 발전의 이점을 얻어 원치 않는 이메일에 대한 새로운 장벽을 세울 수 있습니다.

스패머는 종종 "c1ick h.ere n0w"와 같은 사소한 텍스트 이상을 용서하는 인간의 성향에 의존하여 특수 문자, 철자가 틀린 단어 또는 숨겨진 텍스트로 필터를 속이려고 합니다.

그러나 AI가 스팸 메시지를 더 잘 이해함에 따라 필터는 원치 않는 스팸을 더 잘 식별하고 차단할 수 있습니다. 명시적으로 등록한 마케팅 이메일과 같은 원하는 스팸을 통과시킬 수도 있습니다.

이메일을 읽기도 전에 이메일을 읽을지 여부를 예측하는 필터를 상상해 보십시오.

Tesla, SpaceX, Twitter CEO Elon Musk, Apple 설립자 Steve Wozniak 및 기타 기술 리더가 AI 개발 중단을 촉구하는 등 AI에 대한 우려가 커지고 있음에도 불구하고 기술 발전에서 많은 이점을 얻을 수 있습니다.

AI는 인간 추론의 약점이 나쁜 행위자에 의해 어떻게 악용될 수 있는지 이해하고 악의적인 활동에 대응하는 방법을 개발하는 데 도움이 될 수 있습니다.

모든 새로운 기술은 경이로움과 위험을 동시에 가져올 수 있습니다. 차이점은 도구를 만들고 제어하는 ​​사람과 도구를 사용하는 방법에 있습니다.

이 기사는 십대의 아버지임을 나타내도록 업데이트되었습니다 .

이것에 대해 생각이 있습니까? 댓글 아래에 한 줄을 남기거나 Twitter 또는 Facebook으로 토론을 진행하십시오.

편집자 추천:

• Gmail의 스팸 설정을 변경하고 필터를 맞춤설정하는 방법
• WhatsApp 스팸을 식별하고 방지하는 방법
• 확인된 Facebook 페이지가 해킹되어 맬웨어를 퍼뜨렸습니다.
• 기술 리더는 AI 교육에서 일시 중지 버튼을 누르기를 원합니다.

편집자 주: 이 기사는 University of South Florida의 컴퓨터 과학 조교수이자 AMHR 연구소 소장인 John Licato가 작성했으며 Creative Commons 라이선스에 따라 The Conversation에서 다시 게시했습니다. 원본 기사를 읽으십시오.