동아일보

• 우리 애가 회의 전에 급하게 송금해 달라기에...

  나는
  부탁하지 않았다

  송금 사기 AI 딥보이스 사건 파일

  당신은 송금 사기의 표적이 되었습니다보이스피싱 조직이 당신의 목소리를 복제해 엄마에게 전화를 걸었습니다.

  

  

  전화기 너머 딸의 울음소리?
  신종 보이스피싱이었다

  송금 사기 AI 딥보이스 실제 사건

  미국 플로리다주에 사는 샤론. 2025년 7월 12일 휴대전화로 걸려온 전화 속 목소리는 딸 에이프릴이었다. “교통사고를 내 임신부가 크게 다쳤고 체포됐다”고 말하며 흐느꼈다. 전화를 바꿔 받은 남성은 자신이 변호인이라고 소개하며 “보석금으로 1만5000달러가 필요하다”고 했다. 당황한 샤론은 바로 현금을 인출해 전달했다. 하지만 에이프릴의 목소리는 가짜였다. 범인들이 AI로 에이프릴 목소리를 복제해 가짜 음성을 만들어냈다. (출처: 플로리다주 방송국 WFLA)
  
  얼굴이 보이지 않는 데다 가족이 피해를 입을 수 있다는 불안이 더해지면 가짜 음성의 공포는 더욱 강해진다. 올해 4월 A 씨는 서울 한 지하철역에서 보이스피싱을 당할 뻔했다. 전화 속에서는 AI로 변조된 딸의 목소리가 들렸고, 납치됐다고 했다. 다행히 A 씨의 통화 모습을 본 역무원의 기지로 보이스피싱 피해를 막을 수 있었다.
  
  올해 4월 글로벌 사이버 보안 기업 크라우드스트라이크가 발표한 보고서에 따르면 지난해 7~12월 집계된 AI 딥보이스 피싱 범죄 사례는 266건이다. 보고서는 “AI 기술이 사이버 범죄자들에게 새로운 무기를 제공하면서, 위협의 속도와 정교함이 이전과는 비교할 수 없을 정도로 강화되고 있다"고 경고했다.

  다른 시나리오 보러가기

  음성 파일을 다운 받을 수 있어요

  

• 그 얘기는 인사담당자님이 직접 했다고 들었습니다

  나는
  혐오하지 않았다

  명예 훼손 AI 딥보이스 사건 파일

  당신은 한 기업의 인사팀장입니다.원한을 품은 직원이 당신을 '지역혐오자'로 만들었습니다.

  

  

  교장 선생님의 ‘헤이트 스피치’?
  알고 보니 딥보이스

  명예 훼손 AI 딥보이스 실제 사건

  BBC 등 외신에 따르면 2024년 1월 온라인에 에릭 아이즈워트 목소리의 인종 비하 발언 음성 파일이 퍼졌다. 그는 미국 메릴랜드주 파이크스빌 고등학교의 교장이었다. 파일에는 흑인 학생들을 향해 “너무 멍청해서 아무 것도 못 한다” “(유대인 교사는) 채용되지 말았어야 했다” 등 음성이 담겨있었다.
  
  학교는 교장을 직무정지시켰고, 교장은 살해 협박과 증오 메시지에 시달렸다. 그러나 조사 결과 해당 음성은 가짜인 것으로 드러났다. 운동부 감독이었던 대존 대리언이 계약 해지를 통보받은 뒤 복수심에 AI로 교장의 목소리를 복제해 만든 것이었다.

  다른 시나리오 보러가기

  AI로 복제된 목소리를 다운 받을 수 있어요

  

• 유명 스타트업 대표가 자신 있게 추천하길래 투자했죠

  나는
  보증하지 않았다

  투자 사기 AI 딥보이스 사건 파일

  당신은 투자 전문 기업 대표입니다. 투자사기단이 당신의 목소리를 조작해 투자 허위 정보를 퍼뜨렸습니다.

  

  

  유명인이니까 믿었다?
  딥페이크로 노후자금 ‘증발’

  투자 사기 AI 딥보이스 실제 사건

  2023년 말 82세 미국인 스티브 보챔프 씨는 테슬라 최고경영자(CEO) 일론 머스크가 ‘고수익을 약속한다’는 투자 광고를 보고 노후자금 전액 69만 달러(약 9억7000만 원)를 투자했다. 하지만 그가 영상에서 본 머스크는 인공지능(AI)이 만들어낸 ‘가짜 머스크’였다. 범인들은 머스크의 실제 인터뷰 영상에 AI로 복제한 머스크의 목소리를 입혔다. AI는 대본과 일치하도록 입술 움직임까지 바꿨다. 보챔프 씨는 돈을 모두 잃었다. (출처: 뉴욕타임즈)
  
  국내에서도 딥페이크 투자 사기 사건이 발생했다. 2023년 말 배우 조인성과 송혜교의 얼굴과 음성을 AI로 조작해 이차전지 사업에 투자를 권유한 사기 사건이 보도됐다. 배우들이 “투자가 순조롭게 진행되길 희망한다”고 말하는 장면에 피해자들은 속아넘어갔다. 1억 원이 넘는 돈을 투자한 피해자도 있었다.
  
  2023년 미국 정보보호업체 맥아피가 7개국 7054명 대상으로 설문 조사한 결과, 성인 4명 중 1명이 AI 음성 사기를 경험했다고 답했다. 이로 인해 피해를 본 사람의 3분의 1 이상은 1000달러(약 140만 원) 이상의 손해를 봤다고 응답했다. 7%는 5000~1만5000달러(700만~2100만 원)를 잃었다고 했다.

  다른 시나리오 보러가기

  AI로 복제된 목소리를 다운 받을 수 있어요

  

• 제출된 증거는 제 목소리가 맞았어요

  나는
  괴롭히지 않았다

  증거조작 AI 딥보이스 사건 파일

  당신은 학교폭력 가해자로
  조사를 받게 되었습니다같은 반 친구가 조작된 증거로 당신을 학교폭력 가해자로 둔갑시켰습니다.

  

  

  재판 증거 조작까지…
  법정 뒤흔드는 딥보이스

  증거조작 AI 딥보이스 실제 사건

  법조계 등에 따르면 지난해 한 직장 내 괴롭힘 관련 진정 사건에서 딥보이스로 추정되는 음성을 증거로 활용하려던 시도가 적발됐다. 진정인 A 씨는 임원에게 성희롱과 괴롭힘을 당했다며 서울지방고용노동청에 진정을 제기했다. 증거 자료로 부적절한 발언이 담긴 음성 파일과 녹취록을 제출했다. 하지만 노동청은 진위 여부를 검토한 뒤 조작된 파일로 결론내렸다.
  
  미국 온라인 매체 악시오스는 7월 법정에서 금과옥조처럼 여겨지던 사진, 영상, 음성 등 증거들이 딥페이크 확산으로 점점 신뢰를 잃고 있다고 보도했다. 미국 법원은 진위 판별 기술이 딥페이크 발전 속도를 따라잡지 못하고 있으며, AI로 조작된 증거를 검증할 전문 포렌식 분석가도 부족하다고 지적했다. 진짜 증거에 대해 상대방이 조작된 가짜라고 주장하는 경우, 해당 주장의 진위 여부조차 검증하기 어려운 것이다.

  다른 시나리오 보러가기

  AI로 복제된 목소리를 다운 받을 수 있어요

  

카드를 눌러 상황을 들어보세요