딥페이크 기술을 이용해 사기 조직이 2억 홍콩달러 규모의 충격적인 사건을 벌였다고 비난했습니다.

딥페이크 기술(이하 '딥페이크 기술')은 인간의 이미지 합성을 위한 AI를 기반으로 하며, AI 딥러닝을 통해 고도로 복원된 얼굴 변화 효과를 얻을 수 있으며, 음성 AI 시뮬레이션은 고도로 복원된 AI 얼굴 변경 및 음성 변경 효과를 달성할 수 있습니다. 이 기술을 사용하여 충격적인 사기 행위를 많이 하는 사기 조직이 있습니다.

사례 1: 복면을 쓴 사람들 집합

최근 홍콩 경찰은 총 2억 홍콩달러에 달하는 기괴한 사기 사건을 접수받았다. 사기를 당한 것은 AI가 흰늑대에게 자유권을 준 것이었고, 뭔가 잘못되었음을 깨닫기까지 2억 위안을 이체하는 데 일주일이 걸렸다.

이것은 홍콩 역사상 가장 비용이 많이 드는 '얼굴 변경' 사기일 뿐만 아니라 AI '다중 얼굴 변경' 사기와 관련된 최초의 사기 사건이기도 합니다.

신고한 사람은 다국적 기업의 홍콩 지사 직원이었습니다. 그는 영국 본사 최고재무책임자(CFO)로부터 기밀 거래가 이뤄질 예정이라는 메시지를 받았고, 금융 관계자 여러 명을 초청해 화상회의를 진행했다.

그 직원은 회의에 참석한 모든 사람들이 실제 사람들처럼 보이는 것을 보고 문제가 없을 것이라고 생각했습니다. 그 결과 그는 계좌를 15번이나 이체했고, 총 2억 홍콩달러가 5개 현지 은행 계좌에 입금됐다. 나중에 본사에 물어보니 속았다는 사실을 알게 됐습니다!

사기꾼들은 어떻게 회사 유튜브 영상이나 기타 공개 자료를 이용해 고위 간부들의 이미지를 위조한 걸까요? 영국 회사의 소리. 그런 다음 Deepfake 기술을 사용하여 가짜 비디오를 만들어 다른 사람들이 여러 사람이 회의에 참여하고 있다고 생각하게 만듭니다.

사실 이번 가짜 회의에서는 이 직원만 실존 인물이었습니다! 사전 녹화된 영상이라 사장님이 주로 지시를 하시고, 직원들이 끼어들 틈이 없었기 때문에 간단하게 자신을 소개하고 하루를 마무리하세요. 후속 명령은 소프트웨어를 통해 전달됩니다. 이로 인해 이런 충격적인 사건이 발생하게 되었습니다.

사례 2: 궈씨와 늑대

바오터우시 공안국 통신사이버범죄수사국은 지능형 AI 기술을 이용해 통신 사기를 저지른 사례를 공개했다. 푸저우시 기술회사의 법정대리인인 Mr.는 10분 만에 430만 위안을 사기당했습니다.

지난해 4월 20일 정오, 갑자기 궈씨의 친구가 위챗 영상을 통해 찾아와 친구가 다른 곳에서 입찰 중이어서 거액의 보증금이 필요하다고 말했다. 결제할 계좌. 궈 씨는 영상을 보고 정말 자신의 친구인 것을 확인했고, 돈이 도착했는지 확인도 하지 않은 채 두 번에 걸쳐 430만 달러를 이체했다.

나중에 궈 씨는 친구에게 전화를 걸어 자신이 속았다는 사실을 알게 되었습니다. 알고 보니 사기꾼은 지능형 AI 얼굴 변화 및 의성어 기술을 사용하여 친구의 외모를 속이고 친구의 위챗을 직접 사용한 것으로 밝혀졌습니다. 영상채팅을 시작하려면 외모와 목소리가 이중으로 검증돼 누구라도 의심하기 어렵습니다.

그러나 아무리 뛰어난 기술이라도 단점이 드러날 수 있습니다. AI 기술은 상상만큼 강력하지 않습니다.

1. 공공 송금은 표준화된 절차를 준수해야 하며, 개인 송금은 상대방의 신원을 신중하게 확인해야 합니다.

2. , 상대방의 표정을 관찰하고, 더 많이 이야기하고, 목소리를 주의 깊게 식별하십시오.

3. 이상이 감지되면 상대방에게 얼굴을 앞뒤로 손가락을 흔들거나 손가락을 사용하도록 요청하십시오. 얼굴이 일그러져 보이면 AI 얼굴 변경 기능을 사용합니다.

4. 송금하기 전에 다른 연락 방법으로 상대방에게 연락하고 여러 번 확인하세요.