'AI 얼굴 변신 기술'을 1초만에 꿰뚫어보는 연예인들의 변신 사기, 숨길 곳 없는 연예인들의 변신 사기

TK Star Rewards Editor

모든 사람이 AI 얼굴 변화 기술에 어느 정도 노출되었습니다. 드라마 배우로서 양양, 류앤디, 양미 등 스타들과 같은 무대에 섰으나 얼굴 정보 유출 위험 때문에 하루아침에 패배했다. 얼마 전 정지된 사진을 움직이게 만드는 특수효과 '앤트 예 헤이(Ant Yeah Hey)'가 단편 영상 플랫폼에서 인기를 끌었다.

이러한 인터넷 유명인 애플리케이션은 딥페이크 기술을 기반으로 하며 영화 및 TV 후반 작업, 가상 아이돌 및 기타 시나리오에도 사용되지만 이 기술의 부정적인 위협은 증폭되었습니다.

영상 속 얼굴이 진짜인지 가짜인지 어떻게 알 수 있나요? 2021년 세계인공지능컨퍼런스에서 'AI 얼굴 변화 기술'을 1초 만에 식별할 수 있는 아티팩트, 딥리얼(DeepReal) 딥페이크 콘텐츠 탐지 플랫폼.

세상에서 이길 수 없는 유일한 무술은 속도다. 프레임 하나를 감지하는 데 30밀리초가 걸립니다. 1초만에 가짜 얼굴을 알아볼 수 있습니다.

이는 인공 지능의 인큐베이터인 Beijing Realai Intelligent Technology Co., Ltd.(이하 RealAI)가 개발한 DeepReal 딥 페이크 콘텐츠 탐지 플랫폼인 'AI 얼굴 변화 기술'의 천적입니다. 칭화대학교 인공지능연구소.

감지는 얼마나 정확합니까? 테스트 결과, 학술 데이터 세트, ZAO 등 주류 방식으로 생성된 네트워크 데이터에서 DeepReal의 정확도는 99%에 달했으며, 이는 Facebook의 이전 Deepfake 탐지 챌린지에서 발표한 최고 결과를 훨씬 뛰어 넘는 수치입니다.

DeepReal이 '먹는' 데이터의 양은 수천만 개에 이르렀으며, 데이터 세트는 학술 딥 페이크 데이터 세트, 네트워크 딥 페이크 데이터 세트, 자체 조사 딥 페이크 등 세 가지 주요 범주를 포함합니다. 데이터 세트: 새로운 샘플을 예측할 때 모델 불확실성을 추정하기 위한 베이지안 학습 프레임워크 및 심층 신경망.

RealAI의 부사장 Tang Jiayu는 미래에 DeepReal이 허위 온라인 콘텐츠 선별, 얼굴 데이터 검토, 이미지 증거 진위 테스트 등의 시나리오에 신속하게 적용될 수 있다고 믿습니다.

법적인 차원에서는 2020년에 타인의 초상권과 목소리를 위조하여 침해하는 정보기술 이용을 금지하는 내용이 민법에 명시되어 깊은 '긴장 저주'를 걸었습니다. 그렇다면 기술적 관점에서 고품질 탐지 및 크래킹 도구를 지속적으로 개발하는 방법은 무엇입니까?

표준을 설정하는 것이 첫 번째 단계입니다.

리얼에이아이(RealAI)와 국가산업정보보호센터는 얼굴모델 알고리즘 자체의 보안과 관련한 우리나라 최초의 표준인 '정보보호기술 얼굴비교모델 보안기술규격'을 제2저작단위로 공동 개발했다. 통통과학원은 산업정보부 사이버보안국의 지도 아래 '인공지능 보안 프레임워크(2020)' 블루북을 공동 편찬했다. RealAI는 현재 머신러닝 알고리즘의 안전성과 관련된 국가 표준은 물론, 인공지능 합성 오디오 및 비디오, 인공지능 생체 인식과 관련된 산업 표준 등 다양한 표준 제정에도 참여하고 있습니다.

점점 더 많은 기관들이 AI 테스트와 표준 제정에 참여하고 있다. "우리는 인공지능에 대한 다양한 표준을 제정하고 있습니다. 올해 상하이는 '공공 장소에서의 얼굴 인식 등급 분류'를 승인했습니다." 애플리케이션 사양 및 현지 표준 확립." 상하이 컴퓨터 소프트웨어 기술 개발 센터 인공 지능 거버넌스 연구소 전무 Chen Mingang은 "IT Times" 기자에게 얼굴 인식이 AI 표준 및 탐지 도구의 높은 기반이 될 것이라고 말했습니다. .