현재 사용 가능한 상위 5가지 딥페이크 감지 도구 및 기술을 살펴본다.

1. Sentinel

Sentinel은 민주 정부, 국방 기관 및 기업이 딥페이크의 위협을 막을 수 있도록 지원하는 선도적인 AI 기반 보호 플랫폼이다. Sentinel의 기술은 유럽의 주요 조직에서 사용된다. 이 시스템은 사용자가 자신의 웹사이트 또는 API를 통해 디지털 미디어를 업로드할 수 있도록 하여 작동하며, 그런 다음 AI 위조 여부를 자동으로 분석한다. 시스템은 미디어가 딥페이크인지 여부를 결정하고 조작의 시각화를 제공한다.

Sentinel의 딥페이크 탐지 기술은 디지털 미디어의 무결성을 보호하도록 설계되었다. 고급 AI 알고리즘을 사용하여 업로드 된 미디어를 분석하고 조작 여부를 확인한다. 시스템은 변경된 미디어 영역의 시각화를 포함하여 결과에 대한 자세한 보고서를 제공한다. 이를 통해 사용자는 미디어가 조작된 위치와 방법을 정확하게 볼 수 있다.

Sentinel의 주요 기능:

●AI 기반 딥페이크 탐지

●유럽의 주요 조직에서 사용

●사용자가 분석을 위해 디지털 미디어를 업로드할 수 있다.

●조작의 시각화 제공

 

2. 인텔(Intel)의 실시간 딥페이크 탐지기

인텔(Intel)은 FakeCatcher로 알려진 실시간 딥페이크 탐지기를 도입했다. 이 기술은 96%의 정확도로 가짜 동영상을 감지하여 밀리 초 단위로 결과를 반환한다. 빙엄턴에 있는 뉴욕주립대학교의 Umur Ciftci와 협력하여 설계된 탐지기는 서버에서 실행되고 웹 기반 플랫폼을 통해 인터페이스하는 인텔(Intel) 하드웨어 및 소프트웨어를 사용한다.

FakeCatcher는 실제 비디오에서 실제 단서를 찾고 비디오 픽셀의 미묘한 "혈액 흐름"과 같이 우리를 인간으로 만드는 요소를 평가한다. 우리의 심장이 피를 뿜어낼 때 우리의 정맥은 색이 바뀐다. 이러한 혈류 신호는 얼굴 전체에서 수집되며 알고리즘은 이러한 신호를 시공간 맵으로 변환한다. 그런 다음 딥 러닝을 사용하여 동영상이 진짜인지 가짜인지 즉시 감지할 수 있다.

인텔 실시간 Deepfake 탐지기의 주요 기능:

●뉴욕주립대학교 빙엄턴과 공동으로 개발

●96%의 정확도로 가짜 동영상을 감지할 수 있다.

●결과를 밀리 초 단위로 반환

●비디오 픽셀의 미묘한 "혈류"를 사용하여 딥페이크를 감지

 

3. WeVerify

WeVerify는 지능형 인간 참여 루프(Human-In-the-Loop) 콘텐츠 검증 및 허위 정보 분석 방법 및 도구 개발을 목표로 하는 프로젝트이다. 이 프로젝트는 조작된 콘텐츠를 노출하기 위해 광범위한 온라인 생태계 내에서 소셜 미디어 및 웹 콘텐츠를 분석하고 맥락화하는 데 중점을 둔다. 이는 교차 모달 콘텐츠 확인, 소셜 네트워크 분석, 마이크로 타겟 폭로, 블록체인 기반 알려진 위조 공개 데이터베이스를 통해 달성된다.

WeVerify의 주요 기능:

●지능형 인간 참여형 콘텐츠 검증 및 허위 정보 분석 방법 및 도구 개발

●소셜 미디어 및 웹 콘텐츠 분석 및 맥락화

●교차 모달 콘텐츠 검증, 소셜 네트워크 분석 및 마이크로 타겟 폭로를 통해 조작된 콘텐츠 노출

●알려진 가짜의 블록체인 기반 공용 데이터베이스 사용

 

4. Microsoft의 비디오 인증 도구

Microsoft의 비디오 인증 도구(Video Authenticator Tool)는 스틸 사진 또는 비디오를 분석하여 미디어가 조작되었는지 여부를 나타내는 신뢰 점수를 제공할 수 있는 강력한 도구이다. 인간의 눈으로 감지할 수 없는 딥페이크 및 미묘한 그레이스케일 요소의 혼합 경계를 감지한다. 또한 이 신뢰 점수를 실시간으로 제공하여 딥페이크를 즉시 감지할 수 있다.

비디오 인증 도구(Video Authenticator Tool)는 고급 AI 알고리즘을 사용하여 미디어를 분석하고 조작 징후를 감지한다. 그것은 종종 딥페이크의 숨길 수 없는 징후인 미디어의 그레이스케일 요소의 미묘한 변화를 찾는다. 이 도구는 실시간 신뢰도 점수를 제공하여 사용자가 미디어의 진품 여부를 신속하게 판단할 수 있도록 한다.

Microsoft 비디오 인증 도구의 주요 기능:

●스틸 사진 또는 비디오 분석

●실시간 신뢰 점수 제공

●미묘한 그레이스케일 변화 감지

●딥페이크를 즉시 감지할 수 있다.

 

5. 음소-비짐(Phoneme-Viseme) 불일치를 이용한 딥페이크 탐지

스탠포드 대학과 캘리포니아 대학의 연구원들이 개발한 이 혁신적인 기술은 입 모양의 역학을 나타내는 비짐이 때때로 구어 음소와 다르거나 일치하지 않는다는 사실을 이용한다. 이러한 불일치는 AI가 입의 움직임을 구어와 완벽하게 일치시키는 데 종종 어려움을 겪기 때문에 딥페이크의 일반적인 결함이다.

음소-비짐 불일치 기술은 고급 AI 알고리즘을 사용하여 비디오를 분석하고 이러한 불일치를 감지한다. 입의 움직임(비짐)을 구어(음소)와 비교하고 일치하지 않는 부분을 찾는다. 불일치가 감지되면 동영상이 딥페이크임을 강력하게 나타낸다.

음소-비짐 불일치를 사용한 딥페이크 탐지의 주요 기능:

●스탠포드 대학과 캘리포니아 대학의 연구원들이 개발

●딥페이크에서 비짐과 음소 사이의 불일치를 악용한다.

●고급 AI 알고리즘을 사용하여 불일치를 감지한다.

●불일치가 감지되면 딥페이크의 강력한 표시를 제공한다.

 

딥페이크 탐지의 미래

21세기의 디지털 환경을 탐색하면서 딥페이크의 유령이 크게 다가오고 있다. 실제 인물을 설득력 있게 모방할 수 있는 이러한 AI 생성 동영상은 온라인 콘텐츠의 진정성에 중대한 위협이 된다. 그들은 개인적인 관계에서 정치적 선거에 이르기까지 모든 것을 혼란에 빠뜨릴 수 있는 잠재력을 가지고 있어 효과적인 딥페이크 탐지 도구와 기술의 필요성을 그 어느 때보다 중요하게 만든다.

위에서 살펴본 5가지 딥페이크 감지 도구 및 기술은 이 분야의 최첨단을 나타낸다. 고급 AI 알고리즘을 활용하여 인상적인 정확도로 딥페이크를 분석하고 감지한다. 각 도구와 기술은 비디오의 미묘한 그레이스케일 요소 분석에서 피사체의 얼굴 표정과 움직임 추적에 이르기까지 딥페이크 탐지에 고유한 접근 방식을 제공한다.

예를 들어 Sentinel은 AI를 사용하여 디지털 미디어를 분석하고 조작 여부를 판단하여 조작의 시각화를 제공한다. 반면 Microsoft의 Video Authenticator Tool은 스틸 사진 또는 비디오가 조작되었는지 여부를 나타내는 실시간 신뢰도 점수를 제공한다. 이러한 도구는 우리가 논의한 다른 도구와 함께 온라인 콘텐츠의 진정성을 보장하는 데 도움이 되는 딥페이크와의 싸움을 주도하고 있다.

그러나 딥페이크 이면의 기술이 계속해서 발전함에 따라 탐지 방법도 발전해야 한다. 딥페이크 기술의 개발은 빠르게 움직이는 목표이며 우리의 도구와 기술은 보조를 맞추기 위해 진화해야 한다. 이를 위해서는 연구원, 기술 회사 및 정책 입안자 간의 협력뿐만 아니라 지속적인 연구 개발이 필요하다.

 

또한 기술만으로는 딥페이크 문제를 해결할 수 없다는 점을 기억하는 것이 중요하다. 교육과 인식도 중요하다. 우리 모두는 정보의 출처에 의문을 제기하고 조작의 징후를 찾아 온라인 콘텐츠에 대해 보다 분별 있는 소비자가 되어야 한다. 딥페이크 기술 및 탐지의 최신 개발 정보를 계속 파악함으로써 우리 모두는 이 위협에 맞서는 데 일조할 수 있다.