|
|
| ▲ 이미지 출처: Unsplash/Darius Bashar |
다가오는 미국 대선은 가볍게 말하면 엉망인 것 같다. 코로나19는 수백만 명의 사람들이 직접 투표하는 것을 막을 가능성이 높으며 우편 투표는 그다지 유망하지 않다. 이 모든 것은 정치적 긴장이 수십 년 동안 치솟고 있고, 정치적 이어서는 안되는 문제(예: 마스크 착용)가 고도로 정치화되었으며, 미국인들은 정당 라인에 따라 극적으로 분열되는 시기에 발생한다.
그래서 지금 당장 필요한 마지막 것은 민주주의를 대변하는 또 하나의 비틀거리는 정보이다. 우리 모두 2016년에 그게 어떻게 진행되었는지 봤지만 보기가 좋지 않았다. 기록을 위해, 잘못된 정보는 의도적으로 사람들을 오도하는 반면 잘못된 정보는 단순히 부정확하지만 악의적인 의도는 없다. 사람들이 붐비는 투표소에서 안전하다고 느끼거나 USPS의 예산을 늘리기 위해 할 수 있는 기술은 많지 않지만 기술은 허위 정보를 도울 수 있으며 마이크로소프트는 그렇게 하려고 한다.
화요일에 회사는 고객 보안 및 트러스트의 Tom Burt 부사장과 최고 과학 책임자인 Eric Horvitz의 블로그 게시물에 설명된 잘못된 정보를 방지하기 위해 설계된 두 가지 새로운 도구를 출시했다.
첫 번째는 딥 페이크를 감지하기 위해 만들어진 Microsoft Video Authenticator 이다. AI 발전의 이 사악한 부산물에 익숙하지 않은 경우 '딥 페이크'는 인공지능을 사용하여 만든 오디오 또는 시각적 파일을 의미하며, 사람들의 목소리나 모습을 조작하여 말하지 않은 것처럼 보이게 만들 수 있다. 비디오를 편집하여 단어를 연결하고 누군가가 말하지 않은 문장을 구성하는 것은 딥 페이크로 간주되지 않는다. 조작이 수반되지만 신경망이 필요하지 않으며 원본 콘텐츠나 영상을 생성하지도 않는다.
OTP는 동영상이나 이미지를 분석하고 사용자에게 인위적으로 조작된 확률을 알려준다. 비디오의 경우 이 도구는 개별 프레임을 실시간으로 분석할 수도 있다.
딥 페이크 비디오는 누군가의 수백 시간 분량의 비디오를 신경망에 입력하여 네트워크에 그 사람의 음성, 발음, 매너리즘, 제스처 등의 세부 사항을 "가르치는"방식으로 만들어진다. 성가신 동료를 모방하는 것과 같다. 모든 문장이 질문처럼 들리게 하고 복잡한 스프레드 시트에 대해 이야기할 때 눈이 커지는 방식을 모방하여 완성한다. 당신은 그의 존재에서 몇 시간, 아니, 몇 달을 보냈고 그의 성격을 가볍게 두드렸다. 딥 페이크를 생성하는 AI 알고리즘은 제작자의 타겟이 누구인지에 대해 동일한 특성과 그 이상을 학습해야 한다.
충분한 실제 정보와 예제가 주어지면 알고리즘은 딥 페이크 제작자가 컴퓨터 그래픽을 사용하고 출력을 최대한 현실적으로 만들기 위해 수동으로 조정하여 자체 가짜 영상을 생성할 수 있다.
가장 무서운 부분? 딥 페이크를 만들려면 멋진 컴퓨터나 소프트웨어에 대한 많은 지식이 필요하지 않다. 사람들이 온라인에서 무료로 액세스할 수 있는 오픈 소스 프로그램이 있으며 유명인의 동영상 영상을 찾는 데까지 도움이 된다. YouTube가 얼마나 쉬운 지 감사하게 생각한다.
마이크로소프트의 Video Authenticator는 사람의 눈으로 볼 수 없는 딥 페이크 및 미묘한 페이딩 또는 그레이 스케일 요소의 혼합 경계를 감지할 수 있다.
블로그 게시물에서 Burt와 Horvitz는 시간이 지남에 따라 딥 페이크가 더 좋아지고 감지하기 더 어려워질 것이라고 지적한다. 결국 그들은 지속적으로 스스로 학습하고 개선하는 신경망에 의해 생성된다.
마이크로소프트의 대응 전략은 반대 각도에서 들어오는 것이다. 즉, 비디오, 이미지 또는 뉴스가 진짜인지 의심할 여지없이 확인할 수 있는 것이다 (맥도날드 감자 튀김이 대머리를 치료할 수 있을까? 물개가 카약을 때렸을까? 문어와 얼굴을 맞대고? 세상이 진실을 아는 것이 그렇게 중요했던 적이 없었다.)
회사의 클라우드 컴퓨팅 서비스인 Microsoft Azure에 내장된 도구를 사용하면 콘텐츠 제작자가 콘텐츠와 리더에 디지털 해시 및 인증서를 추가할 수 있다. (브라우저 확장으로 사용할 수 있음) 인증서를 확인하고 해시와 일치하여 콘텐츠가 인증되었음을 나타낸다.
마지막으로 마이크로소프트는 또한 워싱턴대학의 정보 공개 센터, 딥 페이크 탐지 회사인 Sensity 및 USA Today와 공동으로 개발한 대화형 "Spot the Deepfake"퀴즈를 시작했다. 이 퀴즈는 사람들이 "합성 미디어에 대해 배우고, 중요한 미디어 리터러시 기술을 개발하고, 합성 미디어가 민주주의에 미치는 영향을 인식"하는 데 도움을 주기 위한 것이다.
마이크로소프트의 새로운 도구가 미칠 영향은 아직 확인되지 않았지만, 그들이 노력하고 있어 기쁘다. 그리고 그들은 혼자가 아니다. Facebook, Twitter 및 YouTube는 모두 사이트에서 딥 페이크를 금지하고 제거하기 위한 조치를 취했다. AI Foundation의 Reality Defender는 합성 미디어 감지 알고리즘을 사용하여 가짜 콘텐츠를 식별한다. 선거 간섭에 맞서기 위해 팀을 구성하는 대형 기술 기업 연합도 있다.
한 가지는 확실하다. 전 세계적 유행병, 광범위한 시위와 폭동, 대량 실업, 불안정한 경제, 그리고 모든 것을 통해 만연한 허위 정보 사이에서 우리는 그것을 극복하기 위해 얻을 수 있는 모든 도움이 필요할 것이다. 선거일 뿐이지만 2020년은 재앙의 해이다.
