광고
광고
광고
광고
광고
로고

32억 개의 이미지와 72만 시간의 비디오가 매일 온라인에서 공유된다. 그러나 완전 및 부분 합성을 통해서 인공지능에 의해 이미지를 생성하는 것을 통해 그리고 픽셀 값 편집 및 단순 자르기 등을 통해 가짜 이미지와 비디오가 양산되어 배포되고 있다. 이렇게 범람하는 가짜 콘텐츠가 너무 많을 때 가짜와 진짜를 구분할 수 있을까? 그렇다면 어떻게 해야 할까?

JM Kim | 기사입력 2020/11/05 [14:49]

32억 개의 이미지와 72만 시간의 비디오가 매일 온라인에서 공유된다. 그러나 완전 및 부분 합성을 통해서 인공지능에 의해 이미지를 생성하는 것을 통해 그리고 픽셀 값 편집 및 단순 자르기 등을 통해 가짜 이미지와 비디오가 양산되어 배포되고 있다. 이렇게 범람하는 가짜 콘텐츠가 너무 많을 때 가짜와 진짜를 구분할 수 있을까? 그렇다면 어떻게 해야 할까?

JM Kim | 입력 : 2020/11/05 [14:49]

지난 주말 트위터는 미국 민주당 대선 후보인 조 바이든이 군중들에게 연설하는 동안 자신이 어느 주에 있는지 잊어버린 것으로 추정되는 동영상을 조작한 것으로 "태그"를 붙였다.  

바이든의 '안녕 미네소타'인사말은 '탐파, 플로리다' 'Text FL to 30330'이라는 유명한 간판과 대조를 이룬다.

 

Associated Press의 사실 확인은 표지판이 디지털 방식으로 추가되었으며 원본 영상은 실제로 미네소타 집회에서 가져온 것임을 확인했다. 그러나 오해의 소지가 있는 동영상이 삭제되었을 때 이미 조회수가 100만회를 넘었다.

 

소셜 미디어를 사용하는 경우 매일 32억 개 이상의 이미지와 72만 시간 분량의 동영상이 공유될 가능성이 있다. 콘텐츠가 너무 많을 때 무엇이 진짜인지 아닌지 어떻게 알 수 있을까?

 

솔루션의 한 부분은 콘텐츠 확인 도구의 사용 증가이지만 우리 모두가 디지털 미디어 활용 능력을 향상시키는 것도 마찬가지로 중요하다. 궁극적으로 최고의 방어선 중 하나이며 제어할 수 있는 유일한 사람은 바로 당신이다.

 

보는 것이 항상 믿을 수 있는 것은 아니다.

 

어떤 매체에서 든 잘못된 정보(실수로 허위 콘텐츠를 공유한 경우)와 허위 정보 (의도적으로 공유한 경우)는 뉴스 조직, 연합 및 사회 운동과 같은 시민 기관에 대한 신뢰를 약화시킬 수 있다. 그러나 가짜 사진과 비디오가 가장 강력하다.

 

기득권이 있는 정치적 이해 관계를 가진 사람들의 경우, 허위 이미지를 생성, 공유 및/또는 편집하는 것은 시청자의주의를 산만하게 하고 혼동하고 조작하여 불일치와 불확실성을 심을 수 있다(특히 이미 양극화된 환경에서). 포스터와 플랫폼은 가짜 선정주의 콘텐츠를 공유하여 수익을 창출할 수도 있다.

 

국제 언론인 센터에 따르면 전 세계 언론인의 11~25%만이 소셜 미디어 콘텐츠 검증 도구를 사용한다.

 

 

 

박사 이미지를 찾을 수 있을까?

 

마틴 루터 킹 주니어의 이 사진을 살펴보자.

 

 

이 변경된 이미지는 킹 주니어의 손가락 위로 배경의 일부를 복제하므로 그가 카메라에서 튀어나온 것처럼 보인다. Twitter, Reddit 및 백인 우월주의 웹 사이트에서 정품으로 공유되었다.

 

1964년 원본 사진에서 킹은 미국 상원이 시민권 법안을 통과시켰다는 사실을 알게 된 후승리를 위한 V”기호를 번쩍였다.

 

 

요소를 추가하거나 제거하는 것 외에도 이미지가 함께 융합되는 사진 조작의 전체 범주가 있다.

 

올해 초, 폭스 뉴스는 무장한 남자의 사진을 포토샵으로 찍었다이 사진은 편집 내용을 공개하지 않고 그 남자를 다른 장면에 겹쳐 놓았다고 Seattle Times는 보도했다.

 

 

마찬가지로 아래 이미지는 호주의 Black Summer 산불이 발생한 1월에 소셜 미디어에서 수천 번 공유되었다. AFP의 사실 확인을 통해 진품이 아니며 실제로 여러 개의 개별 사진이 결합된 것으로 확인되었다.

 

 

완전 및 부분 합성 콘텐츠

 

온라인에서는 일반적으로 유명한 사람들이 한 번도 하지 않은 일을 말하거나 행하는 것을 보여주는 정교한 '딥 페이크'동영상을 찾을 수 있다. 덜 고급 버전은 Zao Reface와 같은 앱을 사용하여 만들 수 있다.

 

 

또는 프로필 사진으로 사진을 사용하지 않으려는 경우 AI에서 생성한 수십만 명의 사실적인 인물 이미지를 제공하는 여러 웹 사이트 중 하나를 기본값으로 사용할 수 있다.

 

 

이 사람들은 존재하지 않고 인공지능에 의해 생성된 이미지일 뿐이다. 생성된 사진, CC BY

 

 

 

픽셀 값 편집 및 (그렇지 않음) 단순 자르기

 

자르기는 사진의 맥락도 크게 바꿀 수 있다.

 

가디언에 따르면 2017년 미국 공무원이 도널드 트럼프의 취임식 공식 사진을 편집하여 군중을 더 크게 보이게 만들었다. 직원은 트럼프의 사진 세트를 위해관중이 끝난 곳의 빈 공간을 잘라 냈다.

 

 

2009년 버락 오바마 전 미국 대통령(왼쪽) 2017년 도널드 트럼프 대통령(오른쪽)의 취임식에서 군중의 모습. AP

 

그러나 색상, 채도 또는 대비와 같은 픽셀 값만 변경하는 편집은 어떨까?

 

한 가지 역사적 예는 이것의 결과를 보여준다. 1994년 타임지의 OJ Simpson 표지는 경찰 수배 장면에서 심슨을 상당히 "어두워졌다". 이것은 이미 인종적 긴장에 시달리고 있는 사건에 연료를 추가했으며잡지는시간이나 예술가에 의해 인종적 의미가 의도되지 않았다.”고 대답했다.

 

 

 

디지털 속임수 밝힘 도구

 

시각적인 잘못된 정보/허위 정보에 속지 않으려는 사람들을 위해 사용할 수 있는 도구가 있다. 각 도구에는 고유한 한계가 있다 (최근 논문에서 논의한 내용).

 

보이지 않는 디지털 워터 마킹이 해결책으로 제안되었다. 그러나 널리 퍼져 있지 않으며 콘텐츠 게시자와 배포자 모두의 동의가 필요하다.

 

역방향 이미지 검색(: Google)은 종종 무료이며 온라인에서 잠재적으로 더 확실한 이미지 사본을 더 일찍 식별하는 데 도움이 될 수 있다. , 다음과 같은 이유로 절대적인 것은 아니다.

 

 

 

이미 온라인 상태인 미디어의 편집되지 않은 사본에 의존한다. 전체 웹을 검색하지 않는다.

 

항상 게시 시간으로 필터링을 허용하지는 않는다. TinEye와 같은 일부 역 이미지 검색 서비스는 이 기능을 지원하지만 Google은 지원하지 않는다.

 

정확히 일치하거나 거의 일치하는 항목만 반환하므로 완전하지 않다. 예를 들어 이미지를 편집한 다음 방향을 바꾸면 Google이 완전히 다른 이미지라고 속일 수 있다.

 

 

 

가장 신뢰할 수 있는 도구는 정교함

 

한편, 시각적 오류/허위 정보에 대한 수동 포렌식 감지 방법은 주로 육안으로 볼 수 있는 편집에 초점을 맞추거나 모든 이미지에 포함되지 않은 기능(: 그림자)을 검사하는 데 의존한다또한 시간과 비용이 많이 들고 전문 지식이 필요하다.

 

하지만 "가짜"저장소가 늘어나는 Snopes.com과 같은 사이트를 방문하여 이 분야의 작업에 액세스할 수 있다.

 

컴퓨터 비전과 머신러닝은 이미지와 비디오에 대해 비교적 고급 감지 기능을 제공한다. 그러나 그들 역시 작동하고 이해하기 위해 기술적 전문 지식이 필요하다.

 

또한 이를 개선하려면 많은 양의 '교육 데이터'를 사용해야 하지만 이를 위해 사용되는 이미지 저장소에는 일반적으로 뉴스에 나오는 실제 이미지가 포함되어 있지 않다.

 

REVEAL 프로젝트의 이미지 확인 도우미와 같은 이미지 확인 도구를 사용하는 경우 결과 해석을 도와줄 전문가가 필요할 수 있다.

 

그러나 좋은 소식은 위의 도구를 사용하기 전에 소셜 미디어의 사진이나 동영상이 가짜인지 알아내기 위해 스스로에게 물어볼 수 있는 몇 가지 간단한 질문이 있다는 것이다. 생각해보자: 원래 소셜 미디어 용으로 만들어 졌나? 얼마나 널리 그리고 얼마나 오랫동안 유통되었을까어떤 응답을 받았는가? 의도된 청중은 누구였을까? 종종 답변에서 도출된 논리적 결론은 허위 영상을 걸러 내기에 충분할 것이다. 여기에서 맨체스터 메트로폴리탄 대학교 전문가가 모아 놓은 전체 질문 목록에 액세스할 수 있다.

 

 

 

이 기사는 Creative Commons 라이선스에 따라 The Conversation에서 다시 게시되었다. 원본 기사를 읽을 수 있다.

 

 
가짜뉴스, 이미지 편집, 인공지능, 딥페이크 관련기사목록
광고
광고
광고
광고
광고
많이 본 기사
신기술/산업·미래교육 미래예측 많이 본 기사