텔아비브(CNN) 궁극의 크리스마스 스웨터를 입은 빨간머리 남자가 카메라를 향해 다가온다. 노란색 사분면이 그를 둘러싸고 있다. 얼굴 인식 소프트웨어는 즉시 그 남자를 ... 기린으로 식별한다?
이 잘못된 신원 사례는 우연이 아니다. 문자 그대로 의도적으로 설계된 것이다. 스웨터는 이탈리아 스타트업 Cap_able의 데뷔 Manifesto 컬렉션의 일부이다. 상의뿐만 아니라 후드, 팬츠, 티셔츠, 드레스도 포함됩니다. 각각은 얼굴 인식 소프트웨어를 혼동시키기 위해 인공 지능 알고리즘에 의해 설계된 "adversarial patch"로 알려진 패턴을 자랑한다. 카메라가 착용자를 식별하지 못하거나 기린, 얼룩말, 개 또는 패턴에 포함된 다른 동물 중 하나이다.
공동설립자이자 CEO인 Rachele Didero는 "카메라 앞에 서면 내 데이터를 제공할지 여부를 선택할 수 없습니다."라고 말한다. “그래서 우리는 이러한 선택을 할 수 있는 가능성을 줄 수 있는 의류를 만들고 있습니다. 우리는 파괴적이 되려고 하지 않습니다.”
29세의 Didero는 밀라노 Politecnico에서 "개인 정보 보호를 위한 섬유 및 기계 학습" 박사 과정을 공부하고 있으며 MIT의 Media Lab에서 일했다. Cap_able에 대한 아이디어는 Fashion Institute of 뉴욕의 기술. 그곳에 있는 동안 그녀는 브루클린의 세입자가 건물에 안면 인식 출입 시스템을 설치하려는 집주인의 계획에 어떻게 맞서 싸웠는지 읽었다.
"안면 인식에 대해 처음 들었습니다."라고 그녀는 말한다. "제 친구 중 한 명이 컴퓨터 과학 엔지니어였기 때문에 우리는 함께 '이건 문제이다. 패션 디자인과 컴퓨터 과학을 결합하여 데이터를 보호하기 위해 매일 착용할 수 있는 무언가를 만들 수 있을 것이다.'라고말했다."
Cap_able은 첫 번째 프로젝트가 얼굴인식을 보호하는 니트 의류를 사용한 Manifesto Collection인 이탈리아 스타트업이다.
아이디어를 생각해내는 것은 쉬운 부분이었다. 이를 현실화하기 위해 그들은 얼굴인식 소프트웨어를 속일 수 있는 이미지를 만드는 데 도움이 되는 올바른 "적대적 알고리즘"을 먼저 찾고 나중에 설계해야 했다. 예를 들어 기린의 이미지를 만든 다음 알고리즘을 사용하여 조정한다. 또는 원하는 이미지나 패턴의 색상, 크기 및 형태를 설정한 다음 알고리즘이 이를 생성하도록 했다.
"엔지니어링과 패션 사이의 사고 방식이 필요합니다."라고 Didero는 설명한다.
어떤 경로를 선택하든 얼굴 인식 소프트웨어에서 가장 일반적으로 사용되는 알고리즘 중 하나인 YOLO라는 잘 알려진 물체 감지 시스템에서 이미지를 테스트해야 했다.
이제 특허를 받은 프로세스에서 그들은 베틀과 거대한 바베큐 사이의 교차점처럼 보이는 Computerized Knitwear Machine을 사용하여 패턴의 물리적 버전을 만들 것이다. 의복에 있는 이미지의 원하는 모양, 크기 및 위치를 얻기 위해 여기저기서 몇 가지 조정을 한 다음 이집트산 면으로 모두 이탈리아에서 만든 범위를 만들 수 있었다.
Didero는 현재 의류 품목 이 YOLO로 테스트했을 때 60%에서 90%의 시간 동안 작동한다고 말합니다. Cap_able의 적대적 알고리즘은 개선될 것이지만 속이려는 소프트웨어도 더 좋아질 수 있고 아마도 더 빨라질 수도 있다.
Oxford Internet Institute의 연구 책임자이자 부교수인 Brent Mittelstadt는 "이것은 군비 경쟁입니다."라고 말한다. 그는 이를 딥 페이크를 생성하는 소프트웨어와 이를 감지하도록 설계된 소프트웨어 사이의 전투에 비유한다. 의류를 제외하고는 업데이트를 다운로드할 수 없다.
“구매한 다음에는 1년, 2년 또는 5년 동안만 유효할 수 있다. 애초에 그들을 속인다"고 말했다.
그리고 가격이 300달러부터 시작하기 때문에 이러한 의류는 결국 틈새 제품에 불과할 수 있다고 그는 지적한다.
그러나 그들의 영향은 그것을 구입하고 착용하는 사람의 프라이버시를 보호하는 것 이상일 수 있다.
"주요 이점 중 하나는 감시에 대한 오명을 만드는 데 도움이 된다는 것입니다. 이는 입법자들이 의미 있는 규칙을 만들도록 장려하는 데 정말 중요합니다. 따라서 대중은 정말 부식되고 위험한 종류의 감시에 보다 직관적으로 저항할 수 있습니다."라고 Woodrow Hartzog 교수는 말했다. 보스턴 대학교 로스쿨.
Cap_able은 개인정보보호와 디자인을 결합한 최초의 이니셔티브가 아니다. 최근 카타르에서 열린 월드컵에서 크리에이티브 에이전시인 Virtue Worldwide는 에미레이트 항공의 안면 인식 카메라 군단을 속이려는 팬들을 위해 국기를 테마로 한 페이스 페인트를 선보였다.
데이터, 개인 정보 보호, 감시 및 컴퓨터 비전에 중점을 둔 베를린 기반 아티스트인 Adam Harvey는 개인 정보 보호를 강화하기 위한 메이크업, 의류 및 앱을 디자인했다. 2016년에 그는 "거짓 얼굴 컴퓨터 비전 위장 패턴"을 통합한 직물인 Hyperface를 만들었으며 현재 Cap_able이 상업적으로 시도하려는 것의 예술적 선구자 역할을 할 수 있다.
이스라엘 라이히만 대학의 데이터, 정부 및 민주주의 프로그램 강사인 Shira Rivnai Bahir는 "이것은 싸움이고 가장 중요한 측면은 이 싸움이 끝나지 않았다는 것"이라고 말한다. "우리가 거리에서 시위를 할 때, 비록 그것이 우리를 완전히 보호하지는 못하더라도, 그것은 우리에게 더 많은 자신감을 주거나, 우리가 카메라에 완전히 자신을 맡기고 있지 않다는 사고방식을 줍니다."
디지털 행동주의에서 익명성과 비밀 관행의 역할을 탐구하는 박사 학위 논문을 제출할 예정인 Rivnai Bahir는 홍콩 시위대가 우산, 마스크, 레이저를 사용한 것을 사람들이 더 아날로그적인 방법으로 인용했다. 기계. 그러나 이들은 당국에 의해 쉽게 발견되고 압수된다. 다른 사람의 스웨터 패턴을 기준으로 동일한 작업을 수행하는 것은 더 까다로울 수 있다.
Cap_able은 작년 말 Kickstarter 캠페인을 시작했다. 그것은 € 5,000를 모금했습니다. 회사는 올해 말에 투자자를 모집하기 전에 비즈니스 모델을 개선하기 위해 Politecnico의 액셀러레이터 프로그램에 참여할 계획이다.
Didero가 그 옷을 입었을 때 그녀는 사람들이 그녀의 "멋진" 옷에 대해 언급한 후 다음과 같이 인정했다고 말한다.
다행스럽게도 인간의 눈에는 잘 보이지 않지만 여전히 카메라를 혼란스럽게 할 수 있는 패턴이 있는 차분한 범위가 더 많이 있다. 레이더 아래에서 비행하는 것은 모자를 쓴 사람들이 중국과 같은 곳에서 당국의 제재를 피하는 데 도움이 될 수 있다. 중국에서는 얼굴 인식이 신장의 북서부 지역에서 위구르인을 식별하기 위한 노력의 핵심 부분이었다. 지하철에서 히잡을 쓰지 않은 여성을 식별하는것을 피할 수가 있다.
빅 브라더의 눈은 점점 더 편재할 수 있지만, 아마도 미래에는 당신 대신 기린과 얼룩말을 보게 될 것이다.
