인공지능이 사람들을 감옥에 보낼 수 있는 경찰 보고서를 작성한다.

경찰 보고서 초안 Draft One

미국 전역의 경찰이 AI가 작성한 경찰 보고서를 받아들이고 있으며, Associated Press에 따르면 전문가들은 경각심을 높이고 있다.

"Draft One"이라는 이름의 AI 도구는 경찰 기술 회사 Axon에서 4월에 발표했다. 테이저와 기타 무기를 만드는 Axon은 이 AI 프로그램이 OpenAI의 GPT-4 대규모 언어 모델을 사용하여 경찰의 바디 카메라 오디오에서 경찰 보고서를 정확하게 생성하며, 경찰의 서류 작업 시간을 줄여줄 수 있는 생산성 향상 도구로 마케팅 했다고 주장한다.

"경찰이 하루의 절반을 보고하는 데 사용하고, 우리가 그것을 절반으로 줄일 수 있다면," Axon CEO 릭스미스(Rick Smith)가 말했다. "경찰의 시간의 25%를 다시 경찰 업무에 사용할 수 있는 기회가 있다."

하지만 서류 작업과 관련하여 경찰 보고서는 일반적인 이메일보다 더 민감하며, 생성 AI는 업계에서 "환각"이라고 부르는 것에 취약한 기술이다. 간단히 말해, 합성 텍스트에서 종종 발견되는 조작된 사실이나 그렇지 않으면 잘못된 정보와 같은 일반적인 오류를 포괄적으로 지칭하는 용어이다.

그럼에도 불구하고 콜로라도, 인디애나, 오클라호마를 포함한 주의 미국 경찰서는 Draft One을 시험하기 시작했으며, 일부 경찰서는 사소한 사건 보고서만이 아니라 모든 종류의 사건에 대해 경찰이 이 도구를 사용하도록 허용하기도 했다. 그리고 전문가들은 예상대로 결과에 대해 걱정하고 있다. 결국 경찰 보고서는 수사 및 법적 절차에서 기본적인 역할을 한다. 이를 아웃소싱하는 것이 현명한 일일까? 아니면 윤리적일까?

"나는 자동화와 기술의 용이성 때문에 경찰이 글을 쓸 때 덜 조심하게 될까 봐 걱정이다."라고 AI가 생성한 경찰 보고서에 대한 최초의 법률 리뷰를 쓴 아메리칸 대학 법학 교수 앤드류 퍼거슨(Andrew Ferguson)이 말했다.

노브와 다이얼

Axon은 자사의 초안 작성 도구의 효능을 옹호했으며, 회사의 AI 제품 관리자 노아 스피처-윌리엄스(Noah Spitzer-Williams)는 "평균적인 ChatGPT 사용자보다 더 많은 노브와 다이얼을 사용할 수 있다"고 말했다. 그는 Axon이 GPT-4의 "창의성 다이얼"을 거부했다고 덧붙였다. 예를 들어, 이로 인해 ChatGPT가 하는 것처럼 Draft One이 "미화하거나 환각을 일으키는" 잠재력이 제한된다고 그는 말한다.

다이얼과 손잡이를 제쳐두고도 이런 종류의 자동화는 여전히 법적, 윤리적 문제로 가득 차 있다. 물론 기계와 마찬가지로 인간도 실수를 한다. 또한 확실히 편견이 있다.

하지만 효과적인 경찰 업무는 인간을 중심으로 하기 때문에 자동화된 도구로 그 일부를 조금씩 쪼개기 시작하면 그 과정에서 무엇이 손실될 수 있는지에 대한 공개 토론을 하는 것이 가치가 있다. 여기에는 사람들의 삶이 포함된다. 많은 사람들이 법 집행 조사에 아직 준비되지 않은 AI 프로그램을 도입함으로써 이미 끔찍한 피해를 입었다.

퍼거슨은 지난달에 발표한 자신의 리뷰에서 "열린 질문은 AI 생성 의심에 대한 의존이 겸손한 경찰 보고서에 의존하는 법률 시스템의 기반을 어떻게 왜곡할 것인가이다."라고 적었다.