ChatGPT를 만든 OpenAI는 금요일에 최신 인공지능(AI) 혁신을 엿볼 수 있었다. 이 도구는 "자연스러운 음성"을 생성하고 놀라울 정도로 정확하게 사람의 목소리를 흉내낼 수 있는 음성 엔진으로 알려진 도구이다. OpenAI의 블로그 게시물에 따르면 Voice Engine은 단 하나의 15초 오디오 샘플로 원래 화자와 매우 유사한 생생한 음성을 생성할 수 있다.

이 최첨단 AI 도구는 읽기 지원, 콘텐츠 번역, 비언어적이거나 언어 장애로 고통받는 개인을 위한 음성 제공 등 광범위한 응용 프로그램을 갖추고 있다. 잠재적인 이점에도 불구하고 OpenAI는 특히 선거 연도에 음성 엔진과 관련된 심각한 위험을 인정한다.

음성 엔진 개발은 2022년 말에 시작되었으며, 작년 말부터 신뢰할 수 있는 파트너 그룹을 대상으로 비공개 테스트가 진행되었다. OpenAI는 이러한 파트너가 엄격한 사용 정책을 준수하여 원래 발표자의 명시적인 동의를 보장하고 무단 사칭을 금지할 것을 강조한다.

투명성을 유지하기 위해 음성 엔진에서 생성된 모든 오디오에는 출처 추적에 도움이 되도록 워터마크가 표시된다. OpenAI는 원래 화자의 동의를 확인하기 위해 음성 인증의 광범위한 배포를 옹호하고 유명 인사와 유사한 음성 생성을 방지하기 위해 "사용 금지 음성 목록" 구현을 제안한다.

또한 OpenAI는 은행 계좌와 같은 민감한 정보 액세스에 대한 음성 기반 인증을 단계적으로 폐지할 것을 권장한다. 이러한 예방 조치에도 불구하고 회사는 Voice Engine을 보다 광범위하게 출시하는 데 신중한 자세를 유지하고 있다.

OpenAI는 이러한 발전에 대한 사회적 적응을 고려하여 합성 음성의 책임 있는 배포에 대한 대화를 촉진하는 것을 목표로 한다. 지속적인 논의와 테스트 결과를 바탕으로 회사는 기술의 광범위한 배포에 관해 정보에 입각한 결정을 내릴 것.

AI가 생성한 딥페이크와 특히 선거 상황에서 잘못된 정보를 전파할 가능성에 대한 우려가 높아지는 가운데 음성 엔진의 공개가 이루어졌다. OpenAI가 음성 엔진의 윤리적, 사회적 영향을 탐색함에 따라 기술 커뮤니티는 이 혁신적인 AI 도구의 미래에 대한 추가 통찰력을 기다리고 있다. 작성자: Impact Lab