DeepMind 연구원들은 온라인 게임에서 공적 자금을 분배하는 인기 있는 정책을 찾기 위해 AI 시스템을 훈련했지만 "AI 규칙"에 대해서도 경고한다.

기술

2022년 7월 4일
인공지능이 상원의원보다 더 나은 자금조달 결정을 내릴 수 있나?

"민주적인" AI 시스템은 온라인 게임을 하는 사람들에게 공적자금을 재분배하는 가장 인기 있는 정책을 개발하는 방법을 배웠다.

"인간이 직면한 많은 문제는 단지 기술적인 것이 아니라 공동선을 위해 사회와 경제에서 조정해야 합니다."라고 그는 말한다. 영국인공지능기업 딥마인드(DeepMind)의 라파엘 코스터( Raphael Koster )는 "AI가 도움이 되려면 인간의 가치에 대해 직접 학습해야 합니다."고 한다.

DeepMind 팀은 4인용 온라인 경제게임에서 4,000명 이상의 사람들과 컴퓨터 시뮬레이션으로부터 학습하도록 AI를 훈련했다. 게임에서 플레이어는 서로 다른 금액의 돈으로 시작하여 공공 자금 풀을 키우는 데 얼마나 기여할지 결정해야 하며 결국 그 대가로 팟의 일부를 받는다. 플레이어들은 또한 공적자금을 기부하기 위해 선호하는 정책에 투표했다.

이 훈련 후 AI가 개발한 정책은 일반적으로 각 플레이어가 기여한 스타팅 팟의 양에 따라 공적 자금을 재분배하여 플레이어 간의 부의 격차를 줄이는 것을 추구했다. 또한 초기 자금의 절반 정도를 기부하지 않는 한 플레이어에게 거의 아무것도 반환하지 않음으로써 프리로더를 낙담시켰다.

AI가 고안한 이 정책은 각 개인이 기여한 금액에 관계없이 자금을 동등하게 재분배하는 "평등" 접근방식이나 각 개인의 기여 비율에 따라 자금을 분배하는 "자유주의적" 접근방식보다 인간 플레이어로부터 더 많은 표를 얻었다. 

“우리가 발견한 놀라운 점은 AI가 정치적 스펙트럼 전반에 걸쳐 다양한 견해를 반영하는 정책을 학습했다는 것입니다.”라고 그는 말한다. DeepMind의 크리스토퍼 서머필드의 말이다.

초기에 플레이어 간 불평등이 가장 컸을 때, 각 플레이어가 기부한 초기자금의 비율에 따라 돈을 재분배하지만 무임승차를 막지 않는 "자유 평등주의"정책이 AI만큼 인기를 얻었다. 일대일 경쟁에서 50% 이상의 득표를 통해 제안을 제안한다.

DeepMind 연구원들은 그들의 작업이 "AI 거버넌스"의 레시피를 나타내지 않는다고 경고합니다. 그들은 정책 결정을 위한 AI 기반 도구를 구축할 계획이 없다고 말한다.

AI 제안이 일부 사람들이 이미 제안한 것과 비교할 때 반드시 고유한 것은 아니기 때문에 그럴 수도 있다고 그는 말한다. 영국 요크대 아네트 짐머만 교수. Zimmermann은 또한 가장 인기 있는 정책을 찾기 위한 "선호 만족" 시스템으로 민주주의의 편협한 개념에 초점을 맞추는 것에 대해 경고했다.

“민주주의는 단순히 승리하는 것이 아니라 원하는 정책을 가장 잘 구현하는 것이다. 시민들이 동등하게 만나서 숙고할 수 있는 과정을 만드는 것이다.”라고 Zimmermann은 말한다.

DeepMind 연구원들은 소수 집단에 속한 사람들의 요구가 간과되는 AI 주도의 "다수의 독재" 상황에 대한 우려를 제기한다. 그러나 그것은 정치학자들 사이에서 큰 관심사가 아니라고 그는 말한다. 그는 현대 민주주의가 "다수"가 소수의 경제 엘리트에 의해 권리를 박탈당하고 정치 과정을 완전히 포기한다는 더 큰 문제에 직면해 있다고 말한다.

그럼에도 불구하고 Riss는 DeepMind의 연구가 일종의 자유주의적 평등주의 정치를 제공했다는 점에서 "매혹적"이라고 말한다. “어쨌든 저는 자유-평등주의 진영에 있기 때문에 꽤 만족스러운 결과라고 생각합니다.”라고 그녀는 말한다.

잡지 참조: Nature Human Behavior , DOI: 10.1038/s41562-022-01383-x