AI의 위험에 대해 경고하는 공개 서한이 쌓이고 있으며, 최고 기술자와 연구원들은 통제할 수 없는 개발, 긴급한 실존적 위협, 규제 부족에 대해 경고하고 있다.

이제 런던에서 열리는 AI 정상회담을 불과 일주일 앞두고 기업과 정부에 AI의 안전하고 윤리적인 사용을 보장할 것을 촉구하는 새로운 서한이 나왔다. 서명자에는 다수의 유럽 학자, 세 명의 튜링상 수상자, 심지어 소위 AI 대부인 요슈아 벤지오(Yoshua Bengio)와 제프리 힌튼(Geoffrey Hinton)도 포함된다.

우연은 아니지만, 지난 5월 힌튼은 인공지능의 다가오는 위험에 대해 자유롭게 이야기하기 위해 Google을 그만뒀다. 디스토피아적 분위기를 더하기 위해 한 달 전 일론 머스크는 AI가 "문명 파괴"로 이어질 수 있다고 경고했고, 구글의 순다르 피차이는 "[그를] 밤에 깨어있게 한다"는 위험을 인정했다.

화요일에 발표된 서한에서 서명자들은 기술의 능력이 인류에게 엄청나게 긍정적인 영향을 미칠 수 있지만 안전에 대한 투자 부족과 피해 완화는 정반대의 효과를 가져올 수 있다는 점을 강조했다.

그들은 AI가 이미 특정 영역에서 인간의 능력을 능가했다고 지적하면서 명시적인 프로그래밍 없이는 "예기치 못한 능력과 행동"이 나타날 수 있다고 경고했다.

“충분히 주의하지 않으면 자율 AI 시스템에 대한 통제력이 돌이킬 수 없을 정도로 상실되어 인간의 개입이 효과가 없게 될 수 있다.”고 편지에 적혀 있다. 이는 사이버 범죄와 사회적 조작에서부터 생물권의 대규모 손실과 멸종에 이르기까지 일련의 걱정스럽고 고조되는 위험으로 이어질 수 있다.

이해관계를 고려하여 서명자들은 기업들에게 R&D 예산의 최소 3분의 1을 AI 안전과 윤리에 할당할 것을 요구하고 있다. 그들은 또한 무모함과 오용을 방지하기 위해 정부에 표준과 규정을 시행하고 국제 협력을 촉진할 것을 촉구하고 있다.

EU의 다가오는 AI법은 기술 개발에 대한 명확한 규칙을 설정하려는 세계 최초의 AI 관련 규정이 될 것이다. 그러나 이러한 경고에도 불구하고 업계에서는 규제로 인해 혁신이 저해될 것을 우려하면서 서로 다른 우려를 표명해 왔다.

실제로 AI 규제와 발전 사이에서 미묘한 선을 긋는 것이 오늘날 정부가 직면한 가장 큰 과제 중 하나인 것 같다. 그러나 제시된 어려움이 안전과 거버넌스가 이차적으로 중요하다는 것을 의미하지는 않는다.

“AI를 긍정적인 결과로 이끌고 재앙을 피하려면 방향을 바꿔야 한다. 우리에게 지혜가 있다면 책임 있는 길이 있다.”고 학자들은 결론을 내렸다.