광고
광고
광고
광고
광고
로고

인간은 인공 초지능을 제어할 수 없다. 이론적 계산을 사용하여 Max Planck Institute의 과학자를 포함한 팀은 인간이 초지능 AI를 제어할 수 없음을 보여주었다.

https://www.futuretimeline.net/blog/2021/01/15-artificial-superintelligence-timeline.htm

JM Kim | 기사입력 2021/01/18 [00:13]

인간은 인공 초지능을 제어할 수 없다. 이론적 계산을 사용하여 Max Planck Institute의 과학자를 포함한 팀은 인간이 초지능 AI를 제어할 수 없음을 보여주었다.

https://www.futuretimeline.net/blog/2021/01/15-artificial-superintelligence-timeline.htm

JM Kim | 입력 : 2021/01/18 [00:13]

 

우리는 자동차를 제어하고 교향곡을 작곡하거나 체스, 바둑 또는 위험에서 사람들을 물리칠 수 있는 기계에 매료되었다! 인공지능(AI)에서 항상 더 많은 진전이 이루어지고 있지만 일부 과학자와 철학자들은 제어할 수 없는 초지능 AI의 위험에 대해 경고한다. Max Planck 인간 개발 연구소의 인간 및 기계 센터의 과학자를 포함한 국제연구팀은 이론적 계산을 사용하여 초지능 AI를 제어할 수 없음을 보여준다. 그들의 연구는 Journal of Artificial Intelligence Research에 발표되었다.

 

그리 멀지 않은 미래에 연구팀이 인간보다 지능이 뛰어난 AI 시스템을 구축하여 독립적으로 학습할 수 있다고 가정해 보겠다. 인터넷에 연결된 AI는 인류의 모든 데이터에 액세스할 수 있다. 기존 프로그램을 대체하고 전 세계적으로 모든 기계를 제어할 수 있다.

 

이것이 유토피아 또는 디스토피아를 생성할까? AI가 암을 치료하고, 세계 평화를 가져오고, 기후 재난을 예방할 수 있을까? 아니면 인류를 파괴하고 지구를 장악할까?

 

 

"세상을 제어하는 초지능 기계는 공상과학 소설처럼 들리지만, 프로그래머가 어떻게 배웠는지 완전히 이해하지 못한 채 중요한 작업을 독립적으로 수행하는 기계가 이미 있다."라고 Max Planck 인간 개발 연구소의 인간 및 기계 센터 디지털 동원 그룹의 공동 저자이자 리더 인 Manuel Cebrian은 말했다. "그러므로 어떤 시점에서 이것이 인류에게 통제할 수 없고 위험해질 수 있는지에 대한 의문이 제기된다." 과학자들은 초지능 AI가 어떻게 제어될 수 있는지에 대해 두 가지 다른 아이디어를 탐구했다.

한편으로, 초지능 AI의 기능은 예를 들어 인터넷 및 기타 모든 기술 장치에서 차단하여 외부 세계와 접촉하지 못하도록 함으로써 특별히 제한될 수 있다. 그러나 이것은 초지능 AI를 상당히 덜 강력하게 만든다. 인류의 문제를 덜 해결할 수 있다.

 

이 옵션이 없으면 AI는 처음부터 윤리 원칙을 프로그래밍하는 것과 같이 인류에게 가장 이익이 되는 목표만을 추구하도록 동기를 부여할 수 있다. 그러나 연구원들은 초지능 AI에 대한 이러한 아이디어와 기타 현대적이고 역사적인 아이디어에 한계가 있음을 보여준다.

 

 

그들의 연구에서 그들은 초지능 AI가 어떤 상황에서도 사람들에게 해를 끼치지 않도록 하기 위한 이론적 격리 알고리즘을 구상했다. 먼저 AI의 행동을 시뮬레이션 한 다음 유해하다고 간주되면 중단한다. 그러나 신중한 분석에 따르면 현재의 컴퓨팅 패러다임에서는 이러한 알고리즘을 구축할 수 없다.

 

"초지능이 보편적인 튜링 기계가 입력할 때 실행될 수 있는 모든 프로그램을 포함하는 프로그램을 포함한다고 가정하면, 엄격한 봉쇄에는 이론적으로 (실제적으로) 그러한 프로그램의 시뮬레이션이 필요하다. 불가능하다."고 그들은 논문의 초록에 쓴다.

 

"문제를 이론적 컴퓨터 과학의 기본 규칙으로 분류하면 AI에게 세상을 파괴하지 않도록 명령하는 알고리즘이 실수로 자체 작업을 중단할 수 있다. 이런 일이 발생하면 격리 알고리즘이 있는지 여부를 알 수 없다. 여전히 위협을 분석하고 있는지, 아니면 유해한 AI를 격리하기 위해 중지되었는지 여부를 분석하고 있다. 실제로 이로 인해 격리 알고리즘을 사용할 수 없게 된다."고 인간과 기계 센터의 이사인 Iyad Rahwan이 말했다.

 

이러한 계산에 따르면 격리 문제는 계산할 수 없다. , AI가 세상에 해를 끼칠지 여부를 결정하는 솔루션을 찾을 수 있는 단일 알고리즘은 없다. 게다가 연구자들은 기계가 인간보다 지능이 뛰어난 지 여부를 결정하는 것이 격리 문제와 같은 영역에 있기 때문에 초지능 기계가 언제 도착했는지 조차 알지 못할 수도 있음을 보여준다.

 

 

 
인공지능, 인공 초지능, 인간 능가 관련기사목록
광고
광고
광고
광고
광고
많이 본 기사
AIbio로봇,AR/VR·바이오제약 많이 본 기사