인공지능 분야는 자동차를 운전하고, 화합물을 합성하고, 단백질을 접고, 초인적 수준에서 고 에너지 입자를 감지할 수 있는 컴퓨터를 만들었다.

그러나 이러한 AI 알고리즘은 결정 뒤에 있는 사고 과정을 설명할 수 없다. 단백질 폴딩을 마스터하고 연구원에게 생물학 규칙에 대해 더 많이 알려주는 컴퓨터는 설명없이 단백질을 폴딩하는 컴퓨터보다 훨씬 유용한다.

따라서 나와 같은 인공지능 연구자들은 인간이 이해할 수 있는 방식으로 스스로를 설명할 수 있는 인공지능 알고리즘을 개발하기 위해 노력하고 있다. 우리가 이것을 할 수 있다면, 나는 인공지능이 사람들에게 아직 발견되지 않은 세상에 대한 새로운 사실을 발견하고 가르치고 새로운 혁신을 이끌어 낼 수 있을 것이라고 믿는다.

경험에서 배우기

강화학습이라고 하는 AI의 한 분야는 컴퓨터가 자신의 경험에서 학습하는 방법을 연구한다. 강화학습에서 AI는 세상을 탐색하며 행동에 따라 긍정적이거나 부정적인 피드백을 받는다. 이 접근 방식은 초인적인 수준에서 체스를 하는 방법을 독립적으로 학습하고 인간의 지도 없이 수학적 정리를 증명하는 알고리즘으로 이어졌다. AI 연구원으로 일하면서 나는 강화학습을 사용하여 Rubik's Cube와 같은 퍼즐을 푸는 방법을 배우는 AI 알고리즘을 만든다.

강화학습을 통해 AI는 인간조차 파악하기 어려운 문제를 해결하는 방법을 독립적으로 학습한다. 이로 인해 나와 다른 많은 연구자들은 AI가 무엇을 배울 수 있고 인간이 AI에서 무엇을 배울 수 있는지에 대해 더 많이 생각하게 되었다. Rubik's Cube를 해결할 수 있는 컴퓨터는 사람들에게 해결 방법도 가르쳐 줄 수 있어야한다.

블랙박스로 들여다보기

불행히도 초인적 AI의 마음은 현재 우리 인간에게 닿지 않는다. AI는 끔찍한 교사를 만들고 컴퓨터 과학 세계에서 "블랙 박스"라고 부르는 것이다.

AI는 솔루션에 대한 이유를 제시하지 않고 단순히 솔루션을 내놓는다. 컴퓨터 과학자들은 이 블랙박스를 열기 위해 수십 년 동안 노력해 왔으며 최근 연구에 따르면 많은 AI 알고리즘이 실제로 인간과 유사한 방식으로 생각하는 것으로 나타났다. 예를 들어, 동물을 인식하도록 훈련된 컴퓨터는 다양한 유형의 눈과 귀에 대해 학습하고 이 정보를 결합하여 동물을 올바르게 식별한다.

블랙박스를 열기위한 노력을 설명 가능한 AI라고한다. 사우스캐롤라이나 대학교 AI 연구소의 나의 연구 그룹은 설명 가능한 AI 개발에 관심이 있다. 이를 위해 우리는 Rubik ’s Cube를 많이 사용한다.

Rubik’s Cube는 기본적으로 경로 찾기 문제이다. A지점 (스크램블 된 Rubik’s Cube)에서 B지점 (해결된 Rubik ’s Cube)까지의 경로를 찾는다. 다른 길 찾기 문제에는 탐색, 정리 증명 및 화학 합성이 포함된다.

내 연구실에서는 AI 알고리즘이 Rubik's Cube를 어떻게 해결하는지 누구나 볼 수 있는 웹 사이트를 만들었다. 그러나 사람은이 웹 사이트에서 큐브를 해결하는 방법을 배우기 어려울 것이다. 이는 컴퓨터가 솔루션의 논리를 말할 수 없기 때문이다.

Rubik’s Cube에 대한 솔루션은 몇 가지 일반화된 단계로 나눌 수 있다. 예를 들어 첫 번째 단계는 십자가를 형성하는 것이고 두 번째 단계는 모서리 조각을 제자리에 놓는 것일 수 있다. Rubik's Cube 자체에는 가능한 조합이 10~19제곱 이상이지만 일반화된 단계별 가이드는 기억하기 매우 쉽고 다양한 시나리오에 적용할 수 있다.

문제를 단계로 나누어 접근하는 것은 사람들이 서로를 설명하는 기본 방식인 경우가 많다. Rubik's Cube는 자연스럽게 이 단계별 프레임 워크에 적합하므로 알고리즘의 블랙박스를 보다 쉽게 ​​열 수 있는 기회를 제공한다. 이 기능을 가진 AI 알고리즘을 만들면 사람들이 AI와 협력하고 다양한 복잡한 문제를 이해하기 쉬운 단계로 나눌 수 있다.

단계별 개선 접근 방식을 통해 인간은 AI가 자신이 하는 일을 하는 이유를 더 쉽게 이해할 수 있다. Forest Agostinelli, CC BY-ND

협업은 혁신으로 이어진다.

우리의 프로세스는 자신의 직감을 사용하여 잠재적으로 복잡한 문제를 해결할 수 있는 단계별 계획을 정의하는 것으로 시작된다. 그런 다음 알고리즘은 각 개별 단계를 살펴보고 가능한 단계, 불가능한 단계, 계획을 개선할 수 있는 방법에 대한 피드백을 제공한다. 그런 다음 인간은 AI의 조언을 사용하여 초기 계획을 세분화하고 문제가 해결될 때까지 프로세스를 반복한다. 희망은 사람과 AI가 결국 일종의 상호 이해에 수렴하는 것이다.

현재 Google 알고리즘은 Rubik's Cube를 해결하기위한 인간의 계획을 고려하고, 계획에 대한 개선사항을 제안하고, 작동하지 않는 계획을 인식하고, 가능한 대안을 찾을 수 있다. 그렇게 함으로써 사람이 이해할 수 있는 Rubik's Cube 해결을 위한 단계별 계획으로 이어지는 피드백을 제공한다. 우리 팀의 다음 단계는 알고리즘이 사람들에게 Rubik's Cube를 해결하는 방법을 가르칠 수 있는 직관적인 인터페이스를 구축하는 것이다. 우리의 희망은이 접근법을 광범위한 길 찾기 문제에 일반화하는 것이다.

사람은 어떤 AI와도 비교할 수 없는 방식으로 직관적이지만 기계는 계산 능력과 알고리즘의 엄격함이 훨씬 뛰어나다. 사람과 기계 사이를 오가는 것은 양쪽의 강점을 활용한다. 나는 이러한 유형의 협업이 화학에서 수학에 이르기까지 모든 분야에서 이전에 해결되지 않았던 문제를 밝혀 내지 않으면 도달할 수 없었던 새로운 솔루션, 직관 및 혁신으로 이어질 것이라고 믿는다.

글쓴이: FOREST AGOSTINELLI

Forest Agostinelli는 사우스캐롤라이나 대학의 컴퓨터과학 조교수이다. 그의 연구에는 새로운 인공지능 알고리즘을 설계하고 이러한 알고리즘을 과학 문제에 적용하는 것이 포함된다. 동시에 그의 연구는 새로운 인공지능 알고리즘에 대한 영감을 제공하기 위해 과학을 기반으로한다.