광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[인공지능] [인공지능을 활성화하여 인간 두뇌 기억력 재생] 매사추세츠대학교 애머스트와 베일러 의과대학의 연구원들은 인간 기억의 메커니즘에서 영감을 얻어 "기억 재생"이라는 강력한 기능으로 알고리즘을 강화했다. 이는 새로운 학습을 장수 기억에 담는 일종의 리허설 경험이다. 이들의 방법은 재생이 뇌의 기억 강화에 기여할 수 있는 방식에 대해 몇 가지 흥미로운 예측을 한다. 이들은 이미 이러한 예측 중 일부를 테스트하기 위한 실험을 진행하고 있다.

JM Kim | 기사입력 2020/09/30 [09:32]

[인공지능] [인공지능을 활성화하여 인간 두뇌 기억력 재생] 매사추세츠대학교 애머스트와 베일러 의과대학의 연구원들은 인간 기억의 메커니즘에서 영감을 얻어 "기억 재생"이라는 강력한 기능으로 알고리즘을 강화했다. 이는 새로운 학습을 장수 기억에 담는 일종의 리허설 경험이다. 이들의 방법은 재생이 뇌의 기억 강화에 기여할 수 있는 방식에 대해 몇 가지 흥미로운 예측을 한다. 이들은 이미 이러한 예측 중 일부를 테스트하기 위한 실험을 진행하고 있다.

JM Kim | 입력 : 2020/09/30 [09:32]

[인공지능을 활성화하여 인간 두뇌 기억력 재생] 매사추세츠대학교 애머스트와 베일러 의과대학의 연구원들은 인간 기억의 메커니즘에서 영감을 얻어 "기억 재생"이라는 강력한 기능으로 알고리즘을 강화했다. 이는 새로운 학습을 장수 기억에 담는 일종의 리허설 경험이다. 이들의 방법은 재생이 뇌의 기억 강화에 기여할 수 있는 방식에 대해 몇 가지 흥미로운 예측을 한다. 이들은 이미 이러한 예측 중 일부를 테스트하기 위한 실험을 진행하고 있다.

 
▲ 이미지 출처: Pixabay/ Karolina Grabowska

어린 시절에도 우리는 추론을 잘한다. 처음에는 집에서 개와 고양이를 알아보는 법을 배운 두 살배기 아이는 그 후 동물원에서 말과 양을 알아본다. 그러면 아이는 개와 양을 구분할 수 있게 된다. 비록 그가 아직 그들의 차이점을 명확히 할 수 없더라도 말이다.

 

이 능력은 우리에게 너무나도 자연스러워서 내부에 있는 뇌의 데이터 처리 프로세스의 복잡성과 관련이 있다논리적으로 도약하기 위해 아이는 먼저 가족 애완 동물의 구별을 기억해야한다. 새로운 범주(농장 동물)에 직면했을 때 그의 신경 회로는 과거의 기억을 불러오고 이러한 기억을 새로운 학습과 원활하게 통합하여 그의 세계에 대한 정신 모델을 업데이트한다.

 

그렇게 간단하지 않다. 그렇지 않은가?

 

최첨단 기계학습 알고리즘 조차도 이러한 유형의 연속 학습에 어려움을 겪는 것은 놀라운 일이 아니다. 그 이유 중 일부는 이러한 알고리즘이 설정되고 훈련되는 방식이다. 인공 신경망은 시냅스 가중치를 조정하여 학습한다. 하나의 인공 뉴런이 다른 인공 뉴런과 얼마나 강하게 연결되는지는 가중치에 포함된 일종의 '기억'으로 이어진다. 다른 작업에서 신경망을 재 훈련하면 이러한 가중치가 깨지기 때문에 AI는 본질적으로 새로운 것을 배우기 위한 전제 조건으로 이전 지식을 "잊어야"한다. 이쑤시개로 만든 다리를 함께 붙이고 접착제를 떼어 내고 같은 재료로 고층 건물을 지을 수 있다고 상상해보자. 하드웨어는 동일하지만 브리지의 메모리는 이제 손실된다.

 

이 아킬레스 건의 발 뒤꿈치는치명적인 망각이라고 불리는 매우 해로운 것이다. 이전 기억을 유지할 수 없는 알고리즘은 추론하거나 일반화할 수 있는 능력이 심각하게 무너진다. 우리가 똑똑하다고 생각하는 것은 거의 없다.

 

하지만 여기에 문제가 있다. 인간의 두뇌가 할 수 있다면 자연은 이미 해결책을 찾았다. 그렇다면 AI에서 시도해 보지 않겠는가?

 

매사추세츠대학교 애머스트와 베일러 의과대학의 연구원들이 최근 연구한 결과 바로 그랬다. 인간 기억의 메커니즘에서 영감을 얻은 팀은 "기억 재생"이라는 강력한 기능으로 알고리즘을 강화했다. 이는 새로운 학습을 장수 기억에 담는 일종의 "리허설"경험이다.

 

저자에게 놀랍게도 알고리즘에 재생을 추가하면 이전 교육을 유지할 수 있는 능력이 향상되지는 않았다. 오히려 재생은 정확한 기억을 저장하고 다시 방문할 필요가 없었다. 과거의 경험을 바탕으로 네트워크 자체에서 생성된 멍청한 버전의 메모리는 알고리즘에 엄청난 메모리 향상을 제공하기에 충분했다.

 

 

 

재생으로 플레이하기

 

1990년대에 잠자는 쥐에서 뇌의 전기적인 수다를 들으면서 기억 연구자들은 당혹스러운 발견을 발견했다. 공간 탐색과 기억에 중요한 해마라고 불리는 뇌 영역은 수면 중에 전자파의 물결로 촉발되었다. 잔물결은 무작위가 아니었다. 오히려 쥐가 새로운 미로를 탐색하는 방법을 배우는 동안 팀이 이전에 관찰한 것과 동일한 신경 활동을 시간과 공간으로 요약했다.

 

어떻게 든 뇌는 수면 중에 생쥐의 새로운 경험을 인코딩하는 전기적 패턴을 재검토하고 있었지만 마치 되감기하고 빨리 감기에서 닳는 테이프를 재생하는 것처럼 압축되고 왜곡되었다.

 

이후 과학자들은 기억 재생이 생쥐와 남성의 기억을 강화하는 데 필수적이라는 사실을 발견했다. 어떤 면에서 재생은 학습을 연습하고 새로운 경험을 파괴하는 대신 쌓을 수 있는 기억의 라이브러리로 안정화하기위한 추가 시뮬레이션 학습 시험을 제공한다.

 

재생 기능을 갖춘 심층 신경망이 기억을 안정화하는 것은 놀라운 일이 아니다. 알고리즘이 재생을 위한 입력으로 이전의 모든 기억을 완벽하게 "기억"해야 한다는 경고와 함께 기억을 안정화한다. 이 접근 방식의 문제점은 확장이 불가능하다는 것이다. 이전 경험에 액세스해야 하는 필요성은 데이터 스토리지 요구를 견딜 수 없을 정도로 급증한다.

 

하지만 뇌처럼 우리가 실제로 재생 중에 완벽하고 완전한 기억을 기억할 필요가 없다면 어떨까?

 

 

 

메모리 리믹스

 

팀의 전구 순간은 재생의 잡초더미를 파헤칠 때 왔다. 완벽하게 정확한 기억 비디오 테이프를 재생하는 대신 두뇌는 "재상상"하거나 재생을 위한 과거 경험을 생성하는 것일 수 있다. 여기서 재생은 충실하게 저장된 기억에 의존하지 않는다. 대신, 그것은 우리의 실제 기억 경험과 더 유사하다. 현실에서 재구성되었지만 우리의 이전 역사와 세계관에 오염된 것이다.

 

그들의 아이디어를 테스트하기 위해 팀은 "뇌에서 영감을 받은 재생"을 반영하는 알고리즘을 코딩했다. 재생에 사용되는 학습 자체를 저장하지 않는다. 대신 학습된 경험의 데이터를 사용하여 재생을 위한 기억을 자동으로 재구성한다.

 

뇌와 유사하게 다른 동물을 인식하는 것과 같은 시각적 작업을 배우고 있다고 가정한다. 주 처리기는 개, 고양이 또는 양에 해당하는 패턴을 분석하기 시작하는 피질이다. 이전의 "재생"알고리즘에서 이러한 데이터는 메모리를 저장하고 재생에 사용하는 해마로 전송된다. 해마의 전기적 활동은 피질을 휩쓸어 방금 배운 내용을 강화한다.

 

새로운 설정은 보다 생물학적으로 실행가능한 방식으로 인공 피질과 해마라는 두 가지 구성 요소를 결합한다여기서 해마는 프로세서인 피질의 데이터를 사용하여 기본적으로 재생 패턴을 "꿈꾸거나" "상상"한다. 이러한 패턴은 우리의 기억이 본질적으로 사진이 아닌 것처럼 픽셀 단위의 충실도가 부족하다. 그러나 패턴은 두 동물이 별도의 세션에서 학습된 경우에도 양을 양과 개로 만드는 기억에 대해 좀 더 추상적인 것을 포착한다.

 

지속적인 학습을 위해 다른 딥러닝 알고리즘과 맞붙었을 때, 초보자는 치명적 망각을 방지하기 위해 경쟁자들을 제압했다. 100개의 작업이 필요한 시각적 기억 문제에서 알고리즘은 새로운 이미지를 해독하면서 이전 기억을 유지할 수 있었다. 놀랍게도, 문제가 더 어렵고 "실제 세계"일수록 알고리즘이 동료보다 더 나은 성능을 발휘한다.

 

“생성 재생을 사용하는 네트워크가 먼저 고양이와 개를 분리한 다음 곰과 여우를 분리하는 방법을 배우면 특별히 훈련을 받지 않고도 고양이와 여우를 구분할 수 있다. 특히 시스템이 더 많이 학습할수록 새로운 작업을 더 잘 학습하게 된다.”라고 연구 저자인 Gido van de Ven 박사는 말했다.

 

 

 

마음의 만남

 

이러한 결과는 뇌의 기억력을 처음으로 활용하는 것이 아니다.

 

이전에 AI 연구자들은 또한 신경망이 변화에 취약해질 가능성을 변경하는 메타 플라스틱 성이라는 별도의 메모리 프로세스를 조정했다. 기억은 신경망에 저장되기 때문에 더 유연할수록 기억이 변경되거나 잊혀 질 가능성이 높아진다. 예를 들어, 구글 딥 마인드는 이 두뇌 특성의 인공 버전을 사용하여 다음을 인코딩하는 동안 이전 메모리를 보존하는 데 핵심적인 인공 시냅스를 "보호"한다.

 

한 가지 접근 방식이 다른 접근 방식보다 좋다는 것은 아니다. 저자들은 이러한 전략이 뇌의 기억을 보호하기 위해 함께 진행될 가능성이 높다고 말했다. 두 가지를 모두 포함하는 알고리즘은 훨씬 더 유연하고 재앙적인 망각에 탄력적일 수 있으며, 대신 한 번에 하나의 기억을 복잡한 세상을 풀려고 애쓰는 유아처럼 작동한다.

 

분명히 뇌는 AI에 대한 영감을 훨씬 더 많이 가지고 있다. 새로운 알고리즘은 생물학적 타당성에 더 가깝지만 아직 우리 기억의 근본적인 구성 요소인 시간의 경험을 재생 메커니즘으로 포착할 수는 없다. 반면에 기계학습은 신경과학에 더 많은 것을 돌려줄 수 있다. 여기의 결과는 우리의 기억 중 일부가 왜 일생 동안 지속되는 반면 다른 기억이 저하되는 이유를 설명하는 재생 배후의 신경 과정을 밝히는 데 도움이 될 수 있다.

 

“우리의 방법은 재생이 뇌의 기억 강화에 기여할 수 있는 방식에 대해 몇 가지 흥미로운 예측을 한다. 우리는 이미 이러한 예측 중 일부를 테스트하기 위한 실험을 진행하고 있다.”라고 van de Ven는 말했다.

 

 

 
인공지능, AI로봇, 기억력재생 관련기사목록
광고
광고
광고
광고
광고
광고
광고
많이 본 기사
최신기사