새로운 인공 뉴런 장치 덕분에 이미지 인식 또는 자율주행자동차 탐색과 같은 작업을 수행하기 위해 신경망을 훈련시킬 경우 가까운 미래에 컴퓨팅 성능과 하드웨어가 덜 필요할 수 있다. 캘리포니아 샌디에고 대학 (UCSD)의 연구원들은 Nature Nanotechnology에서 발표한 논문에서 자신들의 돌파구를 보고한다.

위에서 설명한 것처럼 신경망은 한 레이어의 출력이 다음 레이어에 입력을 제공하는 인공 뉴런의 연결된 레이어이다. 입력을 생성하는 것은 비선형 활성화 함수라고하는 수학적 계산을 적용하여 수행된다. 이것은 데이터가 메모리와 외부 프로세서 간에 전송될 때 많은 컴퓨팅 성능과 회로를 필요로 하는 복잡한 프로세스이다. 그러나 UCSD의 한 팀은 이제 매우 높은 효율로 활성화 기능을 수행할 수 있는 나노 스케일 장치를 개발했다.

전기 및 컴퓨터 공학 부교수인 Duygu Kuzum은 "신경망 모델이 점점 더 커짐에 따라 하드웨어의 신경망 계산이 점점 비효율적이다."고 말했다. "우리는 매우 지역적이고 에너지 효율적인 방식으로 하드웨어에서 이러한 계산을 구현하는 단일 나노 스케일 인공 뉴런 장치를 개발했다."

이 장치는 신경망 훈련에서 가장 일반적으로 사용되는 활성화 함수 중 하나인 수정된 선형 단위를 구현한다. 이를 위해서는 저항의 점진적인 변화를 겪을 수 있는 하드웨어가 필요하다. UCSD 팀은 소량의 열을 사용하여 절연 상태에서 전도 상태로 점진적으로 전환하도록 장치를 설계하고 최적화했다.

Mott 전이로 알려진 이 스위치는 나노 미터 두께의 이산화 바나듐 층에서 발생한다. 이 층 위에는 티타늄과 금으로 만든 나노 와이어 히터가 있다. 전류가 나노 와이어를 통해 흐르면 이산화 바나듐이 서서히 가열되어 절연에서 전도로 점진적으로 제어되는 스위치가 발생한다.

"이 장치 아키텍처는 매우 흥미롭고 혁신적이다."Kuzum 연구실의 박사 과정 학생인 오상헌이 말했다. 일반적으로 Mott 전이의 재료는 전류가 재료를 통해 직접 흐르기 때문에 절연에서 전도로의 갑작스러운 전환을 경험한다고 그는 설명했다. "이 경우, 우리는 재료 위에 있는 나노 와이어를 통해 전류를 흐르게 하여 가열하고 매우 점진적인 저항 변화를 유도하다."

팀은 이러한 활성화(또는 뉴런) 장치 어레이를 회로 기판에 연결된 시냅스 장치 어레이와 통합하여 신경망의 하드웨어 버전을 생성함으로써 테스트를 수행했다. 그들은 네트워크를 사용하여 "에지 감지"이미지 처리를 수행했다. 이는 많은 유형의 심층 신경망에 필수적인 컨볼루션 작업을 보여준다. 이 경우 기존 CMOS 기반 하드웨어보다 에너지와 면적이 100배 더 적다.

현재는 소규모 프로토 타입이지만 연구원들은 더 복잡한 작업을 수행하기 위해 기술을 더욱 확장할 수 있다고 말한다. 예로는 로봇이나 자율주행차의 얼굴 및 물체 인식이 있다.

"현재 이것은 개념 증명이다."Kuzum이 말했다. "이것은 하나의 활성화 레이어와 하나의 시냅스 레이어만 쌓아 놓은 작은 시스템이다. 이들을 더 많이 쌓아 두면 서로 다른 애플리케이션에 대해 더 복잡한 시스템을 만들 수 있다."