[IEEE, 더 나은 AI는 타이밍의 문제다] 새로운 MEMS 기반 클록은 유휴 컴퓨팅 시간을 줄여 효율성을 개선하는 것을 목표로 한다.
더 나은 AI는 타이밍의 문제다 새로운 MEMS 기반 클록은 유휴 컴퓨팅 시간을 줄여 효율성을 개선하는 것을 목표로 한다.
AI는 데이터 센터 의 모든 것을 바꾸고 있습니다 . 새로운 AI 전용 칩 , 새로운 냉각 기술 , 새로운 스토리지 드라이브 . 이제 시간을 유지하는 방법도 바뀌기 시작했으며, SiTime에서 AI 워크로드에 최적화된 새로운 시계를 개발했다고 발표했습니다.
이 회사는 이 개발이 상당한 에너지 절감과 AI 훈련 및 추론 비용 절감으로 이어질 것이라고 말합니다. SiTime은 기존의 석영 크리스털 대신 핵심 시간 유지 구성 요소로 MEMS ( Microelectromechanical Systems )를 사용하여 이러한 절감을 달성할 수 있었습니다 .
컴퓨터의 거의 모든 부분에는 어떤 종류의 시계가 있습니다. CPU, GPU , 네트워크 인터페이스 카드, 스위치, 심지어 때로는 활성 상호연결에도 자체 타임키핑 구성 요소가 포함되어 있습니다. 보다 전통적인 컴퓨팅 작업 부하의 경우 이러한 시계는 일반적으로 두 가지 범주로 나뉩니다. 빠르고 정확하게 타이밍이 조정된 시계 또는 여러 GPU(또는 CPU)에서 잘 동기화된 시계입니다. More Than Moore의 수석 분석가이자 SiTime에서 일하는 Ian Cutress가 말했습니다.
"AI의 문제점은 둘 다 한다는 것입니다."라고 Cutress는 말합니다. "칩이 가능한 한 빨리 실행되기를 원하지만, 100,000개의 칩을 동기화하고 싶을 것입니다."
SiTime의 Super-TCXO 클록은 초안정성과 동기화가 잘 된 클록의 기능을 단일 장치로 결합하여 비슷한 석영 기반 클록보다 3배 더 좋은 동기화를 제공합니다.초당 800기가비트의 대역폭을 제공하는 구성요소를 칩에 담았는데, 크기는 4분의 1에 불과합니다.
더 나은 타이밍은 에너지 절약으로 이어진다AI는 데이터를 갈구하는 짐승입니다. 그런데도 비싸고 전력을 많이 소모하는 GPU는 최대 57%의 시간 동안 다음 데이터 배치를 기다리며 유휴 상태로 있습니다. 데이터를 더 빨리 제공할 수 있다면 GPU를 더 적은 양으로 더 효율적으로 사용할 수 있습니다.
SiTime의 마케팅 담당 부사장인 피유시 세발리아는 "더 빠른 대역폭이 필요합니다. 더 빠른 대역폭이 필요하기 때문에 더 나은 타이밍이 필요합니다."라고 말합니다 .
또한, GPU가 더 많은 데이터가 로드될 때까지 대기하는 동안 절전 모드로 전환될 수 있다면 많은 전력을 절약할 수 있다고 Cutress는 말합니다. 이것 역시 더 정확한 타이밍이 필요하여, 절전-각성 주기가 데이터 스트림을 따라잡을 만큼 충분히 빠르게 발생할 수 있습니다.
AI의 경우 클록은 더 정확해야 할 뿐만 아니라 여러 GPU에서 완벽하게 동기화되어야 합니다. 대규모 AI 모델은 여러 GPU에 작업을 분할하여 각각이 계산의 작은 부분을 수행합니다. 그런 다음 결과를 다시 연결합니다. 한 GPU가 다른 GPU보다 뒤떨어지면 전체 계산이 해당 노드를 기다려야 합니다. 즉, 계산은 가장 약한 링크만큼 빠릅니다. 모든 GPU는 기다리는 동안 계속 켜져 있으므로 이러한 지연은 에너지 손실로 이어집니다.
MEMS 타임의 하이 타임타이밍은 정확하고, 잘 동기화되고, 견고해야 합니다. 모든 기계적 진동이나 온도 변화는 계산을 방해하지 않도록 보상해야 합니다. SiTime의 Super-TCXO는 세 가지 요구 사항을 모두 단일 장치에 결합하는 것을 목표로 합니다.
세발리아는 기존의 석영 대신 MEMS 발진기를 사용하면 이러한 조합이 가능하다고 말합니다. 석영 발진기는 정밀하게 가공된 석영 수정의 진동을 사용합니다. 튜닝 포크와 유사합니다. 반면 MEMS 발진기는 특정 주파수에서 공명하도록 가공되지 않고 제조됩니다. MEMS 장치는 더 작을 수 있으므로 기계적 변형에 덜 민감합니다. 또한 더 정확할 수도 있습니다.
"크리스털 발진기는 컴퓨팅이 존재했던 시대부터 존재했습니다." HotTech Vision & Analysis 의 사장 겸 수석 분석가이자 SiTime과 함께 일하는 데이브 알타빌라 의 말입니다 . "우리는 그 기술이 처음 나온 이후로 엄청나게 개선했습니다. 하지만 MEMS는 크리스털이 할 수 있는 것보다 한 단계 더 나아갑니다. 그래서 저는 이 새로운 기술이 시장에서 대체하고 있는 것이 오래된 작업 방식이라고 생각합니다."
SiTime의 MEMS 기반 솔루션은 이미 어느 정도 성공을 거두고 있습니다. Nvidia의 Spectrum-X 스위치 실리콘에는 이미 SiTime 장치가 포함되어 있습니다 .
세발리아는 MEMS 기반 타이밍 장치에 대한 필요성이 계속될 것으로 예상한다고 말합니다. 이 회사는 이미 더 높은 대역폭 장치를 계획하고 있으며, 혁신을 통해 더 많은 에너지 절감이 이루어지기를 바라고 있습니다. 세발리아는 "우리는 지금 얼마나 많은 에너지 효율을 가져올 수 있는지 파악하는 측면에서 아직 시작 단계에 있습니다."라고 말합니다.
<저작권자 ⓒ ainet 무단전재 및 재배포 금지>
|
많이 본 기사
신기술&메타버스AR/VR 많이 본 기사
최신기사
|