개인용 AI 슈퍼컴퓨터를 찾고 있다면 Nvidia가 정답
유미포[엔비디아의 야망] 개인용 AI 슈퍼컴퓨터를 찾고 있다면 Nvidia가 정답. Project Digits의 핵심은 새로운 GB10 Grace Blackwell Superchip이다. 이 칩은 정교한 AI 모델을 실행할 수 있는 충분한 처리 능력을 갖추고 있으면서도, 일반 가정용 전원 콘센트에 연결하여 책상 위에서 사용할 수 있을 만큼 컴팩트한 크기를 자랑한다
개인용 AI 슈퍼컴퓨터를 찾는다면, 정답은 엔비디아
개인용 AI 슈퍼컴퓨터를 찾고 있다면 엔비디아가 좋은 해답이 될 수 있다. 엔비디아는 CES에서 Project Digits라는 개인용 AI 슈퍼컴퓨터를 5월에 출시한다고 발표했다. 이 제품은 개인 사용자들이 AI 연구 및 개발에 더욱 쉽게 접근할 수 있도록 설계되었다.
Project Digits의 핵심: GB10 Grace Blackwell Superchip Project Digits의 핵심은 새로운 GB10 Grace Blackwell Superchip이다. 이 칩은 정교한 AI 모델을 실행할 수 있는 충분한 처리 능력을 갖추고 있으면서도, 일반 가정용 전원 콘센트에 연결하여 책상 위에서 사용할 수 있을 만큼 컴팩트한 크기를 자랑한다. 이전에는 이러한 수준의 처리 능력을 갖추려면 훨씬 크고 전력 소모가 많은 시스템이 필요했다. 이 데스크탑 크기의 시스템은 최대 2,000억 개의 매개변수를 가진 AI 모델을 처리할 수 있으며, 시작 가격은 3,000달러. 외형은 Mac Mini와 매우 유사.
엔비디아 CEO 젠슨 황의 말 "AI는 모든 산업, 모든 애플리케이션에서 주류가 될 것. Project Digits를 통해 Grace Blackwell Superchip이 수백만 명의 개발자에게 제공될 것입니다."라고 엔비디아 CEO 젠슨 황은 보도 자료에서 밝혔다. 그는 또한 "모든 데이터 과학자, AI 연구자 및 학생의 책상에 AI 슈퍼컴퓨터를 놓으면 그들이 참여하고 AI 시대를 형성할 수 있는 힘을 얻게 됩니다."라고 덧붙였다.
Project Digits의 사양 및 기능
더 저렴한 대안: Jetson Orin Nano Super 엔비디아는 이와 유사한 접근 방식으로 다양한 장치를 제공하고 있다. 12월에는 취미로 AI를 연구하는 사람들과 스타트업을 대상으로 AI 애플리케이션을 위한 Jetson 컴퓨터의 249달러 버전을 발표. 이 버전의 Jetson Orin Nano Super는 최대 80억 개의 매개변수를 처리하는 모델.
요약 Project Digits는 개인 사용자가 고성능 AI 연구 및 개발에 더욱 쉽게 접근할 수 있도록 설계된 혁신적인 제품. 강력한 성능과 비교적 합리적인 가격, 그리고 다양한 소프트웨어 지원을 통해 AI 개발 생태계 확장에 크게 기여할 것으로 기대. 또한 더 저렴한 가격대의 Jetson Orin Nano Super를 통해 더 많은 사용자들이 AI 기술을 경험하고 활용할 수 있는 기회를 제공.
엔비디아, 3천 달러대 개인용 AI 슈퍼컴퓨터 '프로젝트 디지츠' 공개
엔비디아가 CES 2025에서 개인용 AI 슈퍼컴퓨터 '프로젝트 디지츠'를 공개했다. 이 제품은 올해 5월 출시 예정이다. 주요 사양프로젝트 디지츠는 GB10 그레이스 블랙웰 슈퍼칩을 탑재하고 있다. 이 칩은 FP4 정밀도에서 1페타플롭의 AI 연산 성능을 제공한다. 메모리와 저장장치 성능 특징과 활용이 시스템은 리눅스 기반 엔비디아 DGX OS를 구동하며, PyTorch, Python, Jupyter 노트북 등 주요 프레임워크를 지원한다. 젠슨 황 엔비디아 CEO는 "AI가 모든 산업의 모든 애플리케이션에서 주류가 될 것"이라며 "프로젝트 디지츠로 수백만 개발자들이 그레이스 블랙웰 슈퍼칩을 활용할 수 있게 된다"고 말했다. 시장 전망엔비디아는 이미 249달러대 AI 컴퓨터 '젯슨 오린 나노 슈퍼'도 출시했으며, 이는 80억 개 파라미터까지 처리할 수 있다. 이러한 제품군 확대로 AI 컴퓨팅의 대중화를 앞당길 것으로 전망된다.
The chipmaker NVIDIA announced at CES it’s launching a personal AI supercomputer called Project Digits in May. The heart of Project Digits is the new GB10 Grace Blackwell Superchip, which packs enough processing power to run sophisticated AI models while being compact enough to fit on a desk and run from a standard power outlet (this kind of processing power used to require much larger, more power-hungry systems). This desktop-sized system can handle AI models with up to 200 billion parameters, and has a starting price of $3,000. The product itself looks a lot like a Mac Mini.
개인용 AI 슈퍼컴퓨터를 찾고 있다면 Nvidia가 정답 칩메이커는 CES에서 5월에 Project Digits라는 개인용 AI 슈퍼컴퓨터를 출시한다고 발표했습니다. Project Digits의 핵심은 새로운 GB10 Grace Blackwell Superchip으로, 정교한 AI 모델을 실행할 수 있는 충분한 처리 능력을 갖추고 있으면서도 책상에 놓고 표준 전원 콘센트에서 실행할 수 있을 만큼 컴팩트합니다(이러한 종류의 처리 능력은 훨씬 더 크고 전력 소모가 많은 시스템이 필요했습니다). 이 데스크탑 크기의 시스템은 최대 2,000억 개의 매개변수를 가진 AI 모델을 처리할 수 있으며 시작 가격은 3,000달러입니다. 제품 자체는 Mac Mini와 매우 흡사 합니다 . "AI는 모든 산업의 모든 애플리케이션에서 주류가 될 것입니다. Project Digits를 통해 Grace Blackwell Superchip이 수백만 명의 개발자에게 제공됩니다." Nvidia CEO Jensen Huang이 보도자료에서 말했습니다 . "모든 데이터 과학자, AI 연구자 및 학생의 책상에 AI 슈퍼컴퓨터를 놓으면 그들이 참여하고 AI 시대를 형성할 수 있는 힘을 얻게 됩니다." 각 Project Digits 시스템은 128GB의 통합된 코히런트 메모리(비교해보면, 좋은 노트북은 16GB 또는 32GB의 RAM을 가질 수 있음)와 최대 4TB의 NVMe 스토리지를 갖추고 있습니다. 훨씬 더 까다로운 애플리케이션의 경우, 두 개의 Project Digits 시스템을 연결하여 최대 4,050억 개의 매개변수가 있는 모델을 처리할 수 있습니다(Meta의 최고 모델인 Llama 3.1은 4,050억 개의 매개변수를 가짐 ). GB10 칩은 FP4 정밀도(근사치를 만들어 계산을 더 빠르게 하는 데 도움이 됨)에서 최대 1페타플롭의 AI 성능(초당 1조 번의 AI 계산을 수행할 수 있음을 의미)을 제공하며, 이 시스템은 Nvidia의 최신 세대 CUDA 코어와 5세대 Tensor 코어를 특징으로 하며, NVLink-C2C를 통해 20개의 전력 효율적인 Arm 기반 코어가 포함된 Grace CPU에 연결됩니다. Arm 기반 칩 디자인으로 유명한 MediaTek은 GB10의 개발에 협력하여 전력 효율성과 성능을 최적화했습니다. 사용자는 또한 Nvidia NGC 카탈로그를 통해 제공되는 개발 키트, 오케스트레이션 도구 및 사전 훈련된 모델을 포함한 Nvidia의 AI 소프트웨어 라이브러리에 액세스할 수 있습니다. 이 시스템은 Linux 기반 Nvidia DGX OS에서 실행되며 PyTorch, Python 및 Jupyter notebook과 같은 인기 있는 프레임워크를 지원합니다. 개발자는 Nvidia NeMo 프레임워크를 사용하여 모델을 미세 조정하고 Nvidia RAPIDS 라이브러리로 데이터 과학 워크플로를 가속화할 수 있습니다. 사용자는 Project Digits에서 AI 모델을 로컬로 개발하고 테스트한 다음, 동일한 Grace Blackwell 아키텍처와 Nvidia AI Enterprise 소프트웨어 플랫폼을 사용하여 클라우드 서비스나 데이터 센터 인프라에 배포할 수 있습니다. 엔비디아는 동일한 접근성 스타일 로 다양한 유사한 장치를 제공합니다 . 12월에는 취미인과 스타트업을 대상으로 AI 애플리케이션을 위한 Jetson 컴퓨터의 249달러 버전을 발표했습니다 .
GPU를 넘어선 엔비디아의 야망 - CES 라스베거스에서 엔비디아가 발표한 가장 중요한 내용은 다음과 같다.엔비디아 CEO 젠슨 황은 1,999달러짜리 RTX 5090과 999달러짜리 RTX 5080을 필두로 GeForce RTX 50 시리즈를 과시하는 데 시간을 낭비하지 않았습니다 . 엔비디아의 GeForce RTX 50 시리즈는 단순히 더 나은 그래픽에 관한 것이 아니라 AI가 쇼를 운영하는 것에 관한 것입니다. RTX 5090 및 5080을 통해 머신 러닝이 이제 렌더링 프로세스에 직접 통합되었습니다. RTX Neural Shaders는 텍스처, 조명 및 소재에 대한 생각을 바꾸는 반면, RTX Neural Faces와 RTX Mega Geometry는 캐릭터와 세계 구축의 사실성을 새로운 차원으로 끌어올립니다. 엔비디아의 코스모스 는 로봇공학과 자율 주행차 개발을 재정의하는 AI 플랫폼입니다. 실제 훈련의 복잡성을 해결하기 위해 구축된 코스모스는 세계 기반 모델(WFM)을 사용하여 2,000만 시간의 실제 데이터로 훈련된 정확한 비디오 시뮬레이션을 생성합니다. 오픈소스 소프트웨어로 제공되는 Cosmos는 합성 데이터 생성을 지원하여 방대한 데이터 세트의 필요성을 줄입니다. Nvidia의 CEO를 포함한 전문가들은 이 플랫폼이 '로봇공학의 ChatGPT 순간'을 보여준다고 말하지만, 비용, 규제, 안전과 같은 과제는 여전히 남아 있습니다. 얼리어답터로는 Uber와 Agility Robotics가 있습니다. 엔비디아의 " Project Digits " 미니 PC는 소형 폼에 페타플롭 컴퓨팅 파워를 제공하며, 일반적인 노트북보다 1,000배 더 많은 파워를 탑재했습니다. AI와 데이터 과학을 위해 설계되었으며, 이전에는 대규모 데이터 센터에 의존했던 AI 모델의 로컬 처리를 가능하게 합니다. 엔비디아의 Grace Blackwell Superchip으로 구동되며, 128GB 메모리와 4TB SSD 스토리지가 포함되어 있습니다. 로봇공학과 같은 분야의 연구자는 두 대의 유닛으로 최대 4,050억 개의 매개변수를 처리하는 대규모 AI 모델을 실행할 수 있습니다. 5월에 3,000달러에 출시될 예정인 Project Digits는 개발자, 데이터 과학자, 교육자에게 게임 체인저입니다. 자동차 및 로봇공학 이니셔티브 Nvidia GR00T는 로봇을 위한 합성 데이터를 생성합니다. 이미지 출처: Nvidia
CES 2025에서 공개된 엔비디아의 아이작 GR00T 청사진은 합성 모션 데이터 생성을 간소화하여 휴머노이드 로봇 개발을 가속화하는 것을 목표로 합니다. 이 청사진을 통해 개발자는 엔비디아의 옴니버스와 코스모스 플랫폼을 사용하여 최소한의 인간 시연에서 방대한 데이터 세트를 생성할 수 있습니다. GR00T-Teleop, GR00T-Mimic, GR00T-Gen을 포함한 Isaac GR00T 워크플로는 로봇이 모방 학습을 통해 학습하도록 돕고, 비용이 많이 드는 실제 데이터 수집의 필요성을 줄입니다. Boston Dynamics와 같은 주요 로봇 회사의 지원을 받아 이 이니셔티브는 380억 달러 규모의 휴머노이드 로봇 시장을 목표로 합니다. Nvidia의 휴머노이드 개발자 프로그램에 대한 조기 액세스가 현재 가능합니다. 출처: 엔비디아
엔비디아는 자율 AI 에이전트 생성을 간소화하도록 설계된 사전 구축된 템플릿인 " 블루프린트 "를 출시했습니다 . 이러한 "런처블"에는 처음부터 시작하지 않고도 AI 시스템을 빠르게 개발하는 데 필요한 모든 것이 포함되어 있습니다. CrewAI, Daily, LangChain과 같은 회사는 이미 코드 문서화 및 언어 처리와 같은 작업을 위한 전문화된 블루프린트를 만들었습니다. 엔비디아의 자체 블루프린트에는 PDF를 팟캐스트로 변환하고 실시간보다 30배 빠르게 비디오 분석을 수행하는 도구가 포함되어 있습니다. Meta의 Llama 기술을 기반으로 하는 엔비디아의 Nemotron 모델로 구동되는 이러한 솔루션은 다양한 데이터 센터와 클라우드 플랫폼에서 작동하기 위해 엔비디아의 AI Enterprise 소프트웨어가 필요합니다. 이 버전의 Jetson Orin Nano Super는 최대 80억 개의 매개변수를 처리하는 모델입니다 .
엔비디아는 AI 열풍을 타고 있는 것이 아니라, 오히려 그것을 창조하고 있다.새벽에 삼촌이 당신과 가족 모두에게 젠슨 황의 90분 CES 기조연설을 보라고 문자를 보냈을 때 , 당신은 모든 계획을 취소하고 아무 말 없이 2배속으로 시청에 열중합니다. (90분짜리 기술 키노트를 듣는 것보다 페인트가 마르는 것을 지켜보는 것을 선호하는 분들을 위해 Glasp라는 도구를 사용합니다. 이 도구는 모든 YouTube 동영상을 한 번의 클릭으로 요약해줍니다. Claude가 마음에 드는 이유는 가장 빠르기 때문입니다. 여기에서 사용해 보세요 .) 우선, 젠슨의 가죽 재킷은 점점 더 좋아지고 있습니다... NVIDIA 주식이 급등하면 정말 괜찮은 옷장을 갖출 수 있을 겁니다. 이제 중요한 내용으로 넘어가겠습니다. NVIDIA의 새로운 AI 칩(이것들은 ChatGPT, Claude 및 기본적으로 사용하는 다른 모든 AI 모델에 전원을 공급하는 것입니다)은 Blackwell이라고 하며 AI 칩의 최고봉입니다. 사양은 엄청납니다.
TLDR: AI가 더 많을수록 AI는 더 저렴해집니다. CFO가 기뻐할 겁니다. 그러자 젠슨은 우리가 몇 달(몇 년??)간 말해왔던 내용을 확인했습니다. 생성 AI 이후의 다음 단계의 AI는 에이전트 AI(즉, "에이전트")입니다. 젠슨이 이것이 실제로 어떤 모습일지 설명한 방식은 흥미로웠습니다. IT 부서를 예로 들어보겠습니다.
전문가의 조언: 클로드에게 가서 직장에서 무슨 일을 하는지에 대한 맥락을 제공한 다음, 젠슨이 언급한 것과 같은 에이전트가 당신의 업무 방식을 어떻게 바꿀 것인지, 그리고 이러한 세상에 어떻게 더 잘 대비할 수 있는지 물어보세요. 콜드브루 #3에서 Jensen은 또 다른 폭탄을 떨어뜨렸습니다. " Cosmos "는 20M 시간(!)의 물리적/동적 비디오에서 훈련된 새로운 세계 기반 모델입니다. 개발자는 여기에서 Cosmos를 시도할 수 있습니다 . 코스모스를 실제 세계가 어떻게 작동하는지 실제로 이해하는 AI로 생각해 보세요. 물리, 대상의 영속성, 원인과 결과. 더 나은 로봇부터 더 똑똑한 자율 시스템까지 모든 것이 함축되어 있습니다. 그런데... 자율주행차(1:07:38)와 로봇공학(1:16:20)에 대한 멋진 발표가 많았습니다 . 자세한 내용은 여기에서 기조연설을 확인하세요.
중요한 이유: NVIDIA는 AI의 물결을 타고 있는 것이 아니라 서핑보드, 해변, 그리고 아마도 바다도 만들고 있습니다. 이제 가죽 재킷 포즈 연습을 하러 가는 동안 실례하겠습니다... 혹시 모를 경우를 대비해서요. <저작권자 ⓒ ainet 무단전재 및 재배포 금지>
|
많이 본 기사
유투브 많이 본 기사
최신기사
|