© Reuters

캘리포니아 산호세 - 엔비디아는 대규모 언어 모델(LLM)과 생성 AI를 사용하는 조직의 컴퓨팅 성능과 효율성을 크게 향상시킬 수 있도록 설계된 블랙웰 GPU 아키텍처를 출시한다고 발표했습니다. Blackwell GPU는 이전 버전에 비해 LLM 운영에 드는 비용과 에너지 소비를 최대 25배까지 절감할 수 있을 것으로 기대됩니다.

블랙웰 플랫폼에는 최대 10조 개의 파라미터를 가진 모델에 대한 AI 학습 및 실시간 추론을 가속화하기 위한 6가지 새로운 기술이 포함되어 있습니다. 이러한 기술 중에는 2,080억 개의 트랜지스터와 새로운 4비트 부동 소수점 AI 추론 기능을 지원하는 2세대 트랜스포머 엔진이 포함된 세계에서 가장 강력한 칩이 포함되어 있습니다.

또 다른 특징은 GPU당 1.8TB/s의 양방향 처리량을 제공하는 5세대 NVLink로, 복잡한 LLM의 성능을 향상시킵니다. 또한 안정성, 가용성 및 서비스 가능성을 위한 전용 RAS 엔진과 데이터베이스 쿼리 가속화를 위한 압축 해제 엔진이 블랙웰 아키텍처의 일부입니다.

새로운 아키텍처에서 주목할 만한 구성 요소인 엔비디아 (NASDAQ:NVDA) GB200 그레이스 블랙웰 슈퍼칩은 두 개의 B200 텐서 코어 GPU를 엔비디아 그레이스 CPU에 연결하여 LLM 추론 워크로드를 위한 엔비디아 H100 텐서 코어 GPU보다 30배 향상된 효율로 AI 성능을 촉진합니다.

블랙웰 플랫폼은 주요 클라우드 제공업체, 서버 제조업체 및 선도적인 AI 기업들이 채택할 것으로 예상되는 등 폭넓은 관심을 받고 있습니다. 알파벳과 구글의 순다르 피차이, 아마존의 앤디 재시, 델 테크놀로지스의 마이클 델, 테슬라와 xAI의 엘론 머스크와 같은 기술 리더들이 주목할 만한 지지를 보냈습니다.

엔비디아의 블랙웰 기반 제품은 올해 말부터 글로벌 파트너 네트워크를 통해 제공될 예정이며, AWS, 구글 클라우드, 마이크로소프트 애저, 오라클 클라우드 인프라스트럭처와 같은 클라우드 서비스 제공업체가 가장 먼저 블랙웰 기반 인스턴스를 제공할 예정입니다.

블랙웰 제품 포트폴리오는 또한 엔비디아 가속 클라우드, 데이터센터 및 워크스테이션에 배포 가능한 추론 마이크로서비스, 프레임워크, 라이브러리 및 툴을 포함하는 프로덕션급 AI용 운영 체제인 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)의 지원을 받습니다.

이 발표는 NVIDIA의 보도 자료를 기반으로 합니다.

이 기사는 AI의 지원으로 생성되고 번역되었으며 편집자에 의해 검토되었습니다. 자세한 내용은 우리의 이용 약관을 참조하십시오.