© Reuters.

캘리포니아 산호세 - 엔비디아는 기업이 맞춤형 애플리케이션을 보다 효율적으로 배포할 수 있도록 설계된 새로운 제너레이티브 AI 마이크로서비스 제품군을 출시했습니다. 엔비디아 (NASDAQ:NVDA) CUDA 플랫폼에서 실행되는 엔비디아 NIM 마이크로서비스는 광범위한 AI 모델에 최적화된 추론을 지원하며, 배포 시간을 몇 주에서 몇 분으로 단축하는 것을 목표로 합니다.

클라우드 네이티브 마이크로서비스 카탈로그는 클라우드, 데이터센터, 워크스테이션, PC 등 다양한 플랫폼에 걸쳐 수억 개의 GPU를 포함하는 NVIDIA의 CUDA 설치 기반을 지원하도록 구축되었습니다. 이러한 서비스는 기업이 지적 재산에 대한 소유권과 통제권을 유지하면서 AI 기반 조직으로 거듭날 수 있는 도구를 제공하기 위한 것입니다.

NVIDIA의 엔터프라이즈급 AI 마이크로서비스는 NVIDIA AI 엔터프라이즈 5.0 오퍼링의 일부이며 Amazon SageMaker, Google Kubernetes Engine, Microsoft Azure AI와 같은 주요 클라우드 서비스에서 액세스할 수 있습니다. 이 서비스는 인기 있는 AI 프레임워크와 통합되며, 주요 하드웨어 공급업체의 400개 이상의 NVIDIA 인증 시스템에서 지원됩니다.

이러한 서비스를 활용하여 도메인별 AI 애플리케이션을 개발한 최초의 기업 중 하나는 ServiceNow입니다. Adobe, Cadence, CrowdStrike, Getty Images, SAP, ServiceNow, Shutterstock을 비롯한 다른 기업들도 새로운 마이크로서비스를 활용하여 데이터를 AI 기능으로 전환하고 있습니다.

NIM 추론 마이크로서비스는 Triton 추론 서버 및 TensorRT-LLM을 비롯한 엔비디아 추론 소프트웨어로 구동되며, 언어 및 신약 개발 등 다양한 도메인에 대한 업계 표준 API를 제공합니다. 이러한 사전 구축된 컨테이너는 프로덕션 환경에서 AI 애플리케이션을 위한 빠른 확장과 고성능을 구현할 수 있도록 설계되었습니다.

또한, NVIDIA는 검색 증강 생성(RAG), 데이터 처리, 가드레일 및 고성능 컴퓨팅(HPC)과 같은 작업을 위한 CUDA-X 마이크로서비스를 발표했습니다. 이러한 서비스는 데이터 준비, 사용자 지정 및 교육을 용이하게 하여 산업 전반에서 AI 개발을 가속화합니다.

박스, 클라우데라, 코히시티, 데이터스택스, 드롭박스, 넷앱 등 에코시스템 파트너는 엔비디아와 협력하여 독점 데이터를 제너레이티브 AI 애플리케이션에 통합하고 있습니다. 스노우플레이크는 NeMo 리트리버 마이크로서비스를 활용하여 AI 애플리케이션 개발을 위한 엔터프라이즈 데이터를 활용하고 있습니다.

개발자는 ai.nvidia.com을 통해 무료로 NVIDIA 마이크로서비스를 실험해 볼 수 있습니다. 기업들은 프로덕션 배포를 위해 엔비디아 인증 시스템 및 주요 클라우드 플랫폼에서 엔비디아 AI 엔터프라이즈 5.0을 사용할 수 있습니다.

이 발표는 NVIDIA의 보도 자료를 기반으로 합니다.

이 기사는 AI의 지원으로 생성되고 번역되었으며 편집자에 의해 검토되었습니다. 자세한 내용은 우리의 이용 약관을 참조하십시오.