NVIDIA的NIM(Inference Microservice)是其AI Enterprise的一部分,是一款易部署的微服务,帮助客户快速部署高性能生成式AI大模型,从零开始仅需五分钟。NIM支持多种开源和NVIDIA自有大模型,并兼容OpenAI、LongChain等社区标准,提供预编译引擎和自动部署,缩短企业部署时间,简化API管理和模型优化。