英伟达发布会:黄仁勋晒”AI核弹“
整合在Kubernets上的一揽子软件系统
这一切都建立在Kubernetes这一容器化应用程序之上。NVIDIA通过Kubernetes创建了一个单一的架构，可以运行所有这些软件。Nim作为预构建的容器（containers），开发人员可以在其中直接选择模型来构建利用自己数据的人工智能应用程序。在容器中配备了适用于语言和药物发现等人工智能领域的行业标准应用程序编程接口以适应各类专有模型。
英伟达在博客文章中表示：“NIM针对每个模型和硬件设置利用优化的推理引擎，在加速基础设施上提供最佳的延迟和吞吐量。”“除了支持优化的社区模型之外，开发人员还可以通过使用永远不会离开数据中心边界的专有数据源来调整和微调模型，从而获得更高的准确性和性能。”
在模型支持方面，NIM微服务的可选项也很多。它支持Nvidia自己的模型合作库，来自AI21Labs，Cohere等合作伙伴的模型，以及来自Meta、HuggingFace、StabilityAI和Google的开源模型。同时客户可以通过NvidiaAIEnterprise平台以及MicrosoftAzureAI、GoogleCloudVertexAI、GoogleKubernetesEngine和AmazonSageMaker访问NIM微服务，并与包括LangChain、LlamaIndex和Deepset在内的AI框架集成。这基本上就等于对所有市面上主流模型都完成了覆盖。
在Nim的搭建过程中，利用NvidiaNeMoRetriever技术，公司的专有数据都可以被集成到这个微服务里以供使用。最终用户会得到一个个NVIDIANeMo，这就是针对每个公司的专有Copilit。这个专有的NeMo会用对话机器人的形式帮助你检索公司数据，如PPT，提供相关领域的技术支持。
NvidiaNeMoRetriever与微服务的结合
在发布会上，黄仁勋就展示了基于英伟达数据（Event）和芯片行业信息形成的NvidiaChipNeMo，它构建在开源的Llama2模型之上。利用英伟达的专有数据，它可以回答只有英伟达公司内部使用的CTL实验细节问题。
这些NeMo还可以跨公司共用，也就是这套系统可以被视为工业大模型的GPTStore，行业公司可以使用其他公司或英伟达提供的行业基础NeMo添加自己的数据即可获得专有大模型。为此，英伟达还特意上线了ai.nvidia.com去承载这些NeMO。
这一微服务使得传统企业AI转型变得极为易得，不论是构筑专有模型，还是直接通过模型连接企业私有数据都变得快速方便。黄仁勋表示“成熟的企业平台坐拥数据金矿，他们掌握了大量可以转化为副驾驶的数据，当你准备好运行这些人工智能聊天机器人时，你将需要一个人工智能铸造厂”。NIM正是这样一个铸造厂。它帮助构建企业AI转型的Copilot级产品，可以被视为公司AI化所需的基石。
[物价飞涨的时候 这样省钱购物很爽]
好新闻没人评论怎么行，我来说几句
这一切都建立在Kubernetes这一容器化应用程序之上。NVIDIA通过Kubernetes创建了一个单一的架构，可以运行所有这些软件。Nim作为预构建的容器（containers），开发人员可以在其中直接选择模型来构建利用自己数据的人工智能应用程序。在容器中配备了适用于语言和药物发现等人工智能领域的行业标准应用程序编程接口以适应各类专有模型。
英伟达在博客文章中表示：“NIM针对每个模型和硬件设置利用优化的推理引擎，在加速基础设施上提供最佳的延迟和吞吐量。”“除了支持优化的社区模型之外，开发人员还可以通过使用永远不会离开数据中心边界的专有数据源来调整和微调模型，从而获得更高的准确性和性能。”
在模型支持方面，NIM微服务的可选项也很多。它支持Nvidia自己的模型合作库，来自AI21Labs，Cohere等合作伙伴的模型，以及来自Meta、HuggingFace、StabilityAI和Google的开源模型。同时客户可以通过NvidiaAIEnterprise平台以及MicrosoftAzureAI、GoogleCloudVertexAI、GoogleKubernetesEngine和AmazonSageMaker访问NIM微服务，并与包括LangChain、LlamaIndex和Deepset在内的AI框架集成。这基本上就等于对所有市面上主流模型都完成了覆盖。
在Nim的搭建过程中，利用NvidiaNeMoRetriever技术，公司的专有数据都可以被集成到这个微服务里以供使用。最终用户会得到一个个NVIDIANeMo，这就是针对每个公司的专有Copilit。这个专有的NeMo会用对话机器人的形式帮助你检索公司数据，如PPT，提供相关领域的技术支持。
NvidiaNeMoRetriever与微服务的结合
在发布会上，黄仁勋就展示了基于英伟达数据（Event）和芯片行业信息形成的NvidiaChipNeMo，它构建在开源的Llama2模型之上。利用英伟达的专有数据，它可以回答只有英伟达公司内部使用的CTL实验细节问题。
这些NeMo还可以跨公司共用，也就是这套系统可以被视为工业大模型的GPTStore，行业公司可以使用其他公司或英伟达提供的行业基础NeMo添加自己的数据即可获得专有大模型。为此，英伟达还特意上线了ai.nvidia.com去承载这些NeMO。
这一微服务使得传统企业AI转型变得极为易得，不论是构筑专有模型，还是直接通过模型连接企业私有数据都变得快速方便。黄仁勋表示“成熟的企业平台坐拥数据金矿，他们掌握了大量可以转化为副驾驶的数据，当你准备好运行这些人工智能聊天机器人时，你将需要一个人工智能铸造厂”。NIM正是这样一个铸造厂。它帮助构建企业AI转型的Copilot级产品，可以被视为公司AI化所需的基石。
[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| 注： | 在此页阅读全文 |
推荐: