[CES] 黄仁勋CES重磅宣布最新AI芯片:AI下半场终于来了
这是一个我们非常自豪的领域，所有这些都是为了服务于你们构建AI代理（AI Agents）的能力。这真的是一个开创性的发展领域。你知道，当ChatGPT刚出来的时候，人们说，天哪，它产生了非常有趣的结果，但幻觉非常严重。产生幻觉的原因当然是因为它可以记住过去的一切，但它无法记住未来或当前的一切。因此它需要扎根于研究。在回答问题之前，它必须进行基础研究。推理的能力——我是否需要做研究？我是否需要使用工具？我如何将一个问题分解成步骤？每一个步骤都是AI模型知道如何做的事情。而在它们组合在一起时，它能够按顺序执行从未做过、从未受过训练去执行的事情。
这就是推理的美妙能力。我们可以遇到以前从未见过的情况，并将其分解为我们知道如何做的情境、知识或规则，因为我们在过去经历过。因此，AI模型现在能够进行推理的能力极其强大，代理的推理能力打开了通往所有这些不同应用的大门。我们不再需要在第一天就训练一个AI模型知道所有事情，就像我们不需要在第一天就知道所有事情一样，我们应该能够在每种情况下推理如何解决那个问题。
大语言模型现在已经实现了这一根本性的飞跃，使用强化学习和思维链（Chain of Thought）、搜索和规划以及所有这些不同的技术和强化学习的能力，使得我们拥有这种基本能力成为可能，而且现在也完全开源了。
但真正棒的是另一个突破。我第一次看到它是在Aravind的Perplexity上。那家搜索公司，AI搜索公司，真正创新、真正的公司。我第一次意识到他们同时使用多个模型时，我觉得这完全是天才之举。当然，我们也会那样做。
当然，AI也会在推理链的任何部分调用世界上所有伟大的AI来解决它想要解决的问题。这就是为什么AI实际上是多模态的（Multi-modal），意味着它们理解语音、图像、文本、视频、3D图形和蛋白质。那是多模态。它也是多模型（Multi-model）的，意味着它们应该能够使用任何最适合任务的模型。根据定义，它是多云的，因为这些AI模型位于所有这些不同的地方。它也是混合云，因为如果你是一家企业公司或你建造了一个机器人或任何设备，有时它在边缘，有时是无线电蜂窝塔，有时是在企业内部，或者可能是在医院这样你需要数据实时就在你身边的地方。
无论那些应用是什么，我们现在知道这就是未来AI应用的样子。或者换个方式思考，因为未来的应用是建立在AI之上的。这是未来应用的基本框架。这个基本框架，这种能够做我所说的事情的代理AI的基本结构，它是多模型的，现在已经为各种AI初创公司增压。现在你也因为我们提供的所有开放模型和所有工具，你可以定制你的AI，教你的AI其他人没有教的技能。没有其他人让他们的AI变得如此智能，如此聪明。你可以为自己做这件事。这就是我们在NeMo Tron、NeMo以及我们在开放模型方面所做的一切工作的意图。你在它前面放一个智能路由器，那个路由器本质上是一个管理者，它根据你给它的提示意图，决定哪个模型最适合该应用，最适合解决那个问题。
好的，当你思考这个架构时，你得到了什么？当你思考这个架构时，突然之间你拥有了一个一方面完全由你定制的 AI。你可以教它为你公司做特定的技能，那些领域机密的东西，那些你拥有深厚领域专业知识的东西，也许你拥有训练该 AI 模型所需的所有数据。另一方面，你的 AI 永远处于前沿。根据定义，你一方面永远在前沿，另一方面永远是定制的，而且它应该就能运行。
所以我们认为我们会制作最简单的示例，向你们提供这个完整的框架。我们称之为蓝图（Blueprint）。我们有集成到全球企业 SaaS 平台中的蓝图，我们对进展感到非常高兴。但我们要向你们展示一个任何人都可以做的简短示例。
演示视频：
让我们构建一个个人助理。我希望它能帮我处理日历、电子邮件、待办事项列表，甚至帮我照看家里。我使用 Brev 将我的 DGX Spark 变成个人云。所以我可以使用相同的界面，无论我使用的是云 GPU 还是 DGX Spark。我使用前沿模型 API 轻松上手。我希望它帮我处理电子邮件，所以我为我的智能体创建了一个电子邮件工具。我希望我的电子邮件保持私密，所以我添加了一个在 Spark 上本地运行的开放模型。
现在，对于任何工作，我都希望智能体使用正确的模型来完成任务，所以我将使用一个基于意图的模型路由器。这样，需要电子邮件的提示将留在我的 Spark 上，其他所有内容都可以调用前沿模型。我希望我的助手与我的世界互动，所以我将它连接到 Hugging Face 的 Richie 迷你机器人。我的智能体通过工具调用控制 Richie 的头、耳朵和摄像头。
[加西网正招聘多名全职sales 待遇优]
好新闻没人评论怎么行，我来说几句
这就是推理的美妙能力。我们可以遇到以前从未见过的情况，并将其分解为我们知道如何做的情境、知识或规则，因为我们在过去经历过。因此，AI模型现在能够进行推理的能力极其强大，代理的推理能力打开了通往所有这些不同应用的大门。我们不再需要在第一天就训练一个AI模型知道所有事情，就像我们不需要在第一天就知道所有事情一样，我们应该能够在每种情况下推理如何解决那个问题。
大语言模型现在已经实现了这一根本性的飞跃，使用强化学习和思维链（Chain of Thought）、搜索和规划以及所有这些不同的技术和强化学习的能力，使得我们拥有这种基本能力成为可能，而且现在也完全开源了。
但真正棒的是另一个突破。我第一次看到它是在Aravind的Perplexity上。那家搜索公司，AI搜索公司，真正创新、真正的公司。我第一次意识到他们同时使用多个模型时，我觉得这完全是天才之举。当然，我们也会那样做。
当然，AI也会在推理链的任何部分调用世界上所有伟大的AI来解决它想要解决的问题。这就是为什么AI实际上是多模态的（Multi-modal），意味着它们理解语音、图像、文本、视频、3D图形和蛋白质。那是多模态。它也是多模型（Multi-model）的，意味着它们应该能够使用任何最适合任务的模型。根据定义，它是多云的，因为这些AI模型位于所有这些不同的地方。它也是混合云，因为如果你是一家企业公司或你建造了一个机器人或任何设备，有时它在边缘，有时是无线电蜂窝塔，有时是在企业内部，或者可能是在医院这样你需要数据实时就在你身边的地方。
无论那些应用是什么，我们现在知道这就是未来AI应用的样子。或者换个方式思考，因为未来的应用是建立在AI之上的。这是未来应用的基本框架。这个基本框架，这种能够做我所说的事情的代理AI的基本结构，它是多模型的，现在已经为各种AI初创公司增压。现在你也因为我们提供的所有开放模型和所有工具，你可以定制你的AI，教你的AI其他人没有教的技能。没有其他人让他们的AI变得如此智能，如此聪明。你可以为自己做这件事。这就是我们在NeMo Tron、NeMo以及我们在开放模型方面所做的一切工作的意图。你在它前面放一个智能路由器，那个路由器本质上是一个管理者，它根据你给它的提示意图，决定哪个模型最适合该应用，最适合解决那个问题。
好的，当你思考这个架构时，你得到了什么？当你思考这个架构时，突然之间你拥有了一个一方面完全由你定制的 AI。你可以教它为你公司做特定的技能，那些领域机密的东西，那些你拥有深厚领域专业知识的东西，也许你拥有训练该 AI 模型所需的所有数据。另一方面，你的 AI 永远处于前沿。根据定义，你一方面永远在前沿，另一方面永远是定制的，而且它应该就能运行。
所以我们认为我们会制作最简单的示例，向你们提供这个完整的框架。我们称之为蓝图（Blueprint）。我们有集成到全球企业 SaaS 平台中的蓝图，我们对进展感到非常高兴。但我们要向你们展示一个任何人都可以做的简短示例。
演示视频：
让我们构建一个个人助理。我希望它能帮我处理日历、电子邮件、待办事项列表，甚至帮我照看家里。我使用 Brev 将我的 DGX Spark 变成个人云。所以我可以使用相同的界面，无论我使用的是云 GPU 还是 DGX Spark。我使用前沿模型 API 轻松上手。我希望它帮我处理电子邮件，所以我为我的智能体创建了一个电子邮件工具。我希望我的电子邮件保持私密，所以我添加了一个在 Spark 上本地运行的开放模型。
现在，对于任何工作，我都希望智能体使用正确的模型来完成任务，所以我将使用一个基于意图的模型路由器。这样，需要电子邮件的提示将留在我的 Spark 上，其他所有内容都可以调用前沿模型。我希望我的助手与我的世界互动，所以我将它连接到 Hugging Face 的 Richie 迷你机器人。我的智能体通过工具调用控制 Richie 的头、耳朵和摄像头。
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 | 更多... |
推荐: