扎克伯格万字访谈:与马斯克的笼斗
我认为这有重要意义，这里有很多我认为是真实存在的担忧。你知道，我花了很多时间思考的一个话题是开源。我们在Meta做了很多开源工作。当然，并不是我们所做的一切都是开源的，也有很多封闭系统。我在开源这件事上不是狂热分子，但我认为我可能比其他大多数大公司更倾向于开源。
我们相信，开源我们的很多基础设施总体上是积极的，原因如下：一是我们没有云业务，所以我们并不是在出售基础设施的使用权，所以可以免费将其提供给别人。二是，当我们真的开源时，我们通常会从生态系统的创新中受益，当其他人采用这些东西时，会帮助提高质量并降低价格。
问：比如PyTorch ?
扎克伯格：当我谈到降低价格时，我想到了Open Compute这样的东西，我们开放了自己的服务器设计，现在制造这种服务器的工厂可以生产更多的服务器，因为其他公司，如亚马逊等都在订购相同的设计，这为每个人降低了价格，这是好事。PyTorch之所以伟大，是因为它基本上使它成为整个行业的标准，因为人们使用它进行开发，这意味着为它创建了更多的库和模块，这只是让它变得更好。这也有利于我们内部的发展。
所以我认为所有这些都是正确的，并且对推动开源很有效。此外，我认为开源软件通常更安全，因为它经过了更严格的审查。每个软件都有漏洞和缺陷，但能看到它们的人越多，你就越能早确定这些问题，并着眼于修复它们。由于整个行业都采取了一种标准，这些修复程序会在任何地方推广，这对确保行业安全来说是一个很大的优势。
当我想到人工智能的安全性时，我认为其中一个大问题是：如果有一个超级智能被关闭了，有人想出了如何利用它，所有人都会同时受到伤害。然而，在一个开源系统中，如果人们发现问题，就像给Mac或任何东西打补丁那样，整个行业都能迅速反应过来。
所以我认为这总体上是积极的，但是很明显，当你开源东西的时候，我们可以建立保护措施。但同时，你也不能从根本上阻止坏人拿走并使用它。所以就会有这样的争论：“如何实现平衡？你希望开源的模型有多强大？”
我认为这是一场真正的辩论。我有时确实感觉到，有些公司的商业模式基本上是出售他们正在开发的封闭模型的访问权，我确实认为他们必须小心。不过，开源的一个最大好处是它也降低了小公司和很多其他人采用的成本。所以我认为这将是一件需要长期关注的大事。
问：我认为Llama和Llama 2的发布对初创公司来说是一件大事，因为它们可以免费使用。我想知道，你们公司内部是否有过关于“应该采取封闭路线”的讨论，毕竟你们在人工智能研究上花了那么多钱，你们拥有世界上最好的人工智能实验室之一。你拥有巨大的分销渠道，为什么不把这些都留给自己呢？
扎克伯格：你知道，支持封闭路线的最大理由通常不是专利优势。
问：还是竞争优势？
扎克伯格：不，这不是竞争优势，对此有过相当激烈的争论。
问：你肯定受到过劝阻吧？
扎克伯格：的确，但我认为它们应该保持开源。我认为关于风险有些新的争论，我想确保我们已经了解了风险，我们制定了非常严格的程序。我们现在正在训练下一个版本的Llama，关于我们应该如何发布它，我们可能会遇到同样的争论。再说一遍，我倾向于开源，但我认为我们需要做好“红队”的工作，在做出决定之前了解风险。
但是人们反对开放Llama 2的两个主要理由之一是，准备开源的东西需要花费很场时间。我们的主要业务是开发消费产品，我们会在Connect上推出它们。而Llama 2不属于消费产品，它是驱动这些东西的引擎或基础设施。但是有这样一种争论，特别是在我们发布了Llama 1的部分版本之后，这引起了很多骚动，然后人们提供了一大堆反馈，他们想知道我们什么时候会把这些反馈纳入其中。比如他们会问：如果我们发布Llama 2，这会不会分散我们的注意力？毕竟，我们真正的工作是尽我们所能打造最好的消费产品。这是一场辩论，我想我们很快就适应了。然后，围绕着风险和安全会出现更多辩论。
[物价飞涨的时候 这样省钱购物很爽]
还没人说话啊，我想来说几句
我们相信，开源我们的很多基础设施总体上是积极的，原因如下：一是我们没有云业务，所以我们并不是在出售基础设施的使用权，所以可以免费将其提供给别人。二是，当我们真的开源时，我们通常会从生态系统的创新中受益，当其他人采用这些东西时，会帮助提高质量并降低价格。
问：比如PyTorch ?
扎克伯格：当我谈到降低价格时，我想到了Open Compute这样的东西，我们开放了自己的服务器设计，现在制造这种服务器的工厂可以生产更多的服务器，因为其他公司，如亚马逊等都在订购相同的设计，这为每个人降低了价格，这是好事。PyTorch之所以伟大，是因为它基本上使它成为整个行业的标准，因为人们使用它进行开发，这意味着为它创建了更多的库和模块，这只是让它变得更好。这也有利于我们内部的发展。
所以我认为所有这些都是正确的，并且对推动开源很有效。此外，我认为开源软件通常更安全，因为它经过了更严格的审查。每个软件都有漏洞和缺陷，但能看到它们的人越多，你就越能早确定这些问题，并着眼于修复它们。由于整个行业都采取了一种标准，这些修复程序会在任何地方推广，这对确保行业安全来说是一个很大的优势。
当我想到人工智能的安全性时，我认为其中一个大问题是：如果有一个超级智能被关闭了，有人想出了如何利用它，所有人都会同时受到伤害。然而，在一个开源系统中，如果人们发现问题，就像给Mac或任何东西打补丁那样，整个行业都能迅速反应过来。
所以我认为这总体上是积极的，但是很明显，当你开源东西的时候，我们可以建立保护措施。但同时，你也不能从根本上阻止坏人拿走并使用它。所以就会有这样的争论：“如何实现平衡？你希望开源的模型有多强大？”
我认为这是一场真正的辩论。我有时确实感觉到，有些公司的商业模式基本上是出售他们正在开发的封闭模型的访问权，我确实认为他们必须小心。不过，开源的一个最大好处是它也降低了小公司和很多其他人采用的成本。所以我认为这将是一件需要长期关注的大事。
问：我认为Llama和Llama 2的发布对初创公司来说是一件大事，因为它们可以免费使用。我想知道，你们公司内部是否有过关于“应该采取封闭路线”的讨论，毕竟你们在人工智能研究上花了那么多钱，你们拥有世界上最好的人工智能实验室之一。你拥有巨大的分销渠道，为什么不把这些都留给自己呢？
扎克伯格：你知道，支持封闭路线的最大理由通常不是专利优势。
问：还是竞争优势？
扎克伯格：不，这不是竞争优势，对此有过相当激烈的争论。
问：你肯定受到过劝阻吧？
扎克伯格：的确，但我认为它们应该保持开源。我认为关于风险有些新的争论，我想确保我们已经了解了风险，我们制定了非常严格的程序。我们现在正在训练下一个版本的Llama，关于我们应该如何发布它，我们可能会遇到同样的争论。再说一遍，我倾向于开源，但我认为我们需要做好“红队”的工作，在做出决定之前了解风险。
但是人们反对开放Llama 2的两个主要理由之一是，准备开源的东西需要花费很场时间。我们的主要业务是开发消费产品，我们会在Connect上推出它们。而Llama 2不属于消费产品，它是驱动这些东西的引擎或基础设施。但是有这样一种争论，特别是在我们发布了Llama 1的部分版本之后，这引起了很多骚动，然后人们提供了一大堆反馈，他们想知道我们什么时候会把这些反馈纳入其中。比如他们会问：如果我们发布Llama 2，这会不会分散我们的注意力？毕竟，我们真正的工作是尽我们所能打造最好的消费产品。这是一场辩论，我想我们很快就适应了。然后，围绕着风险和安全会出现更多辩论。
[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| 注： | 在此页阅读全文 |
推荐: