今天终于有空看完一周前Mark Zuckerberg的播客访谈，聊Llama 3、元宇宙等话题。

https://t.co/P4t7IwuJxS

重大商业决策，Mark Zuckerberg倾向于依赖价值观和直觉，无论不出售Facebook，重金投入元宇宙和AI等等，都受这种个人特质影响。

比如主持人问Mark Zuckerberg，Meta大量采购H100 GPU，所以在AI领域进展迅速，这么有前瞻性的原因？

扎克伯格直言说，Instagram Reels追赶TikTok，发现需要海量GPU对数据做排序和推荐，所以大量采购，甚至买了Reels所需的两倍，为了保证未来可用资源。

另一方面，他也隐约觉得AI模型训练可能需要大量GPU资源，提前准备算力。

Llama-3 表现优异，Zuckerberg认为，提高模型推理、记忆、情感理解等能力将是未来的关键发展方向。

一个比较有趣的地方，Meta做Llama2时，把AI模型的编程能力优先级排的很低（社交用户不可能天天问编程问题），后来发现多模态(图像、视频等)以及对代码等专业领域知识的掌握也至关重要，Llama 3重点优化后，效果明显。

Zuckerberg认为，随着AI模型规模扩大，能源和计算资源将会成为制约因素。建设大型数据中心，获取足够能源和相关许可将是一大挑战。

最后，能从访谈感受到Zuckerberg对创造（建造）的热情。这种热情不止于互联网领域，甚至延展到生活方方面面，比如他自建农场，自己养牛等。

通过创造来解决问题，是个值得追求的好目标。