Oddbean new post about | logout
 谷歌前首席执行官,Schmidt Futures 创始人埃里克·施密特在斯坦福大学 ECON295-CS323 课程上的访谈总结:

施密特认为,人工智能领域发展迅速,每六个月就需要更新对未来趋势的预测。

Schmidt 预计未来一两年内,AI 领域将出现更大上下文窗口、更强大的 AI Agent 以及文本到行动的转换能力:

① 更大规模的上下文窗口: 允许模型处理更长的文本序列,例如整本书籍,从而提高对近期事件的理解和记忆能力。

② 人工智能Agent的兴起: 能够执行复杂任务的AI系统,例如自动进行化学实验并从中学习。

③ 文本到行动 (Text to Action) 的实现: 将自然语言指令直接转换为可执行代码,例如根据用户需求快速生成应用程序。

施密特认为,这三大趋势的结合将对世界产生比社交媒体更深远的影响,因为它们赋予了每个人强大的编程能力,可以快速实现各种想法。

AI 领域的竞争将主要集中在少数拥有雄厚资金、人才和教育资源的国家之间,例如美国和中国。

他以谷歌为例,说明创业公司和大型公司在 AI 领域的竞争态势。

创业公司通常更加努力,而大型公司则可能因为官僚主义和缺乏创新而落后。

人工智能可能会导致“工作两极分化”:

① 人工智能工具可以帮助各领域专业人士提高生产力、自动化任务并产生新的见解。

② 需要较少技能和判断力的工作可能会被取代,例如执行重复性或可预测性任务的工人。

人工智能被用于虚假信息传播是一个日益严重的威胁,缓解建议:

① 提高公众的批判性思维能力。

② 社交媒体平台有责任检测和删除虚假信息。

③ 政府要制定法规,以规范人工智能的使用,防止用于恶意目的。

④ 探索使用人工智能本身来检测和标记虚假信息。

对给有志于从事人工智能工作的学生建议:

培养强技术技能:专注于学习人工智能、机器学习和数据科学等领域。

发展商业头脑:了解如何将人工智能技术转化为成功的产品和服务。

保持好奇心和终身学习的态度:人工智能是一个快速发展的领域,跟上最新进展至关重要。

考虑人工智能的伦理影响:思考人工智能的更广泛的社会和伦理影响至关重要。

挑战和机遇

算力需求: 训练大型语言模型需要巨大的算力,预计未来模型的训练成本将高达数千亿美元,对能源供应和芯片制造提出挑战。

竞争格局:高昂的资金投入和技术门槛,只有少数资金雄厚、人才济济的国家和公司能够参与大型语言模型的研发和竞争,其中中美两国将成为主要的角逐者。

国家安全: 人工智能技术在军事领域的应用日益重要,施密特领导的White Stork项目旨在开发低成本、高效率的无人机系统,以改变战争形态。

知识的本质: 随着人工智能模型变得越来越复杂,认为我们可能需要接受“黑匣子”的存在,并通过对抗性人工智能(利用人工智能系统来发现和修复其他人工智能系统的漏洞)等方法来确保其安全性和可控性。

一些名词解释:

上下文窗口: 指的是大型语言模型能够处理的文本长度。

AI Agent: 能够执行特定任务的 AI 系统,例如搜索信息、预订航班等。

文本到行动: 将自然语言指令转换为可执行代码或操作的能力。

对抗性 AI: 用于测试和攻击其他 AI 系统,以发现其漏洞和弱点。

通用人工智能 (AGI): 能够像人类一样执行任何智力任务的 AI 系统。

莫拉维克悖论: 与人类相比,AI 系统在解决复杂问题方面更容易,而在执行简单的物理任务方面更难。