智源社区周刊＃89：Yann LeCun等撰文回应Marcus符号推理争论；朱松纯团队AI价值对齐新工作登Science官网头条；马毅沈向洋等公开AI智能的综述论文

汇聚每周AI观点、研究和各类资源，不错过真知灼见和重要资讯！欢迎点击这里，关注并订阅智源社区AI周刊。

观点

1. Yann LeCun等撰文回应Marcus：当前对符号推理的争论都是边缘问题

【摘编】深度学习系统可以学会操作符号吗？Gary Marcus等人认为，符号推理是认知的核心。但事实证明，将人类专业知识提炼成一套规则和事实是非常困难、耗时且昂贵的，这被称为“知识获取瓶颈”。而这正是神经网络擅长的地方：发现模式、能够接受歧义。Marcus建议简单地将两者结合起来：在学习模块的前部插入一个硬编码的符号操作模块。

但是，由于操作的是离散符号，因此不可微的，与深度学习系统不兼容。神经网络方法认为，我们不需要手工制作的符号推理系统，而是可以学习它，我们用符号示例训练机器，令其进行正确的推理，将其作为完成抽象模式的问题来学习。当然，目前的AI系统在这方面并不是很可靠。而Marcus认为，符号推理是all-or-noting的事情，由于没有使用符号推理，大模型就不是真正的推理，而只是在进行苍白的模仿。对于Marcus来说，从深度学习到真正的智能之间是没有途径的。正如格言所说，“你不能通过爬足够高的树就到达月球。”

Yann LeCun等认为，当前对于符号推理争论的问题都过于边缘，研究者们没有讨论核心问题：符号操作需要硬编码，还是可以通过学习获得？鉴于最近DALL-E 2、Gato和PaLM等案例中看到的任务持续增量改进。文章建议人们不要将深度学习遇到的障碍误认为是其已经碰壁。之前已经有人预测了深度学习不可避免的失败，但并不值得押注在这个观点上。

2. 张勤院士谈新一代人工智能：可解释性、不依赖或少依赖数据独立同分布、知识系统化、能处理不确定性、未必通用

【摘编】回顾第一代第二代人工智能的发展历程，全国政协常委、国际核能院院士张勤院士认为，当前AI应着力研究两个领域：1.研究生物脑的工作机理。2.研究能解决具体问题的AI模型，无论其基于知识还是基于数据的AI都可以，但不一味追求AGI。此外，不同领域有不同需求，从而适用不同模型，一些不需要可解释的领域使用深度学习模型。但对于诊病（不只是看片或疾病筛查）和工业系统故障诊断来说，没有可解释性的模型是不可信的，因而不宜使用。张院士强调：“AI是一门科学技术，将由人类智能解决的问题转化为由人造机器来解决。这里首先要明确所解决的问题是不是智能问题。如果是，且由机器来解决，就是AI。适合于解决本领域智能问题的模型就是强AI模型，与其是否通用无关。”

“一个通用的学习引擎是一个闭环系统，它联合并构建四个必要的元素：紧凑编码、反馈控制、优化网络和自我批判博弈（Self-critiquing Game），它是任何自主智能系统的最基本构建块......一套正确的智力原则应该同样适用于蚂蚁、大象或人类。同样的，这些原则应该同样适用于个人创新者、小型初创公司或谷歌。智能一直是并且应该永远是自然界中最民主的技术。”

——7月15日，马毅在推特上谈到对智能的理解时如是说。（延伸阅读）

“当你开始创业时，不要寄希望于别人会把好的想法或资源放在盘子里递给你。许多人都是从利用业余时间做一些小项目开始的。随着最初的成功，即便是微小的成功，不断提高的技能也提升了你提出更好想法的能力，并且更容易说服他人帮助你攻克更大的项目。”

——在新一期的《Batch》专栏中，吴恩达为青年学生介绍发展AI职业生涯的重要步骤——项目实践。（延伸阅读）

研究前沿

1. 朱松纯团队研究登上《Science》官网头条：实时双向人机价值对齐 In-situ bidirectional human-robotvalue alignment
2. 马毅、沈向洋、曹颖等撰写智能产生的综述文章：论智能产生的简约和自洽原则
3. 谷歌提出可靠性机器学习模型Plex：让大模型对分布外数据提出合适的预测结果
4. Meta推出Make-A-Scene：为AI图像生成提供更强的的创造性控制

研究机构和科学家动态

1. 英国阿兰图灵研究院发布2021年度报告：发布Turing2.0计划，已拨款200万英镑支持该计划的研究项目
2. 特斯拉AI高级总监、自动驾驶负责人Andrej Karpathy宣布离职
3. Sam Altman宣布：Dall·E 2用户已突破10万
4. DeepMind与英国弗朗西斯克里克研究所达成合作，推动蛋白质设计和基因组学研究
5. Hugging Face推出BigLAM黑客松竞赛：构建面向图书馆、档案和博物馆领域的数据集
6. Hugging Face公开BigScience开源训练语言大模型：1760亿参数，支持59种语言，现可下载使用

企业和投融资动态

1. 谷歌和法国风能企业达成合作，将使用AI算法预测风力发电量
2. 国产AI芯片供应商天数智芯完成新一轮10亿元人民币融资
3. 以色列公司AI21 Labs B轮融资6400万美元，估值到6.6亿
4. 2021-2022人工智能投融资数据公开：AI芯片受到追捧，红杉、腾讯最活跃

活动

1. 视频回放 | 2022智源大会开幕式及分论坛视频上线
2. 报名 |《算法之美》作者Brian Christian： AI对齐问题：机器学习和人类价值观（安远AIx机器之心，7月23日）
3. 报名 | UC伯克利助理教授Jacob Steinhardt：预训练大模型时代的AI风险和安全
4. 报名 | 科大讯飞崔一鸣：预训练语言模型最新研究进展（7月20日）

招聘

1. 智源研究院 | AI for Science方向研究员，探索生命科学前沿，解决世界级科研问题
2. 智源研究院 | 分子动力学方向研究员，研究生物大分子动力学模拟，实现分子结构功能的预测泛化
3. 智源研究院 | 类脑智能方向研究员，追踪国际前沿文献，研发具有生理功能的大规模高精度神经网络模型

资源

1. MLOps发展历程综述：概述，定义和架构
2. FAIR、蒙特利尔大学、CMU等撰写：《终身监督学习导论》
3. Colossal-AI支持训练微调Hugging Face社区模型，几行代码即可实现
4. 美国兰德公司发布《人工智能、DeepFake和虚假信息》报告：探讨对社会和国家安全的影响及应对

查看预训练、强化学习等领域周刊内容，欢迎点击这里。

招聘、活动、推广等合作，请联系：[email protected]

大模型学习、研发、部署，欢迎扫码加入飞智（FlagAI）项目交流群

了解AI重点方向前沿进展，扫码下载青源会展望报告