菲尔兹奖得主邓煜评论AI公司反蒸馏：你不能只在你蒸馏全人类知识时支持蒸馏

IT之家 10 月 27 日消息，据潮新闻 10 月 26 日报道，菲尔兹奖得主、芝加哥大学数学系教授邓煜在上周末的“知识分子”“赛先生”论坛上发表主旨演讲，系统阐述了他对 AI 时代数学研究的思考。 邓煜表示，AI 相对于人的优势，一方面是 AI 具有无限知识面，另一方面是 AI 具有极低的尝试成本 / 试错成本。但我们要坚持一点，在数学研究中也好，在任何事情中也好， 人总是作为主体 ；AI 是作为一个工具，是我们人利用来进行研究的工具。 邓煜认为，如果把 AI 作为研究者，就应遵守学术规范。如果 AI 证明了一个非常重大的问题，一个非常合理的要求， 是公布 AI 的思维链 。然而 AI 公司拒绝公布，很明显是不符合学术界的惯例的。“这家 AI 公司并不愿意这样做。在他们公布的所有证明中，只有极少数真正公布了思维链，大多数情况下，他们都以 所谓的防蒸馏为借口 ，拒绝公布思维链及相关的信息。” 邓煜表示，对 AI 公司来讲， 你不能在只有你蒸馏全人类的网络文献、全人类的知识的时候，就大大方方地去蒸馏 ；事实上没有人想要蒸馏你，大家只是想要了解一下思维链，然后你觉得别人想要蒸馏你，就开始说这个不行，那个不行。 邓煜提议，可以通过开源数学模型， 保证数学界有属于自己的模型掌握在自己手里 ，不需要去依赖于这样一些 AI 公司。其次，模型的使用也遵循学术界规范，包括数据使用、思维链的公布、可追溯性等。 IT之家注意到，当地时间 9 月 11 日，陶哲轩、邓煜、彼得 · 舒尔茨（Peter Scholze）等 25 位菲尔兹奖得主作为最初签署人，联合发表声明《 人工智能在数学中的严重错位 》（A Severe Misalignment of AI in Mathematics），警告 AI 公司与数学共同体之间正在出现“严重错位”。 声明称，在过去几个月里，大语言模型的数学能力有了显著提升，能够解决许多数学领域的重大悬而未决问题。然而，AI 公司将数学问题作为基准解决的推动，对数学科学和数学界都是有害的。 AI 公司的目标与数学界的目标严重错位 ，这些是影响其他科学和创意职业乃至整个社会的更广泛对齐问题的一部分。 声明提到，这些 AI 解决方案往往仓促发布，没有时间进行正式的写作，也没有时间去隔离新方法和新想法，或引用他人的相关工作。和所有创意职业一样， 这引发了严重的署名和抄袭问题 。此外，没有愿意负责其发展和融入数学经典的数学家，AI 构思的想法永远无法完全实现，数学家之间关键的人类传递链也将丧失。 特别