
近期,人工智能(AI)在数学领域展现出惊人能力,引发了全球数学界的广泛讨论与深切关注。去年,OpenAI宣布其AI成功解决了困扰数学家80年的几何学“单位距离问题”,这一突破性进展在带来兴奋的同时,也促使研究人员开始担忧,若不加以约束,AI技术可能会对数学研究领域产生负面影响。
为应对这些潜在挑战,一群由数学家、计算机科学家和数学史学家组成的研究团队,共同发布了一系列指导原则,旨在防止AI技术“碾压”数学学科的健康发展。这些原则被命名为《人工智能与数学莱顿宣言》(Leiden Declaration on Artificial Intelligence and Mathematics)。
宣言中提出了一些至关重要的规范:首先,研究人员必须披露在研究中AI工具的使用情况;其次,所有提交的论文都必须经过严格的同行评审,以确保其科学性和准确性;此外,宣言还呼吁通过法律资源和公共资金等方式,努力平衡学术界与营利性公司在AI应用上的竞争环境。
这份宣言的起草工作始于去年秋天。当时,约60名研究人员和政策制定者齐聚荷兰莱顿大学洛伦兹中心(Lorentz Center),共同探讨技术将如何影响数学领域。与会者普遍关注的一个核心问题是,由AI部分或完全撰写的数学证明数量正在加速增长。
国际数学联盟(IMU)出版委员会主席、数学家伊尔卡·阿格里科拉(Ilka Agricola)指出,负责任地使用AI“可以极其有用和有益”。然而,她也坦言:“不幸的是,与围绕AI产生的巨大混乱相比,这种积极的一面正在变得微不足道。”
目前,期刊编辑的收件箱中充斥着大量由AI生成的证明,其数量之多已超出他们能够有效审查的范围。大型语言模型在复述人类思想时,往往缺乏必要的归属引用。一些数学家担心研究本身的完整性会受到威胁,他们认为数学界长期以来所珍视的透明度和可访问性等价值观正面临危险。
例如,埃因霍温理工大学的数学家吉姆·波特吉斯(Jim Portegies)指出,几乎所有现代数学论文都可以在arXiv.org上免费阅读,美国数学学会也维护着一个精心策划的数学论文、书籍和评论存储库。对这些原则的坚持,使得地球上的任何人都能看到并在此基础上开展新的研究。然而,科技公司往往将关键细节保密。他举例说,2024年,当谷歌DeepMind宣布其AI模型AlphaProof解决了三个复杂的数学竞赛问题时,其方法耗时一年多才在同行评审期刊上发表。波特吉斯表示,在涉及AI证明时,“我们常常退居幕后,因为现在存在大量的商业利益。”
为了应对这些趋势,莱顿研讨会的参与者决定共同起草一份联合声明,其模式借鉴了关于开放科学和数据管理等类似文件。这份声明最终被命名为“人工智能与数学莱顿宣言”。
尽管所有作者都抱有一些基本共识,但要将这些共识整合为一份令所有人满意的声明,却是一项艰巨的挑战。莱顿大学AI人类学家罗德里戈·奥奇加梅(Rodrigo Ochigame)形容这是一个“漫长而艰苦的过程,伴随着大量激烈的讨论”。他表示:“我从未参与过如此短的文本却需要如此多辩论的写作过程。”
这份最终长达11页的文件,详细阐述了作者们所珍视的数学研究价值观、这些价值观如何受到AI的威胁,以及如何应对当前局面。例如,他们关注的一个问题是,人类撰写的证明可以通过具备相关专业知识的任何人进行验证,而AI则容易出现细微且难以察觉的错误;因此,制定对AI证明进行额外审查的政策有助于发现此类错误。此外,人类和AI在数学中的目标并非总是一致:数学家基于新方法和新思想出现的潜力来追求研究问题,而科技公司可能更侧重于展示其AI模型能力但对数学影响有限的问题。独立的资金支持可以帮助确保数学家在领域发展中仍拥有发言权。
宣言中的一些建议,例如披露AI使用情况和正确引用先前的研究,需要个人或AI公司层面进行落实。而其他建议,如规范AI行业,则需要大规模的组织协调或政府干预。
奥奇加梅认为,最关键的是呼吁商业AI公司遵守宣言的原则。“许多从未打算为AI发展做出贡献的数学家,他们的工作在未经同意的情况下被用于此目的,”他说,“我认为这是一个令人深感担忧的局面。”
国际数学联盟(IMU)计划认可这份宣言。领导该宣言项目的波特吉斯也将在今年夏天举行的IMU即将召开的会议上就此发表演讲。
阿格里科拉表示:“他们为整个社区做了一件巨大的好事,因为现在我们有了一个决策和讨论的起点。我非常喜欢它。”