OpenAI 的创始人 Sam Altman 在 4 月 12 日与 TED 主持人克里斯·安德森的对谈中分享了他对 AI 技术发展的诸多担忧，包括对 AI 创造的版权矛盾、大模型面临的开源压力、AI 技术滥用风险以及人类是否能适应 AGI 时代的来临。
目录
01. Sam Altman 对 AI 技术的发展有哪些担忧与思考？
Altman在访谈中谈及了哪些话题？Altman为何不安？他对未来的AI有哪些顾虑？...
02.Sam Altman 如何回应 OpenAI 的版权问题？
Altman对「守旧派」的态度如何？「吉卜力版权争议」解决了吗？OpenAI会如何与DeepSeek竞争？...
03. 在安全实践上被评为「D+」的 OpenAI 有哪些关键 「软肋」？
Altman对AI的短期突破怎么看？OpenAI在下一代AI的治理中有哪些工作需要开展？...
04. AGI 时刻何时的到来是否真的能为人来带来好处？
OpenAI 对人工智能安全性保证有哪些实际上的动作？Altman对「Agentic AI」怎么看？...
01 Sam Altman 对 AI 技术的发展有哪些担忧与思考？
1、在全球拥有超过五亿月活用户的成就下，OpenAI 无疑是人工智能浪潮的引领者。然而，一个引人深思的问题是：即使站在如此成功的顶峰，其首席执行官 Sam Altman 仍在担忧什么？是什么让这位行业领袖保持警惕，甚至流露出不满足与不安？
2、该场访谈中，Altman 分享了对 AI 生成内容的创意归属与版权纠纷的思考，包括如何界定「创意产出」与「抄袭」，如何回应创作者的担忧，如何在不侵犯版权的前提下促进创意经济，以及 OpenAI 在面对 DeepSeek 等强劲开源模型竞争时的战略调整与挑战。
3、Altman 在访谈中还分享了对 AI 技术滥用、模型失控的疑虑，如不法分子滥用 AI 技术，从而带来网络安全挑战，自我改进模型可能会面临失控等风险。
① 在该话题下，Altman 还讨论了他对 AI 带来的大规模就业冲击和相应社会安全性风险的看法。
4、此外，Altman 在访谈中围绕 AGI 的定义、AGI 到来时机的判断，以及对「智能体型 AI」带来的风险认知，探讨如何通过建立信任机制和可能的外部安全监管来确保人工智能发展的安全性。
① Altman 一方面强调了「AGI 时刻」这一概念的模糊性，称与其争论其节点，不如关注如何在整个发展过程中如何保持系统的安全性。
② 对于「智能体型 AI」的风险，Altman 表示他的担忧聚焦于未来如何实现对智能体行为的规范，以避免这些 AI 做出危险的事情。
02 Sam Altman 如何回应 OpenAI 的版权问题？
1、该场访谈中，Altman 被问及与《花生漫画》（Peanuts）的版权所有者暂未达成协议，他谈到支持人类借助 AI 工具获取灵感并创造作品，但他也表达了对如何界定一项作品属于「创意产出」，还是「抄袭」的迷茫。
① 即使 OpenAI 通过制定版权法并限制使用范围来解决「抄袭」问题，不少的创作家仍认为 OpenAI 图像生成功能和 ChatGPT 写作功能属于窃取作品行为，但也有创作家认为借助 AI 能创作出颠覆性的新作品。
② Altman 对不愿接受技术革新的「守旧派」表示同情，并思考如何改变人类整体对 AI 创造力的接受程度，以及如何在不侵犯版权的前提下促进创意经济的发展。
③ 此前，ChatGPT 生成的吉卜力风格图片引发了版权问题。Altman 强调 AI 生图功能不应直接复制他人作品，但可以借鉴作品风格。
④ 为了评估和缓解 AI 安全性风险，OpenAI 通过引入「伦理黑匣子」制度，建立了系统性框架用于，并记录 AI 关键决策过程。Altman 强调 OpenAI 将不断迭代和改进 AI 安全性监测技术。
⑤ 与此同时，OpenAi 正在寻找如何平衡 AI 的创意生成与版权所有者权益。OpenAI 目前要求用户在使用 AI 生成内容时明确标注来源，确保 AI 生成内容的版权合规性。
⑥ Altman 强调，OpenAi 需要制定新的收益分配模式来处理 AI 生成内容的版权问题。
2、当 Altman 被问及与 DeepSeek 模型开源竞争时，Altman 谈到开源模型将在整个生态系统中占据重要位置，尽管 OpenAI 在开源方面行动迟缓，但会努力做到更好。
① 关于开源战略...
关注
0 条