首尔AI峰会:全球科技巨头承诺安全开发AI模型

内容摘要  【ITBEAR科技资讯】5月22日消息,据路透社报道,在近日举行的“人工智能(AI)首尔峰会”上,微软、谷歌、OpenAI等全球16家顶尖科技公司联合发表声明,承诺将安全开发AI模型。此次峰会于21日和22日举行,汇聚了众多业内领军企业,其中包括国内备受瞩目的智谱AI(曾获得腾讯、阿里、美团和小米等企业的投资),以及国际知名

  【ITBEAR科技资讯】5月22日消息,据路透社报道,在近日举行的“人工智能(AI)首尔峰会”上,微软、谷歌、OpenAI等全球16家顶尖科技公司联合发表声明,承诺将安全开发AI模型。此次峰会于21日和22日举行,汇聚了众多业内领军企业,其中包括国内备受瞩目的智谱AI(曾获得腾讯、阿里、美团和小米等企业的投资),以及国际知名企业如IBM、亚马逊、me

  这些科技巨头在声明中表示,将共同致力于确保AI技术的安全发展。为此,他们发布了一套框架,详细阐述了如何评估其AI模型的风险。该框架旨在确保在开发过程中,各公司能够对其模型的风险进行全面衡量和有效控制。

  据ITBEAR科技资讯了解,在这些安全承诺中,各公司还特别强调了在极端风险情况下的应对措施。他们承诺,在风险达到严重且“无法接受”的程度时,如果无法采取有效措施来降低风险,将不得不启动紧急停止机制,暂停相关模型和系统的开发或部署。这一承诺显示了这些科技公司在面对潜在风险时的决心和责任感。

  这并不是人工智能企业首次作出类似的安全承诺。去年,亚马逊、谷歌、meta和微软等公司就曾签署过一份由美国政府促成的自愿保障措施协议,旨在确保他们的AI产品在发布时具备足够的安全性。然而,此次首尔峰会上的承诺更为具体和细致,显示了行业对于AI技术安全性的高度关注和持续努力。

  对于这一系列安全承诺,“人工智能教父”、著名计算机科学家约书亚·本吉奥表示欢迎。他认为这些自愿承诺是积极的开始,但同时也指出,必须伴随有效的监管措施来确保其真正得到落实。只有这样,人工智能技术的发展才能更好地造福人类,同时降低潜在风险。

 
举报 收藏 打赏 评论 0
24小时热闻
今日推荐
浙ICP备19001410号-1