• 入会咨询:027-87324910    投诉反馈:13886711155
文章
当前位置 :首页 > 通知·新闻 > 行业资讯
助力构建AI安全治理体系 《人工智能安全治理框架》1.0版发布
2024-09-12点击量:246
助力构建AI安全治理体系 《人工智能安全治理框架》1.0版发布
 
        9月9日,在2024年国家网络安全宣传周主论坛上,全国网络安全标准化技术委员会(以下简称网安标委)发布《人工智能安全治理框架》1.0版(以下简称《框架》)。
 
      《框架》提出,为贯彻落实《全球人工智能治理倡议》,网安标委研究制定了《框架》。《框架》以鼓励人工智能创新发展为第一要务,以有效防范化解人工智能安全风险为出发点和落脚点,提出了包容审慎、确保安全,风险导向、敏捷治理,技管结合、协同应对,开放合作、共治共享等人工智能安全治理的原则。
 
      《框架》提到,人工智能系统设计、研发、训练、测试、部署、使用、维护等生命周期各环节都面临安全风险,既面临自身技术缺陷、不足带来的风险,也面临不当使用、滥用甚至恶意利用带来的安全风险。
 
       其中人工智能内生安全风险包括模型算法安全风险、数据安全风险、系统安全风险。人工智能应用安全风险包括网络域安全风险、现实域安全风险、认知域安全风险和伦理域安全风险。
 
       针对相关风险,《框架》指出要不断提高人工智能可解释性、可预测性,为人工智能系统内部构造、推理逻辑、技术接口、输出结果提供明确说明,正确反映人工智能系统产生结果的过程。在设计、研发、部署、维护过程中建立并实践安全开发规范,尽可能消除模型算法存在的安全缺陷、歧视性倾向,提高鲁棒性。
 
 
       网安标委秘书处相关负责人表示,《框架》的发布,对推动社会各方积极参与、协同推进人工智能安全治理具有重要促进作用,为培育安全、可靠、公平、透明的人工智能技术研发和应用生态,促进人工智能的健康发展和规范应用,提供了基础性、框架性技术指南。同时,也有助于在全球范围推动人工智能安全治理国际合作,推动形成具有广泛共识的全球人工智能治理体系,确保人工智能技术造福于人类。
 
来源:综合自网安标委网站、北京商报
 
  • 联系电话:027-87324910
  • 办公地址:湖北省武汉市武昌区积玉桥积玉路5号(省电子质检院8楼)
  • 主办单位:湖北省安全技术防范行业协会
  • 技术支持:智慧城市网www.afzhan.com
  • 版权所有 © 湖北省安全技术防范行业协会 All Copy Right 2003-2022
微信公众号
  • 湖北安防协会
  • 无人机分会
鄂ICP备05002494号-5    

鄂公网安备 42010602002822号