该公约旨在应对AI的挑战，审议AI相关的各类风险和影响。国家安全利益、尚未面世的科研活动和国防相关的AI活动可不受约束
世界首个人工智能公约向全球各国开放签署。9月5日，在欧洲委员会司法部长会议上，美国、欧盟、安道尔、格鲁吉亚、冰岛、挪威、摩尔多瓦共和国、圣马力诺、英国和以色列10个国家和组织签署了《人工智能与人权、民主和法治框架公约》（下称“《框架公约》”），这是全球首个具有法律约束力的人工智能公约。
下一步，《框架公约》将等待各签署国立法机构的批准。《框架公约》将在获得5个签署国(包括至少3个欧洲委员会成员国)立法机构批准三个月之后生效。世界各国都有资格加入《框架公约》。
欧洲委员会秘书长Marija Pejčinović Burić表示，希望《框架公约》迅速得到批准，以便能够尽快生效。英国司法部长Shabana Mahmood则声明，《框架公约》是确保AI技术在不侵蚀人权和法治等最古老价值观的情况下得到利用的重要一步。
《框架公约》由46个欧洲委员会成员国、欧盟和欧洲委员会之外的11个非成员国谈判撰写。私营部门、民间社会和学术界的代表作为观察员作出了贡献。2024年5月，欧洲委员会的部长委员会通过了《框架公约》文案。
《框架公约》旨在应对AI系统的整个生命周期中出现的具体挑战，并鼓励审议AI相关的各类风险和影响，包括对人类健康和环境、就业和劳动等社会经济方面的影响。
仅12页的《框架公约》规定了一些主要的准则，包括保护人权、民主机构和程序、隐私和个人信息；提升所有人的数字素养和数字技能，比如识别和阻止AI风险的能力；建立机制，记录有潜在风险的AI系统的信息，保证授权机构能得到这些信息，并能将这些信息传递给受影响的人群；让受影响人群能向政府机构有效申诉。
根据《框架公约》，缔约方须采取立法、行政或其他措施来具体实施《框架公约》的要求。国家安全利益、尚未面世的科研活动和国防相关的AI活动可以不受《框架公约》约束。
至于具体怎么执行，缔约方将有较大的自由裁量权。据《框架公约》，缔约方应向欧洲委员会秘书长提交声明，说明将如何履行义务，此后还需定期报告，说明具体开展了哪些活动。
值得注意的是，组织制定《框架公约》的欧洲委员会（Council of Europe）与欧盟委员会（European Council）不同，并非欧洲的行政机关，而是一个公益性质的国际组织，主要使命是保护人权。
欧洲委员会成立于1949年，目前有46个成员国，中国不是成员国之一。欧洲委员会的决策机构——部长委员会由各成员国外交部长或其常驻法国斯特拉斯堡的外交代表组成。至今，除了《欧洲人权公约》，欧洲委员会还制定了200多项具有法律约束力的国际条约，以帮助保护人们免受包括酷刑、暴力和性虐待在内的各种威胁。
自ChatGPT在2022年11月诞生以来，全球各国纷纷开始AI立法（详见《AI监管全球竞速》）。8月1日，欧盟《人工智能法案》生效（详见《欧盟AI法施行 AI将被分四级监管》）。对于日益兴盛的通用AI大模型（GPAI），欧盟委员会“与时俱进”，正在邀请在欧盟开展业务的AI大模型提供商、企业、民间社会代表、权利持有人和学术专家提交他们的意见和调查结果。欧盟预计将在2025年4月将其拟定成业务守则，在2025年8月前实施。
在美国，8月28日，美国加利福尼亚州议会通过了《安全可靠的前沿人工智能模型创新法案》，这是美国地方州严格监管AI大模型的第一个州法案（详见《美国加州通过AI大模型法案 马斯克支持 李飞飞担忧》）。2023年10月，美国总统拜登发布“关于安全、可靠、可信地开发和使用人工智能的行政命令”，要求美国商务部、能源部和国土安全部等部门展开行动，保护美国人免受人工智能（AI）系统的潜在风险。该行政令尚待各部门具体落实。
本文转自于 财新网
