2024年8月1日，世界上首部关于人工智能的全面法规《欧洲人工智能法》（AI Act，下简称法案）正式生效。人工智能法》旨在确保欧盟开发和使用的人工智能（AI）值得信赖，并为保护人们的基本权利提供保障。该法案旨在为欧盟建立一个统一的人工智能内部市场，鼓励应用AI技术，并为创新和投资创造一个有利的环境。

该法案根据欧盟基于产品安全和风险的方法，引入了AI的前瞻性定义：

 ● 风险极低的AI系统：大多数AI系统，如人工智能推荐系统和垃圾邮件过滤机制，由于其对公民权利和安全的风险极小，因此不需要承担法案规定的义务。公司可自愿采用额外的行为准则。

 ● 具有特定透明度风险的AI系统：如聊天机器人的AI系统必须明确告知用户在与机器互动。某些AI生成的内容，包括深度伪造技术，必须标注说明，在使用生物识别分类或情感识别系统时必须告知用户。此外，供应商在设计系统时，必须将合成的音频、视频、文本和图像内容标记为机器可读格式，并可检测出是人工生成或操作的。

 ● 高风险的AI系统：被认定为高风险的AI系统必须遵守严格的要求，包括风险缓解系统、高质量数据集、活动日志、详细文档、清晰的用户信息、人工监督以及高水平的稳健性、精确性和网络安全性。此类高风险人工智能系统包括用于招聘、评估某人是否有资格获得贷款或运行自主机器人的人工智能系统等。

 ● 存在不可接受风险的AI系统：被认为明显威胁人们基本权利的AI系统将被禁止使用，包括操纵人类行为以规避用户自由意志的AI系统或应用。此外，生物识别系统的某些用途也将被禁止。

作为对该系统的补充，法案还引入了通用AI模型（GPAI模型）的规则，GPAI模型能力很强，越来越多地被用作AI应用的组成部分。法案将确保价值链的透明度，并解决能力最强的模型可能存在的系统性风险。

AI规则的应用和执行

欧盟委员会要求，成员国必须在2025年8月2日之前指定国家主管机构，由其监督AI系统规则的应用并开展市场监督活动。欧盟委员会AI办公室将是欧盟层面AI法案的主要执行机构，也是GPAI模型规则的实施者。

不遵守规则的公司将面临罚款。如果违反禁用AI应用，其罚款最高可达公司全球年营业额的7%，违反其他义务的罚款最高可达3%，提供错误信息的罚款最高可达1.5%。

该法案的大部分规则将于2026年8月2日开始适用。但被视为存在不可接受风险的AI系统的禁令将在6个月后（2025年2月2日）适用，而GPAI模型规则将在12个月（2025年8月2日）后适用。

为了弥补全面实施前的过渡期，欧盟委员会推出了《人工智能公约》（AI Pact），邀请AI开发者在法定期限前自愿承担AI法案的主要义务。欧盟委员会还在制定指导方针，以界定和详细说明应如何实施法案，并促进标准和行为准则等共同监管工具的制定。