2024 年 5 月，欧盟理事会正式批准了《人工智能法案》（AI Act），这标志着全球首个全面 AI 监管框架正式落地。该法案采用风险分级管理方式，将 AI 应用分为不可接受风险、高风险、有限风险和最小风险四个等级。
被归入"不可接受风险"类别的应用（如社交评分系统、实时远程生物识别）将被完全禁止。"高风险"AI 系统（如招聘筛选、信用评估、医疗诊断辅助）需要满足严格的透明度、数据治理和人工监管要求。通用 AI 模型（如 GPT-4、Claude）需要遵守版权法和训练数据透明度规则。
对于 AI 初创企业和工具开发者来说，法案带来了合规成本但也创造了新的市场机会——AI 审计、可解释性工具和合规咨询将成为快速增长的新赛道。违反规定的企业可能面临高达全球年收入 7% 的罚款。
法案将在未来 6-24 个月内分阶段实施，给企业不同的合规过渡期。美国和中国预计也将在 2025 年前后推出各自的 AI 监管框架。