協議要求透明度、技術文件、版權遵守等，對高風險模型有額外要求。政府生物特徵監視僅限於特定犯罪。批評來自企業和隱私權團體，指法律對面部識別寬鬆。預計法規將於明年初生效，可能成為全球AI法規的標杆。
歐洲於上週五達成了歐洲聯盟人工智慧使用的具有里程碑意義的臨時協議，包括政府在生物特徵監視中使用 AI 和監管 ChatGPT 等 AI 系統。這項政治協議使歐盟成為全球首個制定人工智慧法律的主要大國。在歷時近15小時的談判後，歐盟國家和歐洲議會成員在前一天近 24 小時的辯論之後達成了這項協議。
兩方將在未來幾天內協商細節，這可能改變最終法規的形狀。歐洲委員會將在新聞發布會上表示：“歐洲已經定位自己為開創者，理解其作為全球標準制定者的重要性。這是歷史性的一天。”
根據協議，基礎模型（如 ChatGPT）和通用人工智慧系統（GPAI）在上市前必須遵守透明度義務。這包括繪製技術文件、遵守歐盟版權法並傳播有關培訓內容的詳細摘要。
對於具有系統風險的高影響基礎模型，將需要進行模型評估、評估和減輕系統風險、進行對抗測試、向歐洲委員會報告嚴重事件、確保网络安全並報告其能源效率。
對於具有系統風險的 GPAI，可能會依賴實踐守則來遵守新規定。
政府只能在特定犯罪的受害者、真實、現在或可預見的威脅（如恐怖襲擊）以及搜尋涉嫌最嚴重犯罪的人的情況下，在公共場所使用即時生物特徵監視。
該協議禁止認知行為操縱、無針對性地從互聯網或閉路電視影片中提取面部圖像、社會評分和生物特徵分類系統以推斷政治、宗教、哲學信仰、性取向和種族。
消費者有權提出投訴並接收有意義的解釋，而違規的罰款將範圍從 750 萬歐元（810萬美元）或營業額的 1.5% 到 3,500 萬歐元或全球營業額的 7%。
DigitalEurope 商業團體批評這些規則是對企業的又一負擔，除了最近的其他法規之外。
DigitalEurope 的總幹事 Cecilia Bonefeld-Dahl 表示：“我們達成了協議，但代價是什麼？我們完全支持基於 AI 使用的風險評估方法，而不是技術本身，但在最後一刻企圖對基礎模型進行規範已扭轉了這一切。”
隱私權利團體歐洲數字權利也同樣持批評態度。
歐洲數字權利的高級政策顧問 Ella Jakubowska 表示：“對於一項首次在歐盟合法化整個區塊的現場公共面部識別法律，很難感到興奮。儘管議會努力限制損害，但關於生物特徵監視和個人資料分析的整體方案最多也只能算是溫和。”
預計這項法規將在雙方正式批准後於明年初生效，並在其後兩年內生效。
世界各地的政府正尋求在技術的優點（可以進行類似人類對話、回答問題並編寫電腦代碼）與設立監管措施的需要之間取得平衡。
歐洲雄心勃勃的AI規則出現之際，像主要投資者為 Microsoft 的 OpenAI 等公司不斷發現其技術的新用途，引發了贊譽和擔憂。谷歌母公司 Alphabet 在周四推出了一個新的 AI 模型 Gemini，以對抗 OpenAI。
歐盟的這項法律可能成為其他政府的藍圖，也可能成為美國的寬松政策和中國的臨時法規的替代方案。
資料出處：Europe agrees landmark AI regulation deal
