加州州議會近期通過了多項 AI 相關(guān)法案，這些法案需由州長加文?紐瑟姆（Gavin Newsom）在 10 月 13 日前決定簽署或否決。截至 10 月 14 日，紐瑟姆州長已簽署其中多項法案。除非另有說明，這些新法律均將于 2026 年 1 月 1 日生效。

本警示將概述加州新出臺的 AI 法律，并闡述其實施過程中的核心注意事項。

AB489 法案

該法案于 10 月 12 日簽署生效，禁止 AI 技術(shù)的開發(fā)者和部署者在技術(shù)的廣告宣傳或功能中使用特定術(shù)語、字母或短語，以虛假暗示以下兩種情況：

（a）擁有醫(yī)療保健相關(guān)執(zhí)照或證書；

（b）該技術(shù)提供的建議、護(hù)理、報告或評估是由持有此類執(zhí)照或證書的人員提供的。

AB489 法案擴(kuò)展了加州現(xiàn)有的一項州法律，該法律原本就禁止個人作出類似虛假聲明（即聲稱自己有權(quán)從事特定醫(yī)療保健專業(yè)工作）。此外，加州使用生成式 AI 與患者溝通的醫(yī)療機(jī)構(gòu)，還需就 AI 的使用添加免責(zé)聲明。

SB243 法案

10 月 13 日，紐瑟姆州長簽署了 SB243 法案 —— 這是一項備受關(guān)注的陪伴型機(jī)器人相關(guān)法案。正如我們此前在客戶警示中所詳述，加州是繼紐約之后第二個對陪伴型機(jī)器人進(jìn)行監(jiān)管的州，同時也是首個要求陪伴型機(jī)器人運營商實施特定安全協(xié)議的州。

SB243 法案要求平臺實施相關(guān)協(xié)議，防止聊天機(jī)器人與用戶（尤其是未成年人）討論自殺意念、自殘或露骨色情內(nèi)容。法案還強制要求向用戶定期發(fā)送提示 —— 針對未成年人，每 3 小時提示一次 —— 提醒他們正在與 AI 而非真人互動，并鼓勵他們適當(dāng)休息。此外，法案還提出了其他要求，包括向自殺預(yù)防辦公室提交年度報告、公開安全協(xié)議相關(guān)信息，以及定期開展第三方審計。該法案還允許因法案違規(guī)而受損的個人尋求禁令救濟(jì)和損害賠償。

10 月 13 日晚些時候，紐瑟姆州長否決了《兒童前沿倫理 AI 發(fā)展法案》（AB1064）。該法案原本規(guī)定，若陪伴型聊天機(jī)器人 “可預(yù)見地可能實施會對兒童造成傷害的特定行為”，則不得向兒童提供該機(jī)器人。

紐瑟姆州長在否決備忘錄中表示，該法案的禁令范圍過于寬泛，可能會導(dǎo)致加州實際上禁止兒童使用對話式機(jī)器人。他承諾將在 2026 年與議員合作，在 SB243 法案的基礎(chǔ)上進(jìn)一步完善相關(guān)立法。

《加州人工智能透明度法案》（AB853）

同樣在 10 月 13 日簽署的 AB853 法案，對 2024 年出臺的一項法律進(jìn)行了更新。2024 年的原法律要求生成式 AI 開發(fā)者確保其工具生成的內(nèi)容包含溯源數(shù)據(jù)，且這些數(shù)據(jù)可通過 AI 檢測工具便捷獲取?！八菰磾?shù)據(jù)” 指 “嵌入數(shù)字內(nèi)容中，或包含在數(shù)字內(nèi)容元數(shù)據(jù)中的數(shù)據(jù)，其目的是驗證數(shù)字內(nèi)容的真實性、來源或修改歷史”。經(jīng)修訂后的法律原定 2026 年 1 月 1 日生效，現(xiàn)延長至 2026 年 8 月 2 日生效。

修訂后的法案還要求（法案中定義的）“大型在線平臺” 開發(fā)一套機(jī)制，讓用戶能便捷獲取上傳內(nèi)容的溯源數(shù)據(jù)。該要求將于 2027 年 1 月 1 日生效。

此外，自 2028 年 1 月 1 日起，AB853 法案將要求 “采集設(shè)備制造商” 在其產(chǎn)品中加入相關(guān)功能，使用戶能在采集的內(nèi)容中包含溯源數(shù)據(jù)。這類設(shè)備包括大多數(shù)手機(jī)、相機(jī)和錄音機(jī)。

AB621 法案

10 月 13 日，紐瑟姆州長還簽署了 AB621 法案，該法案擴(kuò)展了加州現(xiàn)有的 “非自愿深度偽造” 相關(guān)法律。其中，AB621 法案新增了一項責(zé)任條款：“為深度偽造色情服務(wù)持續(xù)運營提供支持服務(wù)的個人” 需承擔(dān)法律責(zé)任。但只有在該個人收到 “其正為此類服務(wù)提供支持” 的證據(jù)后 30 天內(nèi)，仍未停止提供相關(guān)服務(wù)時，才需承擔(dān)責(zé)任。法案指出，此類責(zé)任本質(zhì)上是對現(xiàn)有法律條款的明確應(yīng)用 —— 現(xiàn)有法律已將 “故意協(xié)助” 或 “魯莽教唆” 創(chuàng)建或故意披露此類內(nèi)容的任何人納入監(jiān)管范圍。然而，法案中使用了未定義的 “支持” 一詞，這使得人們對哪些服務(wù)屬于該新條款的監(jiān)管范圍產(chǎn)生了疑問。

AB316 法案

同樣在 10 月 13 日簽署的 AB316 法案，適用于 “原告聲稱因被告‘開發(fā)、修改或使用’的 AI 系統(tǒng)而受損” 的民事訴訟。在這類訴訟中，被告不得提出 “AI 自主造成損害” 的抗辯。但 AB316 法案仍允許被告提出其他積極抗辯，包括 “與因果關(guān)系或可預(yù)見性相關(guān)的證據(jù)”，或提交與 “比較過失” 相關(guān)的其他證據(jù)。目前尚不清楚法院在實踐中會如何解讀這一抗辯限制。

《防止算法定價壟斷法案》（AB325）

AB325 法案于 10 月 6 日簽署生效，該法案規(guī)定，個人以以下兩種方式 “使用或分發(fā)通用定價算法” 的行為屬非法：（1）“作為限制貿(mào)易或商業(yè)的合同、信托形式的聯(lián)合或共謀的一部分”；（2）“脅迫他人設(shè)定或采用通用定價算法為相同或類似產(chǎn)品或服務(wù)推薦的價格或商業(yè)條款”。有關(guān)國會此前試圖監(jiān)管定價算法但未成功的內(nèi)容，可參見我們此前發(fā)布的客戶警示。

盡管加州的 AI 立法活動要到下一個立法會議期才會重啟，但其他州的相關(guān)提案仍在推進(jìn)中。例如，2025 年 6 月，紐約州議會通過了《負(fù)責(zé)任人工智能安全與教育法案》（RAISE Act）—— 這是一項重要的立法，與《前沿人工智能透明度法案》（TFAIA）類似，該法案將對前沿 AI 模型的開發(fā)者施加透明度要求。紐約州州長凱西?霍楚爾（Kathy Hochul）需在 2025 年底前決定是否批準(zhǔn)該法案。