AI如火如荼地發展，全球各地對它的顧慮也益發嚴重。
8月底，擁有眾多進步科技公司的美國加州，議員維納（Scott Wiener）提出監管的里程碑法案《前沿人工智慧模型安全創新法案》（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act），簡稱SB 1047，並在議會和參議院獲得兩黨支持。
在民意上，加州人也以54%比28%的比例支持該法案。
因此，當加州州長紐森（Gavin Newsom）在本週日，幾乎拖到最後一刻才給出否決，可能讓人感到驚訝。
這項否決，牽涉複雜的交涉。
創投家霍洛維茨（Andreessen Horowitz）聘請了紐森的密友來遊說反對，前議長裴洛西也敦促否決法案。當然，科技業呼聲一致，包含OpenAI、Facebook、Google、微軟都大力反對這項監管限制。
反對派最終獲勝，阻止了加州成為美國第一個制定嚴格AI規則的州，但預期這不只影響美國的一個州，而是對全球AI監管作出示範，可能影響全世界。
為何支持，為何反對？
SB 1047的前提是，在不久的將來，AI系統可能非常強大，可能變得危險並需要被一定程度地監督。
它的具體限制是：為科技業員工提供舉報保護，讓那些掌握AI實驗室危險行為機密諮詢的人，能向州檢察長投訴，而不用擔心被起訴。
它也要求那些花超過1億美元做AI模型的公司，必須制定安全計畫。之所以設定1億美元的標準，是希望不要造成新創公司的負擔，以免扼殺創新。
此外，它要求突發事件例如生物戰爭、大規模傷亡或財產損失時，能有機制能迅速關閉AI系統。
法案支持者包含得過圖靈獎的科學家班吉歐（Yoshua Bengio）和辛頓（Geoffrey Hinton）。本月，有50名學者致函紐森，表示法案「合理」，且能大力威懾那些快速部署不安全模型的公司。
辛頓等學者寫道：「有關『是否發布未來強大的AI模型』的決策，不應該掉以輕心，也不應該純粹由不承擔任何責任的公司來決定。」
然而，科技巨頭反對這項立法，表示可能會「扼殺創新」，並使美國在全球AI競爭中受挫。「AI教母」，最近剛開公司的史丹佛大學教授李飛飛，稱該法案將「損害我們正在萌芽的AI生態系」。
幾位加州的國會議員也寫信給紐森，警告該法案過於假設，稱「沒有必要為一項新興技術設定安全標準。」
最後，紐森給出的理由是法案制定得不夠完善——太針對大企業、沒有考慮到其他傷害消費者的關鍵問題（例如敏感數據使用等等）。他表示，已請幾位學者協助制定生成式AI相關監管護欄。
AI監管之路，漫長無期
「坦白說，看到立法者迎合科技界最喜歡的策略，並聲稱科技業可以自我監管，真是令人『耳目一新』。」《Vox》科技記者諷刺寫道。關注AI監管議題的《華盛頓郵報》指稱法案被否決，是「大型科技公司的勝利」。
否決法案的紐森，也有代價。人工智慧政策研究所的一項民調發現，如果他否決SB 1047，60%的選民準備將未來AI相關事件歸咎於他。也有40％的加州選民表示，如果紐森否決該法案，他們在未來的總統初選中投票給他的可能性就會降低。
在AI新創和巨頭蓬勃發展的加州，要制定一項監管AI的法案並不容易，相關議程不斷延宕。
在其他州，雖然已經有關於政治廣告「深偽」影片、徵才面部辨識等限制，但目前還沒出現針對科技公司AI模型安全性要求的限制。
喬治城大學資訊系統助理教授霍爾（Patrick Hall）表示，「各州和地方政府正在試圖介入並解決AI的明顯危害，令人遺憾的是聯邦政府在監管方面遇到了困難。」
在歐洲，立法者也遇到類似的困境。雖然歐盟通過了《人工智慧法案》，打算限制使用臉部辨識軟體等風險較高的技術，但落地實行的標準為何？如何同時平衡商業創新？仍是政府頭痛的難題。
（資料來源：NYT, The Verge, WP, Vox, Guardian）
天下總主筆陳良榕專欄。半導體狂熱、科技巨頭謀略的最犀利解讀
看懂科技大勢，獨家解讀
請查看您的信箱，我們將寄送驗證信給您，確保未來信件會送到您的信箱
