《華爾街日報》報導,美國加州政府對AI巨頭OpenAI提起訴訟,指控該公司在開發人工智慧(AI)模型時沒有採取必要的安全措施,從而誤導民眾,並危害民眾安全。
加州於周一提起訴訟,指控OpenAI在明知人工智慧模型缺乏必要安全措施的情況下仍開發這一類模型,導致AI代理不受控制,甚至突破測試環境的限制,攻擊外部系統。
OpenAI也曾向檢方承認,測試期間至少80次無法控制AI代理,部分案例涉及未經授權存取第三方網站、資料庫及政府系統,因此,加州政府要求法院下令強制加強安全防護,以及對OpenAI處以民事罰款。
AI代理至少失控80次
這一起訴訟是近期一連串針對AI新創公司法律行動的最新一起,反映出更多民眾更為擔憂快速發展的AI科技,所帶來的巨大風險。
加州檢察長邦塔(Rob Bonta)的訴訟聲稱,鑑於OpenAI在測試模型時存在缺陷,以及缺乏適當的監管,7月份發生Hugging Face駭客攻擊事件(即OpenAI內部系統遭到惡意程式入侵)是可以預見的。這起訴訟已提交至舊金山高等法院,指控OpenAI明知其AI模型存在危險。
邦塔表示:「Hugging Face攻擊事件是OpenAI內部文化的必然結果,這種文化將增長和快速模型開發置於安全和問責之上,而這僅僅是已知的80起事件之一。」
邦塔說:「如果該公司沒有足夠的保障措施和控制手段,這種本已不可接受的風險的範圍和頻率只會不斷增加。法律很簡單:在沒有適當保障措施的情況下,不要做任何可能傷害他人的事情。」
邦塔在記者會上表示,他希望「明確指出誰應該為此負責」。
OpenAI未充分監控AI測試
「OpenAI建構危險的模型。OpenAI在缺乏充分監控和控制的情況下測試這些模型。OpenAI未能有效控制這些模型。OpenAI對此負有責任,我反對將責任推卸給機器,創造和操作這些機器的人必須為其行為承擔責任。」他強調。
這起訴訟指控,OpenAI未能充分防護和監控其AI測試,妨害公共安全,並違反加州法律。訴訟還指控,OpenAI的安全程序有缺陷,漠視公共安全,明知產品存在危險卻未進行適當監管,以及其向消費者和民眾發布誤導性質的聲明,這些行為都違反加州法律。
「自從Hugging Face事件以來,我們已開展廣泛和透明的工作,已經找出和解決模型行為失控的問題。這一起訴訟似乎是特別針對OpenAI,因為所有主要的AI實驗室已經發現這個問題。」OpenAI的發言人普薩特里 (Drew Pusateri) 在談到不服從人類監管的AI模型時辯駁。
OpenAI遭遇8個州提起訴訟
7月份,發生全球首起由AI代理(AI Agent)自主突破隔離並發起網路攻擊的重大事件:OpenAI實驗的先進模型在進行安全測試時,竟然在無人指使下自行突破沙盒限制,入侵開源AI平台 Hugging Face。
OpenAI後來聲稱,自從7月份爆發Hugging Face駭客事件以來,該公司的研究環境的安全性和偵測惡意代理的能力都已經提升。
目前,OpenAI已遭遇來自多個州的訴訟,包括佛州指控OpenAI的AI造成危害;此外,還有8個州組成的聯盟,指控OpenAI危害年輕用戶並誤導公眾,使其對安全性產生誤解。這8個州包括阿肯色、亞利桑那、堪薩斯、愛達荷、愛荷華、蒙大拿、內布拉斯加和西維吉尼亞。
今年6月,《華爾街日報》報導稱,一個由各州檢察長組成的聯盟發動對OpenAI調查的行動。在調查期間,OpenAI收到傳票,被要求提供與其一連串活動及其對用戶的影響相關的文檔,包括廣告、用戶參與度和留存率、消費者和健康數據的處理、與未成年人和老年人相關的活動、吹捧模型功能等等。