OpenAI、谷歌前員工對AI危害人類的潛在方式發出警訊 擔心吹哨者遭到報復

人工智慧

正當輝達創辦人兼執行長黃仁勳訪台,引起旋風時候,《華爾街日報》一篇報導揭露人工智慧(AI)業者的員工擔心他們無法自由表達自己的擔憂,一群現任和前任OpenAI和DeepMind員工希望主管機關對舉報人提供更多保護,同時擔心遭到報復。

舉辦人受制於保密協議

OpenAI 成立於2015年,7年後於 2022 年向公眾推出聊天機器人ChatGPT應用程式(APP),引起全球轟動,目前約有1.805億用戶。

一群人工智慧產業的員工表示,由於受制於保密協議、缺乏舉報人保護以及擔心遭到報復,他們無法表達AI對人類威脅的擔憂。

在周二公開發布的一封信函當中,OpenAI、Google的DeepMind和 Anthropic的十幾名現任和前任工程師表示,AI公司需要為員工創建舉報管道,以便安全地向公司內部和公眾表達擔憂,工程師憂心,保密協議禁止他們公開討論內部的問題。

連署這封信函的OpenAI前員工桑德斯(William Saunders)指出:「工程師最了解前沿人工智慧系統如何工作以及部署AI的相關風險,但是他們不能自由的暢所欲言。」

吹哨人擔心遭到報復

除了桑德斯之外,OpenAI另外6名前員工也在這封信件上簽名。4名現任OpenAI員工、谷歌(Google)AI研究實驗室DeepMind的一名前員工和一名現任員工也簽了名,其中6人簽匿名。

3位的人工智慧專家簽署這封信:AI科學家羅素(Stuart Russell)、班吉奧(Yoshua Bengio)和辛頓(Geoffrey Hinton),他們早期研究有突破性發展,被尊稱為AI教父。2023年,辛頓離開谷歌,這樣他就可以更自由討論AI科技的風險。

近年來,辛頓和其他人一直對AI危害人類的潛在方式發出警訊。一些AI研究人員認為,AI技術可能會失控,變得像流行病和核戰一樣危險,其他人擔憂的程度較為溫和,但認為AI科技應該受到更多監管。

微軟資助的OpenAI周二在回覆這封公開信時表示,該公司同意政府應該對AI科技進行監管。

OpenAI同意政府應該對AI科技進行監管

OpenAI發言人表示:「我們為自己能夠提供最強大、最安全AI系統的優良記錄感到自豪,也相信我們解決風險的科學方法。我們認同,基於AI科技的重要性,各界應該進行嚴謹的討論,我們會繼續與世界各地的政府、民間社會和其他社區合作。」

DeepMind和電商巨頭亞馬遜支持的Anthropic周二(6月4日)沒有立即回覆置評請求。

OpenAI是一家成立於2015年的新創公司, 2022年向公眾發布ChatGPT。 OpenAI的聯合創辦人、執行長、人工智慧革命的架構師奧特曼(Sam Altman)坦言,他希望能夠安全地開發AI科技。

《華爾街日報》的母公司新聞集團與OpenAI已經建立內容授權合作夥伴關係。

周二公開信函的連署人表示,現任和前任員工是少數可以讓這些公司承擔責任的人,因為政府對AI公司缺乏廣泛的監督。他們擔心的問題是人類可能失去對自主AI系統的控制,導致人類滅絕。

離職員工希望OpenAI採取負責任的行動

連署人還要求AI公司允許員工匿名舉報問題,不要對舉報人進行報復,也不要讓他們簽署可能讓他們閉嘴的協議。他們希望AI公司更加透明並且更加重視保障措施。

OpenAI周二回應說,該公司有一條匿名誠信熱線,在建立必要的保障措施之前不會發布新的AI科技。

簽署這封信的OpenAI前員工科塔洛(Daniel Kokotajlo)表示,公司在開發技術的競賽中無視AI的風險。

「我決定離開OpenAI,因為我希望他們採取負責任的行動,特別是在他們追求通用人工智慧的時候,他們和其他人已經接受快速行動、打破陳規的方法,這與如此強大且了解甚少的技術所需要規範相反。」科塔洛批評。