天主教領袖罕見警告人工智慧（AI）潛在的危險，第一次點名批評反對限制AI技術的科技公司執行長黃仁勳（Jensen Huang）。
美國商業雜誌《富比士》（Forbes）報導，天主教教宗良十四世指出，即使輝達推出新的AI安全防護網如Sentry系統，但輝達執行長黃仁勳竟然主張不需要政府訂定新法或加強監管，這兩者互相矛盾。
輝達（Nvidia）官方針對教宗良十四世的公開批評拒絕評論，輝達的執行長黃仁勳本人也未直接隔空反擊，但是在教宗發言前後，黃仁勳強調自己是從工程角度看待AI的安全。
教宗良十四世點名批判黃仁勳
黃仁勳指出，這是一個工程問題，強調必須找到方法將AI代理（AI agents）隔離在特定環境中。他說，不能讓AI代理在企業或網路中到處漂移，必須透過工程技術將AI隔離在特定容器或沙盒環境中。
天主教教宗良十四世9月28日表示，研究人員提出人工智慧（AI）安全風險的警告，並非「假新聞」。
這位天主教領袖駁斥美國總統川普在該議題上的立場，還點名批判輝達（Nvidia）的億萬富翁執行長黃仁勳的言論，歸咎黃仁勳近日提到無需放緩AI公司發展速度或加強監管。
從9月25日至28日期間，教宗良十四世在法國展開為期4天的牧靈訪問，最後一天訪問法國東部城市梅斯（Metz），教宗良十四世在結束法國行程之後，在從梅斯飛往羅馬的航班上向記者發表演說。
周一，教宗良十四世（Pope Leo XIV）在離開法國的專機上對記者表示，他認為許多人工智慧專家和專業人士提出的各種擔憂，「應該被認真對待」。
教宗對輝達CEO說了什麼？
教宗隨後強調，他不認為這些擔憂是「像某些人所說的那樣，是為了獲取經濟或其他利益，所散佈的假消息」。然而他指出，他對此事並沒有感到恐慌，接著說：「我晚上睡得很安穩。」
天主教教宗還建議，有必要邀請政治領袖、AI公司高層和社會組織的領導人共同探討「目前情況以及未來可能出現的發展趨勢」。
他表示，天主教教會正在努力繼續推動對話、研究和調查，以確保人工智慧不會發展到毀滅人類的地步，接著喊話：「我對這一點抱持相對樂觀的態度。」
教宗在演講時沒有提及美國總統川普，但他的立場與這位總統截然相反，川普曾多次斥責人工智慧安全問題為「騙局」和「令人作嘔的陰謀」。
教宗也提到輝達28日推出的一項新安全系統。該公司聲稱，該系統可防止人工智慧代理入侵測試環境，並未經授權存取外部系統，例如今年稍早發生的OpenAI Hugging Face駭客事件。
隨後，他批評這家晶片製造商的執行長（CEO），點名「黃仁勳，就是那個說不應該設置任何限制，不應該有政府監管等等的人。」
黃仁勳對AI安全監管有何看法？
9月初，黃仁勳強烈反對出於安全疑慮的呼聲，就協調業界放緩先進AI技術的研發並加強政府對人工智慧的監管。黃仁勳在Salesforce年度Dreamforce大會上表示，在AI的安全性和速度之間，做出選擇是一種偽命題，他指出兩者完全可以兼得。
他隨後辯稱：「我們不需要新的法律——我們不需要新的監管規定。」這位億萬富翁還在舊金山舉行的All-In峰會上接聽川普突然打進來的電話。川普表示，反對AI和資料中心建設的那些人正中懷疑論者和中國的詭計，並宣稱「我們絕不會讓這種情況發生。」黃仁勳隨即回應說「您說得對，我們絕不會讓這種情況發生。」
為了解決近期AI代理頻繁發生「越獄」、突破安全邊界、甚至自主連網的失控亂象，輝達 9 月底正式推出Open Agent Safety Platform（開放式AI代理安全平台），這套系統採用軟硬體雙層防護架構，主打能在幾毫秒內即時阻斷與隔離試圖越界的AI代理。
