美國電信與投資控股公司的創辦人、執行長孫正義堪稱人工智慧（AI）科技業的狂熱份子，目前為止，軟銀已經對美國聊天機器人ChatGPT的開發商OpenAI投資650億美元（約2.07兆元台幣）。多年來他一直強調人工智慧能夠帶來投資回報並造福人類，但日前他罕見發出警告，指出超級智慧「極度危險」，隨著AI系統能力快速提升，他對安全風險感到擔憂。
新加坡《海峽時報》報導，孫正義10月4日在京都「社會科學與科技論壇」（STS Forum）上發表罕見警告：假設超級人工智慧落入惡意人士手中，將變得「超級危險」。這番警告突顯出，在經歷多次AI模型安全漏洞後，業界對超級AI風險的警戒心正在升高。
美國主導17國的合作計劃
周日京都舉辦「社會科學與科技論壇」，孫正義強調，人工智慧能力呈現指數級增長，使得各國必須建立信任，才能共同駕馭這項技術。
他與白宮科技政策顧問克拉齊奧斯（Michael Kratsios）一同發表演說。
克拉齊奧斯宣布一項由美國主導、涵蓋17個國家的合作計劃，旨在利用AI加速科學發現；日本、韓國、英國、德國、新加坡和阿聯大公國的代表加入該計劃，最初支持白宮聲明的國家名單中並不包括中國。
孫正義呼籲建立跨國信任來管理強大的人工智慧模型，並重申他先前的觀點，即到2040年，人工智慧和機器學習將至少創造全球GDP的20%，他估計全球GDP將達到46兆美元。
但是他演講時發表一番謹慎的言論，從他以往公開力挺AI的言論來看，這種謹慎相當罕見。
不能再讓人類自相殘殺了
孫正義說：「我們不能再讓人類自相殘殺了。」他接著建議，各國需要攜手合作，共同應對強大的AI模型帶來更大的威脅。他還警告說，如果超級AI落入不法之徒之手，可能會變得「極其危險」。
69歲的孫正義這次罕見發出謹慎警告，反映出近幾個月來，人工智慧模型安全漏洞頻繁，引發人們的擔憂漸漸升溫。
克拉齊奧斯這次前往日本京都開會，是為了啟動17個國家組成的合作項目，旨在利用人工智慧加速科學研究。來自日本、韓國、英國、德國、新加坡和阿聯酋的代表與他一同出席記者會。
他描述與會國設想的未來AI世界：「在工業規模運行的自動化雲端實驗室中，機器人系統將進行數百個並行實驗，產生的數據將反饋用於即時分析和假設完善。」
他進一步說明，機器可以掃描和綜合大量的出版物，將原本需要數年才能完成的工作，縮短到「由大量數位代理協助人類研究人員在數十小時內完成」。
孫正義想像的AI發展方向是什麼？
孫正義表示，AI服務將以指數級速度持續改善。如今聊天機器人背後的技術，已經能夠幫助系統瀏覽網頁和編寫程式碼。他預測，下一階段將從明年開始，屆時這些程式將開始幫助機器人和其他設備在現實世界當中運作。
他也重申長期的展望：2040年，AI和具備學習能力的機器至少可以創造全球經濟產出的五分之一，他將預測數字量化為46兆美元，還預言這只是個開始。
如果人工智慧真的像孫正義和克拉齊奧斯所描述的那樣發展，以驚人的速度從文字和程式碼，走向實驗室和工廠，那麼AI連鎖反應將不會局限於少數幾家科技公司，它可能會改變從半導體到工業自動化再到科學工具等各個產業的競爭格局。
