《魔鬼終結者》真實上演? 解放軍用「文心一言」訓練軍方AI
〔編譯陳成良/綜合報導〕港媒披露,有中國軍方背景的研究室正利用百度開發的生成式人工智慧(AI)聊天機器人「文心一言」(ERNIE Bot),以及中國AI語音辨識大廠科大訊飛(iFlytek)開發的「星火(Spark)認知大模型」,訓練軍方的AI系統,目的是使軍事AI更加人性化。消息曝光後,百度股價15日大跌逾10%。市場擔憂,美國可能會考慮對百度實施制裁,來遏制這種合作。
《南華早報》12日引述熟知內情的科學家指出,負責監督中國軍隊太空、網路、情報和電子戰的中國人民解放軍戰略支援部隊旗下一間研究實驗室,已利用「文心一言」和「星火」測試軍方的AI系統。
報導中指出,軍事AI可將前線部隊報告的大量感應器數據和資訊轉換為描述性語言或圖像,並將其轉發給前述兩種商業AI模型,當它們確認理解後,軍事AI會自動產生提示,以便就戰鬥模擬等各種任務進行更深入的交流,整個過程完全沒有人為參與。
報導提到,電腦科學家對此表示擔憂,並強調除非謹慎處理,否則類似電影《魔鬼終結者》(The Terminator)的情節可能真實上演。
據報導,2023年12月發表在中國學術期刊《命令控制與模擬》上一篇經同行評審的論文,詳細介紹了該計畫。中國人民解放軍資訊工程大學的計畫科學家孫一峰和他的團隊在論文中寫道,人類和機器都可以從這個計畫中受益。這是中國軍方首次公開確認使用商業大語言模型。出於安全考慮,軍事資訊設施一般不直接與民用網路連接。
消息曝光當天,百度的美股股價急跌7%,15日其港股股價繼續重挫11.5%。百度連忙否認與該研究所有任何關聯或合作關係,但投資人擔心,華府可能會考慮對該公司實施制裁,以遏制這種合作,作為遏制其地緣政治對手努力的一環。
《彭博》報導,香港和台灣的使用者在嘗試訪問該研究所關於此事的研究論文的網址連結時,出現了「404」錯誤,但從中國大陸仍然可以連結。南華早報也更新了文章,刪除了關於「文言一心」與解放軍附屬機構之間「實際聯繫」的說法,但沒有做出解釋。