當被譽為“AI教父”的杰弗里·辛頓（Geoffrey Hinton）獲得諾貝爾物理學獎，諾貝爾化學獎也花落身處人工智能公司DeepMind的丹米斯·哈薩比斯（Demis Hassabis）和約翰·喬普（John M. Jumper）時，沒有人會再質疑AI給人類社會帶來的顛覆性影響。而隨著以大模型為代表的人工智能技術逐漸普及，AI換臉等新的安全隱患也層出不窮。不久前，杭州公安便披露了全國首起利用AI換臉大模型突破頭部平臺人臉認證的案件。一向將“安全”放在首位的汽車行業，如今正積極向“AI定義汽車”時代邁進。如何規避大模型應用所帶來的安全風險，成為行業必答題。

汽車大模型從“嘗鮮”到“常用”

根據相關數據，截至目前，全球人工智能大模型已有1328個。聚焦汽車產業，不少車企正在加快探索大模型對于汽車智能座艙、智能駕駛等功能的賦能，并試圖將大模型應用于汽車研發、設計、營銷、運營等眾多領域之中。

“大模型會加快智駕數據的處理速度，在數據閉環、多場景感知任務識別及多模態任務融合、端到端自動駕駛方面，促進艙駕功能的協同部署?！痹?strong>中國軟件評測中心智能網聯汽車產品與系統測評室主任王榮看來，大模型在汽車產業正迅速得到應用，將成為汽車AI化發展的核心。正如其所言，今年以來，百度、字節跳動、商湯科技、科大訊飛等科技企業以及理想汽車、小鵬汽車、蔚來汽車等車企都在加快部署大模型“上車”。

為打造差異化競爭力，智能座艙成為當下汽車企業大模型布局的最佳切入點。借助文心一言大模型，百度推出智能化產品，將百度智能座艙升級為Apollo超級座艙，可實現自動理解、構建，并生成相應場景，調度全車能力，理解用戶需求，并主動執行最優全局解決方案。同樣是今年4月，蔚來NOMI GPT端云多模態大模型正式上線，賦予了NOMI與用戶進行開放式問答的交互能力。理想自研的Mind GPT則具備覆蓋111個領域、超1000種以上的專屬能力，集用車助手、娛樂助手、出行助手、百科老師于一身。商湯絕影智能座艙大模型產品則已在多家車企量產車型上得到應用，小米SU7的小愛語音助手車載語音場景應用便脫胎于此。

在智能駕駛方面，今年5月，小鵬汽車宣布國內首個端到端大模型量產上車，預計到今年四季度實現“門到門”的智能駕駛；7月，世界人工智能大會上，商湯絕影發布可解釋、可交互的自動駕駛大模型DriveAGI，讓車輛可以像人一樣理解復雜的現實世界，洞察各類交通參與者的行為動機，快速學習各種交通規則，并向用戶解釋駕駛決策的推理過程；理想則計劃推出基于自研大模型和VLM視覺模型的L3級自動駕駛系統。

除了把大模型變為汽車產品力，不少車企也在借助大模型能力提升自身營銷、研發、運營等方面的生產力。2023年，華為云盤古大模型首次發布，覆蓋了汽車設計、生產、營銷、研發等多個業務場景。據了解，盤古汽車大模型現已覆蓋汽車業務超20多個L2場景，并已深入到汽車生產、自動駕駛開發、智能座艙開發、智能營銷以及產品售后等多個環節。今年4月，騰訊發布汽車行業大模型，實現在汽車研發、生產、營銷、服務、企業協同五大核心場景的落地應用。此外，火山引擎也與領克汽車等車企合作，依托豆包大模型打造智能銷售AI助手、智慧經營報表等功能，持續釋放大模型能力。

“以人工智能為主導的智能化競爭力，已經成為產業和企業新的發展高地和戰略支點?！?strong>中國電動汽車百人會副理事長兼秘書長張永偉表示，隨著AI大模型與汽車的深度融合，汽車產業將進入全面AI化競爭，企業必須利用好AI模型能力，促進汽車智能化水平躍升。

70%安全事故來自遠程攻擊

普及大模型勢在必行，消費者、企業、行業乃至社會發展也確實從中受益，然而新技術的到來必然會給監管提出新的挑戰。相關數據顯示，今年上半年全球出現的汽車安全事故中，70%均為遠程攻擊，涉及智能座艙、充電服務、智能控車、自動駕駛等場景，物理攻擊僅占5%。如今，大模型的出現無疑給智能網聯汽車的安全帶來更大挑戰。

不久前，中國信息通信研究院發布的《大模型安全研究報告2024》指出，大模型自身存在訓練數據安全、算法模型風險、系統平臺風險、業務應用風險等方面的安全風險。如大模型插件可能存在缺陷，引發敏感信息泄露、提示詞注入、跨插件請求偽造等安全問題；用戶與大模型互動也可能無意中泄露自己的隱私或保密信息。

聚焦汽車領域，王榮表示，車用AI模型訓練會收集和存儲大量包含敏感信息的數據，如駕駛行為、位置信息、乘客信息等，如何確保這些數據在采集、傳輸、存儲等過程中的安全問題也值得關注。另外，攻擊者還可通過精心設計的輸入數據或植入惡意樣本等方式，來欺騙AI模型做出錯誤決策，影響模型的準確性和安全性。

值得注意的是，如同AI換臉、偽造視頻等，大模型在汽車領域的應用也存在AI生成內容帶來的安全隱患。王榮稱，隨著生成式人工智能在智能網聯汽車上的推廣，文生文、文生圖、文生音樂等功能逐漸普及，而生成內容可能涉及隱私、倫理、合規等諸多方面的安全問題，必須對生成內容進行審查和標識管理。

此外，受制于技術發展，大模型的可靠度也值得商榷。王榮表示，AI模型訓練依賴高質量數據，數據來源、特征和分布過于單一，或存在錯誤數據，都會對模型訓練數據質量產生影響，進而導致模型推理結果可靠性偏低?！洞竽Ｐ桶踩珜嵺`（2024）》白皮書明確指出，大模型技術仍存在自身缺陷，包括生成內容不可信、能力不可控以及外部安全隱患等問題，由此帶來生成“幻覺”問題等風險，影響生成內容的可信度。對于專業性較強的汽車行業而言，大模型對于專業領域知識圖譜的學習仍然有限，必須謹慎對待。

不過，不可否認的是，大模型的應用在給汽車安全帶來全新挑戰的同時，也能夠轉變為汽車安全的“保護傘”，減少現有部分安全隱患?！吧墒紸I也能夠起到遠程維護和監控作用，通過分析車輛傳回的數據，制造商能夠及時發現并解決潛在問題，提高車輛安全性?！蓖鯓s說道。不久前，國內汽車安全公司木衛四便發布汽車安全大模型蝴蝶大模型2.0，可以在數百萬輛的汽車異常日志中自動識別黑客攻擊和汽車異常狀況，幫助車企實時識別汽車安全風險。此外，該安全解決方案還覆蓋了智能駕駛、充電樁等領域，并可提供汽車安全情報服務。百度也將大模型運用于汽車安全領域，可對汽車網絡環境進行實時監控，對汽車系統漏洞進行智能分析，并結合車輛運行數據對其運行狀態進行智能評估。

大模型管理體系待完善

面對大模型這一汽車安全“雙刃劍”，如何有效規避風險的同時，挖掘大模型的潛力，需要行業上下共同努力。去年8月，《生成式人工智能服務管理暫行辦法》正式施行，提出要根據生成式人工智能服務的風險高低進行分類分級監管，根據生成式人工智能服務適用的不同領域進行行業部門監管。對于汽車產業而言，王榮認為，要提早布局汽車大模型安全管理和評估體系，將大模型應用存在的惡意攻擊、隱私泄露、模型泛化等安全風險扼殺于微時。

首先，開展汽車大模型備案。包括備案資料準備、備案信息填報、提交備案申請、備案審核等。大模型獲得備案號后還需持續監督模型的合規性，并根據法律法規的變化及時更新備案信息。

其次，制定汽車大模型安全基本要求。組織行業專家制定汽車大模型的安全技術標準，明確數據安全、模型訓練、模型使用等方面的安全要求。去年年底，中國信息通信研究院依托人工智能產業聯盟安全治理委員會，聯合多方開展了“大模型安全風險防范能力”系列評估規范研究和編制工作。目前，《安全大模型能力要求及評估方法》系列規范中的總體框架、基礎網絡安全兩部分已正式發布。聚焦汽車領域，據王榮介紹，中國軟件測評中心牽頭構建了大模型公共服務平臺，針對缺乏公共數據集、測試評價標準、大模型應用驗證等行業痛點問題，提供數據匯聚、質量管理、標準規范、應用驗證等公共服務。

第三，開展大模型安全評估。建立汽車大模型安全評估體系，包括評估流程、評估方法和評估工具，通過靜態和動態分析、模擬攻擊、滲透測試、代碼審計等方式，評估汽車大模型的安全性能，確保其在實際應用中的安全性和可靠性。