當(dāng)被譽(yù)為“AI教父”的杰弗里·辛頓（Geoffrey Hinton）獲得諾貝爾物理學(xué)獎(jiǎng)，諾貝爾化學(xué)獎(jiǎng)也花落身處人工智能公司DeepMind的丹米斯·哈薩比斯（Demis Hassabis）和約翰·喬普（John M. Jumper）時(shí)，沒有人會(huì)再質(zhì)疑AI給人類社會(huì)帶來的顛覆性影響。而隨著以大模型為代表的人工智能技術(shù)逐漸普及，AI換臉等新的安全隱患也層出不窮。不久前，杭州公安便披露了全國首起利用AI換臉大模型突破頭部平臺(tái)人臉認(rèn)證的案件。一向?qū)ⅰ鞍踩狈旁谑孜坏钠囆袠I(yè)，如今正積極向“AI定義汽車”時(shí)代邁進(jìn)。如何規(guī)避大模型應(yīng)用所帶來的安全風(fēng)險(xiǎn)，成為行業(yè)必答題。

汽車大模型從“嘗鮮”到“常用”

根據(jù)相關(guān)數(shù)據(jù)，截至目前，全球人工智能大模型已有1328個(gè)。聚焦汽車產(chǎn)業(yè)，不少車企正在加快探索大模型對(duì)于汽車智能座艙、智能駕駛等功能的賦能，并試圖將大模型應(yīng)用于汽車研發(fā)、設(shè)計(jì)、營銷、運(yùn)營等眾多領(lǐng)域之中。

“大模型會(huì)加快智駕數(shù)據(jù)的處理速度，在數(shù)據(jù)閉環(huán)、多場(chǎng)景感知任務(wù)識(shí)別及多模態(tài)任務(wù)融合、端到端自動(dòng)駕駛方面，促進(jìn)艙駕功能的協(xié)同部署。”在中國軟件評(píng)測(cè)中心智能網(wǎng)聯(lián)汽車產(chǎn)品與系統(tǒng)測(cè)評(píng)室主任王榮看來，大模型在汽車產(chǎn)業(yè)正迅速得到應(yīng)用，將成為汽車AI化發(fā)展的核心。正如其所言，今年以來，百度、字節(jié)跳動(dòng)、商湯科技、科大訊飛等科技企業(yè)以及理想汽車、小鵬汽車、蔚來汽車等車企都在加快部署大模型“上車”。

為打造差異化競(jìng)爭(zhēng)力，智能座艙成為當(dāng)下汽車企業(yè)大模型布局的最佳切入點(diǎn)。借助文心一言大模型，百度推出智能化產(chǎn)品，將百度智能座艙升級(jí)為Apollo超級(jí)座艙，可實(shí)現(xiàn)自動(dòng)理解、構(gòu)建，并生成相應(yīng)場(chǎng)景，調(diào)度全車能力，理解用戶需求，并主動(dòng)執(zhí)行最優(yōu)全局解決方案。同樣是今年4月，蔚來NOMI GPT端云多模態(tài)大模型正式上線，賦予了NOMI與用戶進(jìn)行開放式問答的交互能力。理想自研的Mind GPT則具備覆蓋111個(gè)領(lǐng)域、超1000種以上的專屬能力，集用車助手、娛樂助手、出行助手、百科老師于一身。商湯絕影智能座艙大模型產(chǎn)品則已在多家車企量產(chǎn)車型上得到應(yīng)用，小米SU7的小愛語音助手車載語音場(chǎng)景應(yīng)用便脫胎于此。

在智能駕駛方面，今年5月，小鵬汽車宣布國內(nèi)首個(gè)端到端大模型量產(chǎn)上車，預(yù)計(jì)到今年四季度實(shí)現(xiàn)“門到門”的智能駕駛；7月，世界人工智能大會(huì)上，商湯絕影發(fā)布可解釋、可交互的自動(dòng)駕駛大模型DriveAGI，讓車輛可以像人一樣理解復(fù)雜的現(xiàn)實(shí)世界，洞察各類交通參與者的行為動(dòng)機(jī)，快速學(xué)習(xí)各種交通規(guī)則，并向用戶解釋駕駛決策的推理過程；理想則計(jì)劃推出基于自研大模型和VLM視覺模型的L3級(jí)自動(dòng)駕駛系統(tǒng)。

除了把大模型變?yōu)槠嚠a(chǎn)品力，不少車企也在借助大模型能力提升自身營銷、研發(fā)、運(yùn)營等方面的生產(chǎn)力。2023年，華為云盤古大模型首次發(fā)布，覆蓋了汽車設(shè)計(jì)、生產(chǎn)、營銷、研發(fā)等多個(gè)業(yè)務(wù)場(chǎng)景。據(jù)了解，盤古汽車大模型現(xiàn)已覆蓋汽車業(yè)務(wù)超20多個(gè)L2場(chǎng)景，并已深入到汽車生產(chǎn)、自動(dòng)駕駛開發(fā)、智能座艙開發(fā)、智能營銷以及產(chǎn)品售后等多個(gè)環(huán)節(jié)。今年4月，騰訊發(fā)布汽車行業(yè)大模型，實(shí)現(xiàn)在汽車研發(fā)、生產(chǎn)、營銷、服務(wù)、企業(yè)協(xié)同五大核心場(chǎng)景的落地應(yīng)用。此外，火山引擎也與領(lǐng)克汽車等車企合作，依托豆包大模型打造智能銷售AI助手、智慧經(jīng)營報(bào)表等功能，持續(xù)釋放大模型能力。

“以人工智能為主導(dǎo)的智能化競(jìng)爭(zhēng)力，已經(jīng)成為產(chǎn)業(yè)和企業(yè)新的發(fā)展高地和戰(zhàn)略支點(diǎn)。”中國電動(dòng)汽車百人會(huì)副理事長兼秘書長張永偉表示，隨著AI大模型與汽車的深度融合，汽車產(chǎn)業(yè)將進(jìn)入全面AI化競(jìng)爭(zhēng)，企業(yè)必須利用好AI模型能力，促進(jìn)汽車智能化水平躍升。

70%安全事故來自遠(yuǎn)程攻擊

普及大模型勢(shì)在必行，消費(fèi)者、企業(yè)、行業(yè)乃至社會(huì)發(fā)展也確實(shí)從中受益，然而新技術(shù)的到來必然會(huì)給監(jiān)管提出新的挑戰(zhàn)。相關(guān)數(shù)據(jù)顯示，今年上半年全球出現(xiàn)的汽車安全事故中，70%均為遠(yuǎn)程攻擊，涉及智能座艙、充電服務(wù)、智能控車、自動(dòng)駕駛等場(chǎng)景，物理攻擊僅占5%。如今，大模型的出現(xiàn)無疑給智能網(wǎng)聯(lián)汽車的安全帶來更大挑戰(zhàn)。

不久前，中國信息通信研究院發(fā)布的《大模型安全研究報(bào)告2024》指出，大模型自身存在訓(xùn)練數(shù)據(jù)安全、算法模型風(fēng)險(xiǎn)、系統(tǒng)平臺(tái)風(fēng)險(xiǎn)、業(yè)務(wù)應(yīng)用風(fēng)險(xiǎn)等方面的安全風(fēng)險(xiǎn)。如大模型插件可能存在缺陷，引發(fā)敏感信息泄露、提示詞注入、跨插件請(qǐng)求偽造等安全問題；用戶與大模型互動(dòng)也可能無意中泄露自己的隱私或保密信息。

聚焦汽車領(lǐng)域，王榮表示，車用AI模型訓(xùn)練會(huì)收集和存儲(chǔ)大量包含敏感信息的數(shù)據(jù)，如駕駛行為、位置信息、乘客信息等，如何確保這些數(shù)據(jù)在采集、傳輸、存儲(chǔ)等過程中的安全問題也值得關(guān)注。另外，攻擊者還可通過精心設(shè)計(jì)的輸入數(shù)據(jù)或植入惡意樣本等方式，來欺騙AI模型做出錯(cuò)誤決策，影響模型的準(zhǔn)確性和安全性。

值得注意的是，如同AI換臉、偽造視頻等，大模型在汽車領(lǐng)域的應(yīng)用也存在AI生成內(nèi)容帶來的安全隱患。王榮稱，隨著生成式人工智能在智能網(wǎng)聯(lián)汽車上的推廣，文生文、文生圖、文生音樂等功能逐漸普及，而生成內(nèi)容可能涉及隱私、倫理、合規(guī)等諸多方面的安全問題，必須對(duì)生成內(nèi)容進(jìn)行審查和標(biāo)識(shí)管理。

此外，受制于技術(shù)發(fā)展，大模型的可靠度也值得商榷。王榮表示，AI模型訓(xùn)練依賴高質(zhì)量數(shù)據(jù)，數(shù)據(jù)來源、特征和分布過于單一，或存在錯(cuò)誤數(shù)據(jù)，都會(huì)對(duì)模型訓(xùn)練數(shù)據(jù)質(zhì)量產(chǎn)生影響，進(jìn)而導(dǎo)致模型推理結(jié)果可靠性偏低。《大模型安全實(shí)踐（2024）》白皮書明確指出，大模型技術(shù)仍存在自身缺陷，包括生成內(nèi)容不可信、能力不可控以及外部安全隱患等問題，由此帶來生成“幻覺”問題等風(fēng)險(xiǎn)，影響生成內(nèi)容的可信度。對(duì)于專業(yè)性較強(qiáng)的汽車行業(yè)而言，大模型對(duì)于專業(yè)領(lǐng)域知識(shí)圖譜的學(xué)習(xí)仍然有限，必須謹(jǐn)慎對(duì)待。

不過，不可否認(rèn)的是，大模型的應(yīng)用在給汽車安全帶來全新挑戰(zhàn)的同時(shí)，也能夠轉(zhuǎn)變?yōu)槠嚢踩摹氨Ｗo(hù)傘”，減少現(xiàn)有部分安全隱患。“生成式AI也能夠起到遠(yuǎn)程維護(hù)和監(jiān)控作用，通過分析車輛傳回的數(shù)據(jù)，制造商能夠及時(shí)發(fā)現(xiàn)并解決潛在問題，提高車輛安全性。”王榮說道。不久前，國內(nèi)汽車安全公司木衛(wèi)四便發(fā)布汽車安全大模型蝴蝶大模型2.0，可以在數(shù)百萬輛的汽車異常日志中自動(dòng)識(shí)別黑客攻擊和汽車異常狀況，幫助車企實(shí)時(shí)識(shí)別汽車安全風(fēng)險(xiǎn)。此外，該安全解決方案還覆蓋了智能駕駛、充電樁等領(lǐng)域，并可提供汽車安全情報(bào)服務(wù)。百度也將大模型運(yùn)用于汽車安全領(lǐng)域，可對(duì)汽車網(wǎng)絡(luò)環(huán)境進(jìn)行實(shí)時(shí)監(jiān)控，對(duì)汽車系統(tǒng)漏洞進(jìn)行智能分析，并結(jié)合車輛運(yùn)行數(shù)據(jù)對(duì)其運(yùn)行狀態(tài)進(jìn)行智能評(píng)估。

大模型管理體系待完善

面對(duì)大模型這一汽車安全“雙刃劍”，如何有效規(guī)避風(fēng)險(xiǎn)的同時(shí)，挖掘大模型的潛力，需要行業(yè)上下共同努力。去年8月，《生成式人工智能服務(wù)管理暫行辦法》正式施行，提出要根據(jù)生成式人工智能服務(wù)的風(fēng)險(xiǎn)高低進(jìn)行分類分級(jí)監(jiān)管，根據(jù)生成式人工智能服務(wù)適用的不同領(lǐng)域進(jìn)行行業(yè)部門監(jiān)管。對(duì)于汽車產(chǎn)業(yè)而言，王榮認(rèn)為，要提早布局汽車大模型安全管理和評(píng)估體系，將大模型應(yīng)用存在的惡意攻擊、隱私泄露、模型泛化等安全風(fēng)險(xiǎn)扼殺于微時(shí)。

首先，開展汽車大模型備案。包括備案資料準(zhǔn)備、備案信息填報(bào)、提交備案申請(qǐng)、備案審核等。大模型獲得備案號(hào)后還需持續(xù)監(jiān)督模型的合規(guī)性，并根據(jù)法律法規(guī)的變化及時(shí)更新備案信息。

其次，制定汽車大模型安全基本要求。組織行業(yè)專家制定汽車大模型的安全技術(shù)標(biāo)準(zhǔn)，明確數(shù)據(jù)安全、模型訓(xùn)練、模型使用等方面的安全要求。去年年底，中國信息通信研究院依托人工智能產(chǎn)業(yè)聯(lián)盟安全治理委員會(huì)，聯(lián)合多方開展了“大模型安全風(fēng)險(xiǎn)防范能力”系列評(píng)估規(guī)范研究和編制工作。目前，《安全大模型能力要求及評(píng)估方法》系列規(guī)范中的總體框架、基礎(chǔ)網(wǎng)絡(luò)安全兩部分已正式發(fā)布。聚焦汽車領(lǐng)域，據(jù)王榮介紹，中國軟件測(cè)評(píng)中心牽頭構(gòu)建了大模型公共服務(wù)平臺(tái)，針對(duì)缺乏公共數(shù)據(jù)集、測(cè)試評(píng)價(jià)標(biāo)準(zhǔn)、大模型應(yīng)用驗(yàn)證等行業(yè)痛點(diǎn)問題，提供數(shù)據(jù)匯聚、質(zhì)量管理、標(biāo)準(zhǔn)規(guī)范、應(yīng)用驗(yàn)證等公共服務(wù)。

第三，開展大模型安全評(píng)估。建立汽車大模型安全評(píng)估體系，包括評(píng)估流程、評(píng)估方法和評(píng)估工具，通過靜態(tài)和動(dòng)態(tài)分析、模擬攻擊、滲透測(cè)試、代碼審計(jì)等方式，評(píng)估汽車大模型的安全性能，確保其在實(shí)際應(yīng)用中的安全性和可靠性。