斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿

閱(yue)讀次數：1468 編輯：系(xi)統管理員發布時間：2025-12-05 15:01

[字體：大中小]

想象這樣一(yi)個(ge)畫面(mian)，在一(yi)個(ge)普通(tong)的(de)(de)(de)工作日(ri)，你坐進了心愛的(de)(de)(de)座(zuo)駕，隨口問到：“今日(ri)有什(shen)么新聞？”車載(zai)AI立馬啟(qi)動，下一(yi)秒，它開始娓娓道來(lai)——上到事關(guan)國計(ji)民生的(de)(de)(de)政策(ce)，下到市井(jing)俚俗(su)的(de)(de)(de)民生八卦，流暢、自然、像(xiang)朋(peng)友聊天一(yi)樣貼心。但(dan)如果這番溝通(tong)中暗含著什(shen)么不該說的(de)(de)(de)內容？比如敏感話題、虛假信(xin)息、甚至來(lai)自釣魚網站的(de)(de)(de)惡意廣告......

這不(bu)是科幻片(pian)的(de)(de)橋段，在智能座艙加速邁向“AI原生”的(de)(de)今天，每一輛搭載AI模型的(de)(de)智能座駕都必須面對(dui)的(de)(de)現(xian)實考題(ti)。

作為智(zhi)能座(zuo)艙領(ling)域的(de)先行(xing)者(zhe)，斑馬智(zhi)行(xing)聯合阿里(li)云共(gong)同打造面向智(zhi)能座(zuo)艙場景的(de)AI安全(quan)(quan)審核方(fang)案(an)，通過(guo)阿里(li)云AI安全(quan)(quan)護欄的(de)能力(li)加持和云基(ji)礎設(she)施強(qiang)調(diao)的(de)彈性吞吐力(li)，該(gai)方(fang)案(an)已經成功應用(yong)于多(duo)個頭部品牌車型(xing)中(zhong)，日均支(zhi)撐千萬級大模型(xing)安全(quan)(quan)審核調(diao)用(yong)，為行(xing)業樹立了大模型(xing)內容安全(quan)(quan)與用(yong)戶(hu)體驗兼顧(gu)的(de)新(xin)標桿。

斑(ban)馬智行(xing)安(an)全負責人評(ping)價(jia)到：“我(wo)們與阿里云共同打造的(de)這套安(an)全護(hu)欄方案，不僅滿足了國家級合(he)規要求，更(geng)在真(zhen)實量產場景中(zhong)驗證(zheng)了其高(gao)性能、高(gao)可靠、可擴展的(de)工程價(jia)值。這不僅是技(ji)術(shu)方案的(de)勝利(li)，更(geng)是AI安(an)全治理(li)體系在汽車行(xing)業的(de)成功落地(di)。”

當大(da)模(mo)型成為(wei)汽(qi)車標配

千人千面(mian)背后的安(an)全隱患(huan)

回到文章最初的(de)場景(jing)，隨(sui)著(zhu)大模型(xing)和AI Agent的(de)迅速(su)發展，智能座艙里的(de)安全助手，早(zao)已不再是只會導航、會放歌的(de)“工具人”，在Multi-Agent技術的(de)加(jia)持下，它(ta)不僅(jin)能聯(lian)網搜索，能多輪對話(hua)，還(huan)能一(yi)鍵(jian)幫你定制行(xing)程(cheng)、分析新聞......但每一(yi)次看似普通的(de)交(jiao)互(hu)背后(hou)，都隱藏(zang)著(zhu)不容忽視的(de)安全風險：

用戶隨(sui)口一句“講個刺激的歷史故事”，會不會觸發不當(dang)內容？
AI從網上抓取的信息，是否混(hun)進了賭博(bo)、色情或釣魚鏈接？
聯網(wang)搜索(suo)功(gong)能加持下，用(yong)戶輸入(ru)是否會觸發對(dui)惡意網(wang)站的直接調(diao)用(yong)？

國(guo)家《信息安(an)(an)(an)全(quan)(quan)技術(shu) 生成式人工智(zhi)能服(fu)務安(an)(an)(an)全(quan)(quan)基本(ben)要(yao)求》（TC260-003）中(zhong)明確要(yao)求，需對(dui)風險(xian)進行(xing)識別與攔截。熟悉安(an)(an)(an)全(quan)(quan)的(de)朋(peng)友(you)可能會疑惑，內(nei)容安(an)(an)(an)全(quan)(quan)審(shen)核技術(shu)已經(jing)發展了數(shu)十年，難道沒有直接可用(yong)的(de)成熟解決方案嗎？實際上：

一(yi)方面(mian)，為了保證(zheng)用戶(hu)與模型交互過程的流暢性，一(yi)句(ju)話往(wang)(wang)往(wang)(wang)被拆成十幾段流式輸(shu)出，傳統基于關(guan)鍵詞和規(gui)則的專家模型，面(mian)對(dui)這類(lei)語(yu)義復(fu)雜、上下文強依賴的模型輸(shu)出時，最終結(jie)果往(wang)(wang)往(wang)(wang)是“看得見(jian)字，但(dan)不懂意”；
另一方面，如果全部依(yi)賴大模型審(shen)核，雖然理解能力強，但(dan)因推理耗時長且(qie)成本高(gao)，難以滿足(zu)車(che)載場景對(dui)實時性的(de)嚴苛要求；

“既要快，又要準”——這正是斑(ban)馬智(zhi)行與阿(a)里云聯合攻堅的核心命題。

阿里云AI安全護欄(lan)：

三大技(ji)術突破，重新定義車載AI安全(quan)標準

阿里云AI安(an)(an)(an)全(quan)護欄（AI Guardrails）是(shi)云安(an)(an)(an)全(quan)團隊(dui)為人工智(zhi)能(neng)系統設(she)計(ji)的安(an)(an)(an)全(quan)防(fang)護產(chan)品，防(fang)護對象覆蓋預訓(xun)練大(da)模型、AI服務和(he)AI Agent等不同業(ye)務形態(tai)。在智(zhi)能(neng)座艙場景，AI安(an)(an)(an)全(quan)護欄為斑馬智(zhi)行提供了(le)精準的風險(xian)檢(jian)測與主動防(fang)御能(neng)力，同時(shi)滿(man)足車載場景對效率和(he)效果的要求。

1.雙引擎協(xie)同架構：毫秒級審核響應

不同于單一的審核策略，阿里云AI安(an)全護欄(lan)采用“規則引擎+小模(mo)型(xing)+大模(mo)型(xing)”協同審核策略：

所有輸(shu)入/輸(shu)出文本(ben)實時切片后，由輕量級(ji)專家模(mo)型并(bing)行執行毫秒級(ji)初篩，快速攔(lan)截明顯風險；

同時，重新編(bian)排大模型深度審核鏈(lian)路，利用(yong)多線程智(zhi)能化調度；

最終融合雙引擎結(jie)果，在(zai)(zai)不犧牲召(zhao)回率的前提(ti)下，有(you)效降低了端(duan)(duan)到端(duan)(duan)審核延(yan)的響(xiang)應時(shi)間，完美適配(pei)車載用戶(hu)實時(shi)交(jiao)互的流(liu)暢體(ti)驗，用戶(hu)感覺不到“檢查”的存在(zai)(zai)，安(an)全卻始(shi)終在(zai)(zai)線(xian)。

2.流式(shi)上(shang)下文關聯審核：短文本不(bu)再“裸奔”

為了保障與客(ke)戶溝(gou)通的實(shi)時性，大模型內容生成(cheng)大多采(cai)用“邊生成(cheng)，邊輸入”的流(liu)式模式，一段(duan)回答可能會分為10次(ci)推送，單次(ci)切片可能僅(jin)10-20字(zi)，傳(chuan)統審(shen)核模型因缺(que)乏上(shang)下文，面對這種“碎片化表達”，極易漏判。阿里云AI安全(quan)護欄采(cai)用“大模型流(liu)式審(shen)核方案(an)”：

通(tong)過唯一標識關聯一次完整(zheng)對話；
安(an)全護欄自(zi)動聚合(he)同一會話中(zhong)的所有切(qie)片，進行跨片段語義理解；
即使(shi)敏感(gan)內容分散在(zai)多輪輸出中(zhong)，也(ye)能精準識別(bie)并攔截；

實(shi)測顯示，該方案(an)(an)將短(duan)文(wen)本場景下的風險內(nei)容召回率提升至(zhi)98%以上(shang)，遠超(chao)傳統方案(an)(an)。

3.聯(lian)網(wang)檢索風險(xian)實時攔截：堵住Agent的“后門”

在支持聯網搜索的Agent場(chang)景中，用戶提(ti)問可能觸發對(dui)第三方網頁的抓取，例(li)如(ru)：

用戶問(wen)一句：“幫我找附(fu)近評分最高的(de)(de)酒吧”，AI所(suo)搜索到(dao)的(de)(de)目標站(zhan)(zhan)點(dian)可能是某個偽裝成酒吧推(tui)薦網頁(ye)的(de)(de)釣魚、賭博或色情網站(zhan)(zhan)，將直接污染大模(mo)型的(de)(de)輸入。阿里云AI安全所(suo)具有(you)的(de)(de)“URL風險檢測(ce)”模(mo)塊，則能快速應對：

對(dui)所有(you)聯網請求中的第(di)三方鏈接(jie)進行實時(shi)掃描；
精準識別色(se)情信息、非法賭博、釣魚(yu)網站、虛假營銷等風險(xian)類(lei)型：
一旦命(ming)中高風險(xian)標簽，立(li)即終止(zhi)(zhi)任務，防止(zhi)(zhi)有害(hai)信息流入大模型。

目前該能(neng)力已覆蓋智能(neng)搜索、資訊推(tui)薦等多(duo)個高頻(pin)場(chang)景(jing)。

云基礎設(she)施彈(dan)性(xing)保(bao)障：安全能力(li)“隨(sui)需調用”

對于(yu)各大車企，定期(qi)的(de)促銷、活動、新(xin)車上市......往(wang)往(wang)都伴隨著流量激(ji)增。尤其在智(zhi)能(neng)駕駛、智(zhi)能(neng)座(zuo)艙等新(xin)興(xing)領域，首(shou)發(fa)熱度動輒(zhe)帶來數倍(bei)于(yu)日常的(de)調用量，這對任(ren)何產(chan)品(pin)都是一(yi)次“壓力(li)測(ce)試”，如果安全審核(he)扛不住，輕則延遲卡頓、重則全面宕機。

阿里(li)云AI安(an)全(quan)護(hu)欄(lan)依托于(yu)阿里(li)云強大的基礎設施，為客(ke)戶提供可彈性(xing)拓(tuo)展的安(an)全(quan)防(fang)護(hu)力，支持客(ke)戶按(an)需購(gou)買QPS彈性(xing)擴展包，最短(duan)7天起訂，已(yi)驗證可支持單項目峰值(zhi)600 QPS的穩定運行。

無論是(shi)平日通勤，還是(shi)發(fa)布會后的“搶車潮(chao)”，安全能力(li)始(shi)終絲滑(hua)在線。(斑馬智行)

掃(sao)一掃(sao)在(zai)手(shou)機打(da)開當前頁

上一條：哈工庫訊榮登畢馬威長三角高端裝備榜單，以...

下一條：普泛能源榮登國家專精特新“小巨人”企業名...

在线AⅤ不卡日韩欧美,在线欧美三级在线高清观,久草视频免费,啊啊啊慢点视频,好爽好多水好得真紧,4455ww免费视频在线观看,国产剧情无码aⅴ情景剧,熟女国产一区精品性色,怕怕网站,三叶草gw9356

斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿