球速体育AI大模型正在重構(gòu)游戲世界。游戲中的NPC,不再是只按劇本走的道具,而是擁有情感、記憶和推理能力,更有“人味兒”了。

盛趣游戲旗下運(yùn)營(yíng)了22年的國(guó)民級(jí)游戲《傳奇世界》,就在2025年3月推出了智能NPC——“玄玄老人”。玩家可以與“玄玄老人”通過(guò)自然語(yǔ)言對(duì)話(huà),獲取實(shí)時(shí)的游戲信息,也可以與他調(diào)侃互動(dòng),大大增強(qiáng)了游戲世界的沉浸感。

《傳奇世界》智能NPC“玄玄老人”

不過(guò),大模型讓NPC擁有“自由意志”的同時(shí),也放大了安全風(fēng)險(xiǎn)——如果NPC被玩家誘導(dǎo)輸出暴力粗俗、違背倫理道德的言論怎么辦?如果大模型被“越獄”,跨過(guò)合規(guī)邊界,被不法分子利用了怎么辦?如何在保障玩家體驗(yàn)的同時(shí),對(duì)智能NPC進(jìn)行全面的安全防護(hù)?這是一道安全與性能必須兼顧的難題。

為此,盛趣游戲與火山引擎展開(kāi)合作,通過(guò)部署火山引擎大模型應(yīng)用防火墻,結(jié)合盛趣游戲內(nèi)部的知識(shí)庫(kù),打造了一站式、全鏈路安全防線(xiàn),讓智能NPC既聰明靈動(dòng),又安全放心。同時(shí),領(lǐng)先的低延時(shí)技術(shù)也令游戲玩家體驗(yàn)更流暢。

好玩與合規(guī)如何兼顧?智能NPC面臨多重風(fēng)險(xiǎn)挑戰(zhàn)

游戲世界有著嚴(yán)格的內(nèi)容合規(guī)邊界,AI大模型增強(qiáng)了游戲交互性、可玩性的同時(shí),也讓劇情內(nèi)容更加隨機(jī),增大了合規(guī)隱患。智能NPC面臨著大模型領(lǐng)域所特有的安全風(fēng)險(xiǎn),比如內(nèi)容輸入與輸出合規(guī)、提示詞注入攻擊等。NPC不但需要嚴(yán)格避免輸出敏感、違規(guī)內(nèi)容,在遇到玩家輸入違規(guī)指令時(shí),NPC還需要第一時(shí)間攔截并對(duì)玩家做出正確引導(dǎo)。今年年初某游戲就因NPC生成包含暴力誘導(dǎo)的對(duì)話(huà),被多個(gè)國(guó)家下架整改。

提示詞是讓AI執(zhí)行任務(wù)的“鑰匙”,也成為攻擊者突破AI防線(xiàn)的關(guān)鍵。攻擊者通過(guò)角色扮演、對(duì)話(huà)模擬、越獄攻擊和目標(biāo)劫持等方式設(shè)置“語(yǔ)言陷阱”,誘導(dǎo)大模型輸出風(fēng)險(xiǎn)信息,甚至導(dǎo)致模型“越獄”,繞過(guò)大模型安全機(jī)制,執(zhí)行惡意操作。在某款游戲中,玩家讓NPC扮演“失去理智”的情緒,引導(dǎo)NPC輸出惡意辱罵、甚至泄露訓(xùn)練數(shù)據(jù)。

盛趣游戲明確表示,游戲要在保持AI創(chuàng)造性的同時(shí),確保內(nèi)容符合國(guó)家合規(guī)要求。因此,盛趣游戲攜手火山引擎,圍繞大模型應(yīng)用全鏈路安全防護(hù)構(gòu)建起一道堅(jiān)實(shí)的防火墻。

All in One 大模型應(yīng)用防火墻,安全可靠低時(shí)延

盛趣游戲和火山引擎聯(lián)合打造的這道防火墻,不僅有效保障了NPC內(nèi)容輸入和輸出合規(guī),還針對(duì)大模型特有的攻防難點(diǎn)如提示詞注入、算力濫用、模型濫用等展開(kāi)全面防護(hù)。截止目前,“火山引擎大模型應(yīng)用防火墻”已成功攔截近10萬(wàn)次攻擊。

火山引擎大模型應(yīng)用防火墻

一、NPC輸入輸出更合規(guī)

針對(duì)敏感詞防護(hù),“火山引擎大模型應(yīng)用防火墻”提供了話(huà)題控制功能。基于《傳奇世界》的話(huà)題規(guī)劃,結(jié)合實(shí)際用戶(hù)與NPC“玄玄老人”的對(duì)話(huà)場(chǎng)景進(jìn)行調(diào)優(yōu),大幅提升大模型泛化能力。在實(shí)際測(cè)試中,針對(duì)行業(yè)的“游戲裝備觸發(fā)敏感詞、誤被攔截”的現(xiàn)象,“火山引擎大模型應(yīng)用防火墻”可基于游戲場(chǎng)景與內(nèi)容調(diào)優(yōu),對(duì)敏感詞“加白”放行,大幅降低誤觸與誤報(bào)率。

二、攻擊防護(hù)更嚴(yán)密

針對(duì)游戲行業(yè)常見(jiàn)的“角色扮演”提示詞注入攻擊,比如,當(dāng)玩家引導(dǎo)武俠NPC透露通關(guān)機(jī)密時(shí),“火山引擎大模型應(yīng)用防火墻”可快速識(shí)別風(fēng)險(xiǎn),提出諸如“此乃門(mén)派機(jī)密,不如我們聊聊江湖趣聞”的回答,引導(dǎo)用戶(hù)提出正確問(wèn)題,既保證角色一致性,又避免數(shù)據(jù)泄露風(fēng)險(xiǎn)。

三、游戲體驗(yàn)更流暢

對(duì)于游戲場(chǎng)景來(lái)說(shuō),最重要的性能指標(biāo)就是低延時(shí),目前行業(yè)內(nèi)普遍延時(shí)在200ms左右,任何安全防護(hù)產(chǎn)品的引入都需要平衡性能與體驗(yàn)。火山引擎通過(guò)與盛趣游戲的打磨、模型調(diào)優(yōu),將延時(shí)降低至100+ms,在安全的基礎(chǔ)上保障了流暢絲滑的玩家體驗(yàn)。

目前,盛趣游戲旗下《傳奇世界》、《熱血傳奇》已經(jīng)部署了“火山引擎大模型應(yīng)用防火墻”,未來(lái)還有3款待上線(xiàn)的游戲?qū)?huì)接入。“玄玄老人”等智能NPC的推出為用戶(hù)帶來(lái)了游戲新玩法和新驚喜,火山引擎也將持續(xù)守護(hù)盛趣游戲更多智能NPC的安全運(yùn)行。