PersonaPlex:讓語音助理「邊聽邊說」的全雙工對話模型

 

如果你做過語音助理、客服機器人或低延遲語音互動產品,應該很熟悉傳統做法:ASR(語音轉文字)→ LLM(文字理解生成)→ TTS(文字轉語音)。這條管線雖然成熟,但副作用也很明顯——它逼迫系統「輪流講話」,使用者一插話就容易卡住,對話節奏也常常不自然。PersonaPlex 要解的,就是這個長年痛點。

PersonaPlex(PersonaPlex-7B-v1) 是 NVIDIA 釋出的開源專案與模型:主打 real-time、speech-to-speech、full-duplex(全雙工),也就是模型能在持續聆聽的同時持續發話,更接近真人對話的自然節奏。

 

這個專案的重點特色

  • 全雙工語音對話(Full-duplex)
    不再是你講完我才回,而是可以同時處理「聽」與「說」,更容易做出即時的「嗯哼、對、我懂」這種 back-channel 回應,也能更自然地處理插話與打斷(barge-in)。

  • 直接在音訊 token 上運作,減少管線切換摩擦
    PersonaPlex 不是把語音拆成 ASR/LLM/TTS 三段交棒,而是透過神經 codec 將連續音訊編碼後,模型同時自回歸產生文字 token 與音訊 token,做到串流理解與串流生成並行。

  • 雙串流 Transformer 架構,並行產生文字與音訊
    官方描述指出它用 dual-stream 的設計,讓文字與語音可以同步生成,降低延遲並提升「對話節奏感」。

  • Persona 控制主打 zero-shot
    你可以用文字 role prompt 直接指定角色/口吻(例如「你是冷靜專業的客服」、「你是親切的導覽員」),同時也能用音訊條件去控制聲線風格,讓同一套模型更像「可切換人格的語音代理」。

  • 開源可用:程式碼與權重公開
    GitHub 專案本身是開源釋出;模型權重也在 Hugging Face 提供下載與說明,方便研究與落地測試。

 

什麼人會特別需要 PersonaPlex?

如果你在做的是「真人感」很重要的語音互動,PersonaPlex 的方向就很對味,像是:

  • 低延遲語音助理:希望有更自然的插話處理、快速接話與重疊語音互動。

  • 客服/支援型語音 Agent:需要穩定的角色設定(persona),同時要能在用戶打斷時不中斷整個流程。

  • 語音互動研究與產品 PoC:想跳脫傳統三段式管線,驗證「端到端語音對話」可否帶來更好的體感。

 

總之,如果你正在打造需要「真實對話節奏」的語音產品,PersonaPlex 提供了一個很具代表性的解法:把傳統 ASR→LLM→TTS 的摩擦點整合掉,改用能同時聽說的全雙工架構,再加上零樣本 persona 控制,對於低延遲助理或支援型語音 Agent 來說,確實是一大步。

 

如果您喜歡我們的網站,並且希望支持我們的工作,您可以考慮捐款。我們接受各種形式的捐款,包括一次性捐款和定期捐款。您的捐款將幫助我們維護和改進網站,並為用戶提供更好的體驗。

課程推薦

AI虛擬角色生成實戰班

AI虛擬角色生成實戰班

本課程將帶你從 AI 虛擬角色的概念出發,認識 AI Persona 的生成流程與應用方式,學會打造專屬自己的 AI 分身。課程中會學習 Prompt 提示詞撰寫、真人感人像生成、固定角色模板建立,並延伸出同一角色的多場景、多服裝與多情境照片。

OpenClaw 龍蝦 AI 代理人實作課:零基礎打造 AI 辦公代理人

OpenClaw 龍蝦 AI 代理人實作課:零基礎打造 AI 辦公代理人

本課程從安裝部署、身份設定、技能安裝到實戰應用,帶你從零建立一個專屬的 AI 工作助手-OpenClaw 龍蝦,這個 AI 助手可以替你蒐集情報、摘要文件、整理郵件、生成內容、定時提醒,全部自動完成。

輸入折扣碼 TC1625FR 還可以額外獲得 NT$500 優惠喔。

Google Gemini AI 多媒體生成工具應用實戰:從 Imagen 4、Veo 3、Chirp、Lyria 到 nano-banana

Google Gemini AI 多媒體生成工具應用實戰:從 Imagen 4、Veo 3、Chirp、Lyria 到 nano-banana

如何只用文字說明提示就生成不同的圖像結果?亦或是會議上的語音檔轉文字?這是一堂通盤性、全面性的Google Gemini AI多媒體生成工具應用實戰!

輸入折扣碼 TC1609EW 還可以額外獲得 NT$500 優惠喔。

AI 數據自動化工具實戰班:Google Sheet x Apps Script x NotebookLM 暨資料處理函數

AI 數據自動化工具實戰班:Google Sheet x Apps Script x NotebookLM 暨資料處理函數

本門課將教你如何善用 AI 功能與工具,進行自動分析數據提供有幫助的建議與洞察,以及使用 AI 驅動的公式自動化計算。

輸入折扣碼 TC1615VU 還可以額外獲得 NT$500 優惠喔。

3 小時掌握自動化工作新手應用實作 – n8n AI Agent

3 小時掌握自動化工作新手應用實作 – n8n AI Agent

這門課程將帶你循序漸進掌握 n8n 的自動化技巧,從基礎認識與操作入門,到進階節點應用與流程控制,再到 Google 服務的整合實作,最後延伸至部署思維與 OpenAI API 的智慧化串接。

輸入折扣碼 TC1600UY 還可以額外獲得 NT$500 優惠喔。

用 AI 生成網站? AI 高效網站設計實戰課:ChatGPT X HTML X SEO

用 AI 生成網站? AI 高效網站設計實戰課:ChatGPT X HTML X SEO

利用 AI 提升網站設計效率與 SEO 排名!了解如何透過 ChatGPT 等工具快速建立 HTML 架構,優化關鍵字與用戶體驗,讓網站更具競爭力。

輸入折扣碼 TC1533SL 還可以額外獲得 NT$500 優惠喔。

AI工作術全面學習實戰營:6 堂精選課程,學會最好用 AI 工具,翻轉你的人生

AI工作術全面學習實戰營:6 堂精選課程,學會最好用 AI 工具,翻轉你的人生

《PChome雜誌》攜手 5 位在 AI 領域的專業講師,打造上述 6 堂實用課程,教你學會時下最好用的 AI 工具,導入生成式 AI 來產製工作內容,改造並升級你的工作流程。

輸入折扣碼 ZERO2024 還可以額外獲得 NT$400 優惠喔。

HTML與SEO實戰應用—並以ChatGPT助力提升網站品質與流量

HTML與SEO實戰應用—並以ChatGPT助力提升網站品質與流量

本課程專為希望深入了解 HTML 並有效結合 SEO 策略的學員設計。我們將重點放在 HTML 的深度學習與應用上,同時穿插介紹如何透過搜索引擎優化提升網站能見度。透過即時互動式的直播教學,加上 ChatGPT 的輔助,您將學習到如何建立一個結構優良、美觀且符合 SEO 標準的網站。這不僅會提升網站的用戶體驗,還會大幅提高網站的搜索引擎排名,進而增加訪客流量和潛在客戶。
用AI強化職場競爭力 ChatGPT、Midjourney從入門到精通

用AI強化職場競爭力 ChatGPT、Midjourney從入門到精通

在快速變遷的職場中,提升競爭力成為關鍵。透過引領潮流的AI技術,ChatGPT和Midjourney將助您勇攀高峰。無論您是AI新手還是專家,這個課程將引導您從入門到精通,解密AI的奧秘,並學習如何運用於職場。
GitHub Copilot AI 程式碼編輯工具應用實務班

GitHub Copilot AI 程式碼編輯工具應用實務班

讓學員瞭解有效地使用該工具來加速開發流程、提高程式碼品質和生產力。課程重點放在以 JavaScript 程式語言為例,介紹 Copilot 的基本原理、使用方法和最佳實踐。

輸入折扣碼 TC1456JA 還可以額外獲得 NT$500 優惠喔。

ChatGPT X Clipchamp AI 生成影片、配音與字幕應用實戰班

ChatGPT X Clipchamp AI 生成影片、配音與字幕應用實戰班

掌握Clipchamp AI的操作技巧,靈活運用Clipchamp AI進行影片編輯和創作,實現創意表達和傳播目的。

輸入折扣碼 TC1451JAN 還可以額外獲得 NT$500 優惠喔。

如何串接多種數位工具資訊?Looker Studio 資料視覺化實戰班|GoogleAds x FB廣告 x GA流量數據

如何串接多種數位工具資訊?Looker Studio 資料視覺化實戰班|GoogleAds x FB廣告 x GA流量數據

Looker Studio除了可協助使用者監控網站流量、廣告成效、選擇匯入資源的管道之外,還可以將數據資料多平台整合、數據報表即時更新、數據範本可重複套用的效益,透過自動化系統,將數據全部匯入同一個報表平台,是企業不可或缺的重要工具。

輸入折扣碼 TC1270JIA 還可以額外獲得 NT$500 優惠喔。

和我們交流

加入我們的社群,裡面會有一些技術的內容、有趣的技術梗,以及職缺的分享,歡迎和我們一起討論。