微軟開源了 JARVIS 專案,現在,每個人都可以利用一張3090顯示卡來建立自己的私人AI管家。
系統需求如下:
- Ubuntu 16.04 LTS
- NVIDIA GeForce RTX 3090 * 1
- RAM > 24GB
這個專案引進了一個協作系統,由LLM作為控制器,並有許多專家模型作為協作執行者(來自HuggingFace Hub)。系統工作流程包括四個階段:
- 任務規劃:利用ChatGPT分析使用者請求以理解其意圖,並將其分解成可能可解決的子任務。
- 模型選擇:基於子任務,ChatGPT呼叫存放於HuggingFace的相應模型。
- 任務執行:執行每個被呼叫的模型並將結果返回給ChatGPT。
- 回應生成:最後,利用ChatGPT整合所有模型的預測,並生成回應。