微軟開源了 JARVIS 專案,現在,每個人都可以利用一張3090顯示卡來建立自己的私人AI管家。

系統需求如下:

  • Ubuntu 16.04 LTS
  • NVIDIA GeForce RTX 3090 * 1
  • RAM > 24GB

這個專案引進了一個協作系統,由LLM作為控制器,並有許多專家模型作為協作執行者(來自HuggingFace Hub)。系統工作流程包括四個階段:

  • 任務規劃:利用ChatGPT分析使用者請求以理解其意圖,並將其分解成可能可解決的子任務。
  • 模型選擇:基於子任務,ChatGPT呼叫存放於HuggingFace的相應模型。
  • 任務執行:執行每個被呼叫的模型並將結果返回給ChatGPT。
  • 回應生成:最後,利用ChatGPT整合所有模型的預測,並生成回應。