如何有效提問大型語言模型:以LLaMA-1/2和GPT-3.5/4為例

這是一篇國外的論文《Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4》研究如何有效提問大型語言模型寫出來的結論,有興趣的朋友可以參考。

本文介紹了26個指導原則,旨在簡化查詢和提示大型語言模型的過程。我們的目標是讓用戶更容易理解如何為不同規模的大型語言模型(LLMs)設計最佳的問題和指令,並提高這些模型在不同提示下的反應能力。我們對LLaMA-1/2(7B、13B和70B)和GPT-3.5/4進行了廣泛的實驗,以驗證所提出的原則在指令和提示設計中的有效性。希望這項工作能為研究大型語言模型提示工程的研究人員提供更好的指導。

介紹

大型語言模型(LLMs)如ChatGPT在多個領域和任務中展現了驚人的能力,如回答問題、數學推理、代碼生成等。然而,對於普通用戶來說,如何設計最佳的指令或提示仍然是一個挑戰。在本文中,我們旨在揭示這些神秘之處,幫助開發人員和一般用戶更好地與LLMs互動,並通過簡單地策劃更好的提示來提高預訓練LLMs的回應質量。

指導原則

提示結構和清晰度

  1. 無需對LLM禮貌,直接點明重點,省去「請」、「如果你不介意」、「謝謝」等詞語。
  2. 在提示中明確指出預期受眾,例如:「受眾是該領域的專家」。
  3. 將複雜的任務分解為一系列較簡單的提示,並進行互動式對話。
  4. 使用肯定的指令,如「做」,避免使用否定語言,如「不要」。
  5. 當需要澄清或深入了解某個主題、概念或資訊時,使用以下提示:
    • 用簡單的術語解釋[插入特定主題]。
    • 像對11歲孩子解釋一樣向我解釋。
    • 像對[領域]的初學者解釋一樣向我解釋。
    • 使用簡單的英文撰寫[文章/文字/段落],就像向5歲孩子解釋一樣。

明確性和資訊性

  1. 實施示例驅動的提示(使用少量示例提示)。
  2. 在提示中加入以下短語:「確保你的答案是公正的,不依賴於刻板印象。」
  3. 為了寫出類似於提供的樣本的文字,包含具體的指令:
    • 「請根據提供的段落使用相同的語言。」。
  4. 當你想要用特定的詞語、短語或句子開始或繼續文本時,使用提供的提示結構:
    • 我提供了開頭的[歌詞/故事/段落/文章]:[插入歌詞/詞語/句子]。根據提供的詞語完成它,保持一致的流暢性。

用戶互動和參與

  1. 允許模型通過向你提問來引出準確的細節和需求,直到它有足夠的訊息來提供所需的輸出:
    • 「從現在起,我希望你問我問題,以...」。
  2. 撰寫詳細的[文章/文本/段落],在[主題]上詳盡地添加所有必要的訊息。

內容和語言風格

  1. 修正或更改特定文本而不改變其風格:
    • 「嘗試修改用戶發送的每段文字。你應該只改進用戶的語法和詞彙,並確保它聽起來自然。不要改變寫作風格,例如將正式段落變為非正式。」
  2. 在提示中加入以下短語:「你的任務是」和「你必須」。
  3. 在提示中加入以下短語:「你將受到懲罰」。
  4. 為大型語言模型分配角色。
  5. 在提示中使用短語「以自然語言形式回答問題」。

複雜任務和編碼提示

  1. 將複雜的任務分解為一系列較簡單的提示,並進行互動式對話。
  2. 當你有複雜的編碼提示可能涉及不同的文件時,使用以下提示:
    • 「從現在起,當你生成跨越多個文件的代碼時,生成一個[程式語言]腳本,該腳本可以運行自動創建指定的文件或對現有文件進行更改以插入生成的代碼。[你的問題]。」
  3. 結合思維鏈提示(CoT)和少量示例提示。

實驗結果

提升

使用所介紹的原則後,各種LLMs的回應品質都有顯著提高。特別是大型模型,如GPT-4,提升效果更加明顯。

正確性

使用這些原則後,回應的正確性也有了顯著提高。尤其是對於小型和中型模型,改進幅度基本達到20%到30%,對於大型模型,改進幅度超過50%。

結論

本文通過詳細分析,提出了26個原則,這些原則有助於LLM專注於輸入上下文的重要元素,從而生成高質量的回應。我們的實驗結果顯示,這種策略可以有效地重新組織可能會降低輸出質量的上下文,從而提高回應的相關性、簡潔性和客觀性。

 

課程推薦

AI工作術全面學習實戰營:6 堂精選課程,學會最好用 AI 工具,翻轉你的人生

AI工作術全面學習實戰營:6 堂精選課程,學會最好用 AI 工具,翻轉你的人生

《PChome雜誌》攜手 5 位在 AI 領域的專業講師,打造上述 6 堂實用課程,教你學會時下最好用的 AI 工具,導入生成式 AI 來產製工作內容,改造並升級你的工作流程。

輸入折扣碼 ZERO2024 還可以額外獲得 NT$400 優惠喔。

HTML與SEO實戰應用—並以ChatGPT助力提升網站品質與流量

HTML與SEO實戰應用—並以ChatGPT助力提升網站品質與流量

本課程專為希望深入了解 HTML 並有效結合 SEO 策略的學員設計。我們將重點放在 HTML 的深度學習與應用上,同時穿插介紹如何透過搜索引擎優化提升網站能見度。透過即時互動式的直播教學,加上 ChatGPT 的輔助,您將學習到如何建立一個結構優良、美觀且符合 SEO 標準的網站。這不僅會提升網站的用戶體驗,還會大幅提高網站的搜索引擎排名,進而增加訪客流量和潛在客戶。
用AI強化職場競爭力 ChatGPT、Midjourney從入門到精通

用AI強化職場競爭力 ChatGPT、Midjourney從入門到精通

在快速變遷的職場中,提升競爭力成為關鍵。透過引領潮流的AI技術,ChatGPT和Midjourney將助您勇攀高峰。無論您是AI新手還是專家,這個課程將引導您從入門到精通,解密AI的奧秘,並學習如何運用於職場。
GitHub Copilot AI 程式碼編輯工具應用實務班

GitHub Copilot AI 程式碼編輯工具應用實務班

讓學員瞭解有效地使用該工具來加速開發流程、提高程式碼品質和生產力。課程重點放在以 JavaScript 程式語言為例,介紹 Copilot 的基本原理、使用方法和最佳實踐。

輸入折扣碼 TC1456JA 還可以額外獲得 NT$500 優惠喔。

ChatGPT X Clipchamp AI 生成影片、配音與字幕應用實戰班

ChatGPT X Clipchamp AI 生成影片、配音與字幕應用實戰班

掌握Clipchamp AI的操作技巧,靈活運用Clipchamp AI進行影片編輯和創作,實現創意表達和傳播目的。

輸入折扣碼 TC1451JAN 還可以額外獲得 NT$500 優惠喔。

如何串接多種數位工具資訊?Looker Studio 資料視覺化實戰班|GoogleAds x FB廣告 x GA流量數據

如何串接多種數位工具資訊?Looker Studio 資料視覺化實戰班|GoogleAds x FB廣告 x GA流量數據

Looker Studio除了可協助使用者監控網站流量、廣告成效、選擇匯入資源的管道之外,還可以將數據資料多平台整合、數據報表即時更新、數據範本可重複套用的效益,透過自動化系統,將數據全部匯入同一個報表平台,是企業不可或缺的重要工具。

輸入折扣碼 TC1270JIA 還可以額外獲得 NT$500 優惠喔。

和我們交流

加入我們的社群,裡面會有一些技術的內容、有趣的技術梗,以及職缺的分享,歡迎和我們一起討論。