2025年4月16日 星期三

用google ai studio做字幕

1.開啟google ai studio使用Gemini 2.5 Pro Preview 03-25作模型,將影片做成音檔匯入


2.在prompt寫入:


在理解全文原意的基,文字的錯誤,使用繁中文,每一行不超25

,每一行要做到自然不突兀,去除所有標點號。 

將此音檔辨識成字幕,繁體中文版本,不要標點符號,糾正語音轉文字的錯誤,

每句話不超過 27 個字


3.音檔辨識沒有時間戳,需要用其他方式處理,例如:剪映

https://www.koc.com.tw/archives/594346

2025年4月15日 星期二

我下載gguf格式大語言模型,我要如何轉入ollama

 1.準備 Modelfile 文件

  • 創建一個名為 Modelfile 的文本文件,該文件類似於 Dockerfile,用於指定模型的路徑及相關參數。
  • 文件內容範例:
        FROM ./nvidia_Llama-3.1-Nemotron-Nano-8B-v1-Q4_K_M.gguf
        PARAMETER num_ctx 4096
        PARAMETER num_thread 4
        TEMPLATE "[INST] {{ .Prompt }} [/INST]"
        SYSTEM """請充當繁體中文翻譯器和語言改進助手。"""

FROM:指定模型文件的路徑。
PARAMETER:設置模型的上下文長度(num_ctx)及執行緒數量(num_thread)。
TEMPLATE:定義模型的提示詞格式。
SYSTEM:設置模型的角色或系統提示

2.將gguf與Modelfile作一個目錄,將2個放在一起,進入此目錄打
ollama create 模型名稱 -f ./Modelfile
例如:ollama create nvidia_Llama-3.1-Nemotron-Nano-8B-v1-Q4_K_M -f ./Modelfile

3.運行模型
ollama list
ollama run 模型名稱
例如:ollama run nvidia_Llama-3.1-Nemotron-Nano-8B-v1-Q4_K_M:latest




2025年4月8日 星期二

大語言模型提示詞

 

1. 與大型語言模型(Large Language Model, LLM)交流時無需客氣,故無需使用諸如「請」、「如果你不介意」、「謝謝」、「我想要」等語句,直接切入正題。

2. 在提示中納入目標受眾,例如,受眾是該領域的專家。

3. 將複雜任務分解為一系列較簡單的提示,以進行互動式對話。

4. 使用肯定的指令詞,如「做」,避免使用負面語言,如「不要」。

5. 當需要釐清或深入了解某個主題、觀念或任何信息時,使用以下提示: - 簡單解釋[具體主題]- 像對11歲的孩子解釋給我聽。 - 像我是[領域]初學者一樣解釋給我聽。 - 使用簡單的英語撰寫[文章/文本/段落],就像你在向5歲的孩子解釋事物。

6. 加入「我會給Sxxx更多小費以換取更好的解決方案!」的語句。 7. 實施以範例為導向的提示(使用少數示例的提示)。

8. 在格式化提示時,首先使用「###指令###」,隨後是「###範例###」或「###問題###」(如果相關),然後呈現內容。使用一個或多個換行來區分指令、範例、問題、背景和輸入數據。

9. 納入以下語句:「你的任務是」和「你必須」。

10. 納入以下語句:「你將會受到懲罰」。

11. 在提示中使用「以自然、類人的方式回答問題」的語句。

12. 使用引導性詞語,如「一步一步思考」。

13. 在提示中加入「確保你的回答是無偏見的,不依賴於刻板印象」的語句。

14. 允許模型向你詢問直至獲得足夠信息以提供所需輸出的精確細節和要求(例如,「從現在起,我希望你向我提問,直到...」)。 15. 當你想詢問特定主題或觀念,或任何信息,並希望測試你的理解時,可以使用以下語句:「教我[任何定理/主題/規則名稱],並在最後包括一個測試,但不要給我答案,然後告訴我我回答對了沒有」。 16. 為大型語言模型分配角色。

17. 使用分隔符號。

18. 在提示中多次重複特定單詞或短語。

19. 結合思維鏈(Chain-of-thought, CoT)與少數示例提示。

20. 使用輸出引導詞,即用期望回應的開頭結束你的提示。通過在提示結尾處加上預期回應的開頭來使用輸出引導詞。

21. 要寫作一篇詳細的[文章/文本/段落/文章]或任何類型的文本,指示如下:「為我詳細寫一篇關於[主題][文章/文本/段落],並加入所有必要的信息」。