實作使用Ollama、LangChain、Qdrant 的 RAG
2026-02-11
置頂文章
【AI】利用生成式AI 建構應用 - 07 - 實作使用Ollama、LangChain、Qdrant 的 RAG
- 23
- 0
- 利用生成式AI 建構應用
實作使用Ollama、LangChain、Qdrant 的 RAG
本章簡單介紹什麼是 RAG(Retrieval Augmented Generation),為什麼它可以讓 LLM 像考試OpenBook 一樣:先查資料再回答問題。
了解 RAG 怎麼提升LLM 回答的品質,減少亂掰、避免知識過期。以及適合用 RAG 的情況。
市面上有很多雲端的LLM API 服務,也會有地端裝載LLM 的服務。而這些服務都會有各自的呼叫方法,開發AI 應用最常遇到的就是嘗試不同服務跟模型,經過多輪嘗試並從中挑選出滿足應用系統的。LangChain 是一個框架,利用物件導向方式讓切換服務變得容易,減少程式開發成本。