使用PageAssist搭配Ollama實作RAG

PageAssist 介紹

PageAssist 是一款開源的 Chrome 擴充功能,提供簡易的介面,讓使用者可以在瀏覽器中使用 Ollama,並支援 RAG(Retrieval-Augmented Generation,檢索增強生成)與MCP(Model Context Protocol)等功能。

本文將介紹如何使用 PageAssist 搭配 Ollama 實作 RAG,並以立端115年第一季財報 PDF 作為範例,讓語言模型根據上傳的文件內容回答問題。

下載 PageAssist

首先,在 Chrome 瀏覽器的擴充功能頁面中,點選「前往Chrome線上應用程式商店」,搜尋並下載 PageAssist。

如下圖所示,即為 PageAssist 的下載頁面。

開啟 PageAssist

下載並安裝PageAssist後,點選以下按鈕即可開啟PageAssist視窗。

開啟後,可以看到PageAssist提供類似 Ollama 的操作介面。

在下圖紅框處,可以選擇要執行的大型語言模型(LLM)。本篇範例使用 Gemma 4 模型。

接著,點選右上角的「設定」

設定 PageAssist

PageAssist 預設使用英文介面。如果希望使用中文介面,可以在 General SettingsLanguage 選項中選擇繁體中文。

此外,也可以在網頁搜尋設定中選擇想要使用的搜尋引擎。

設定 RAG 與 Embedding Model

接著點選 Pipeline 設定,在左側可以看到RAG相關設定。

RAG 需要使用Embedding Model將文件內容轉換成向量,以便後續進行文件檢索。本篇範例使用:

nomic-embed-text-v2-more:latest

選擇適合的 Embedding Model 後,即可進一步建立 RAG 所需的知識庫。

建立知識庫

在左側選單點選「知識管理」,即可選擇要加入知識庫的文件。

接著點選右側的「新增知識」,會出現文件上傳視窗。

選擇要加入的文件即可。PageAssist 支援 PDF、CSV、TXT、DOCX 等多種檔案格式。

上傳財報文件

本篇範例使用「立端 115 年第一季財報」PDF 作為 RAG 的資料來源。

上傳文件後,狀態欄會顯示「處理中」。需要等待狀態變成「已完成」,才代表文件已經處理完成,可以進一步進行查詢。

使用RAG查詢文件

完成文件上傳後,在 Prompt 視窗中選擇剛才建立並上傳的文件。

接著就可以針對立端 115 年第一季財報提出問題。

例如,可以詢問財報中的營收相關資訊。

PageAssist會根據上傳的 PDF 文件內容進行檢索,並將相關資訊提供給語言模型,最後由模型產生回答。

如下圖所示,模型可以根據上傳的 PDF 文件,回答立端 115 年第一季的營收數據。

結語

透過 PageAssist,可以使用較簡單的操作方式搭配Ollama建立RAG應用。

本篇以立端 115 年第一季財報作為範例,將PDF文件加入 Knowledge,再透過Embedding Model建立文件檢索能力,最後讓LLM根據文件內容回答問題。

如果希望進一步了解RAG背後的運作原理,可以先閱讀RAG與Embedding的相關介紹,再實際使用 PageAssist 進行操作,會比較容易理解整個流程。

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *