LLM(大型語言模型)
也叫:大型語言模型、Large Language Model
大型語言模型(LLM)是用大量文字訓練出來的 AI 模型,能讀懂和寫出人類語言,ChatGPT、Claude、Gemini 背後用的就是這類模型。
它從大量文字裡學會「接下來最可能出現什麼字」。所以它很會寫、很會整理,也能回答問題。
它不是資料庫,也不會自動知道你公司的事。它沒讀過的資料,例如你的價目表、庫存或客戶紀錄,要另外提供給它。
它也可能講錯,而且講得很有把握。重要的事要查證,或讓它只根據你提供的資料回答。
例子
一家貿易公司把英文詢價信貼給 AI,請它整理成中文重點,再草擬一封回信。業務檢查、修改後才寄出。
提示詞(Prompt)
也叫:Prompt、指令
提示詞(Prompt)是你給 AI 的指令或問題,AI 會依照它產生回答。
就像交代新同事做事。講得越清楚,做出來越接近你要的。
好的提示詞通常說清楚四件事:要做什麼、給誰看、可以參考哪些資料、要什麼格式。例如「用三點列出重點,每點一句話」。
在自動化流程裡,提示詞會先寫好、固定下來。這樣每次處理的方式一樣,結果也比較好檢查。
例子
與其只說「幫我寫一篇貼文」,可以說「幫健身房寫一則 Facebook 貼文,對象是第一次上健身房的上班族,語氣親切,最後提醒可以預約體驗課」。
Token
也叫:詞元
Token 是 AI 模型讀寫文字時用的最小計算單位,一個 Token 可能是一個詞、詞的一部分或一個標點符號,怎麼切依模型而定。
AI 不是一個字一個字讀。它會先把文字切成一小塊一小塊,每一塊就是一個 Token。同一段話,不同模型切出來的數量不一樣。
Token 跟兩件事有關。第一,模型一次能讀的長度有上限,這個上限用 Token 計算。第二,很多 AI 服務是照用掉的 Token 數計費。
所以把一整本手冊丟給 AI,不一定比較好。只給它需要的段落,比較省,也比較不會被無關的內容干擾。
AI 幻覺(Hallucination)
也叫:Hallucination
AI 幻覺是指 AI 用很肯定的語氣,說出錯誤或根本不存在的內容。
大型語言模型是照「什麼字最可能接下去」來寫回答,它並沒有在查證事實。所以它有時會編出看起來很合理的答案,例如不存在的法規、錯的營業時間、你沒賣的商品規格。
常見的降低方法:讓 AI 只根據你提供的資料回答(RAG)、要它附上出處、資料不夠時直接說不知道,以及重要內容由人確認後才送出。
目前的技術只能減少幻覺,還沒辦法完全消除。所以報價、醫療、法律、合約這類內容,一定要有人把關。
例子
客人在 LINE 問「週日有開嗎」。AI 如果沒有讀到正確的營業時間,可能自己猜一個答案。把營業時間放進 AI 能讀的資料,並規定「查不到就說不確定、轉給真人」,可以減少這種狀況。
RAG(檢索增強生成)
也叫:Retrieval-Augmented Generation、檢索增強生成
RAG(檢索增強生成)是先從指定的資料裡找出相關段落,再讓 AI 根據這些段落回答的做法。
可以想成開書考。AI 回答前,先翻你給它的資料,例如產品手冊、常見問題、公司規章,找到相關的幾段,再根據這幾段寫答案。
這樣答案比較貼近你公司的實際情況,也能附上出處讓人核對。資料更新時,換掉資料就好,不用重新訓練模型。
它還是會受資料品質影響。資料過時、互相矛盾或根本沒寫到,AI 一樣可能答錯。所以資料要有專人負責更新。
例子
一家牙醫診所把術前須知、費用說明和常見問題整理成文件。病人在 LINE 問「植牙前要注意什麼」,AI 先找到相關段落,用白話回答,並附上原文出處給櫃台核對。
Embedding(向量嵌入)
也叫:向量、嵌入
Embedding(向量嵌入)是把一段文字轉成一串數字,讓電腦可以比較兩段文字的意思有多接近。
意思相近的句子,轉出來的數字也會接近。例如「怎麼退貨」和「買錯了可以換嗎」用字不同,但意思接近,電腦也判斷得出來。
這是 RAG 和「語意搜尋」背後常用的技術。客人用自己的話問,系統也能找到意思相符的常見問題,不必一字不差。
這些數字通常存在「向量資料庫」裡,方便快速比對。
AI Agent(AI 代理)
也叫:AI 代理、代理式 AI
AI Agent(AI 代理)是能依照目標自己決定步驟、使用工具,完成多步驟工作的 AI 系統。
一般聊天機器人是你問一句、它答一句。AI Agent 會自己規劃:先查資料、再整理、再呼叫其他系統,最後交出結果。
它跟固定的自動化流程不同。固定流程的每一步都事先寫好,適合規則清楚的工作。AI Agent 會自己判斷下一步,適合要讀懂內容、狀況多變的工作,但結果也比較難預測。
所以實務上會限制它能讀的資料和能用的工具。寄信、改訂單這類動作,通常設定成要人按同意才執行,每一步也都留下紀錄。
例子
客戶寄信來詢價。AI Agent 讀信、到 ERP 查庫存和交期、套用報價規則,草擬一份報價單放進待確認清單。業務看過、按同意後才寄出。
MCP(模型上下文協定)
也叫:Model Context Protocol、模型上下文協定
MCP(Model Context Protocol,模型上下文協定)是 Anthropic 在 2024 年 11 月推出的開放協定,讓 AI 應用程式用統一的方式連接外部工具和資料。
官方的比喻是「AI 的 USB-C 接頭」。沒有共同規格時,每個 AI 工具要接每個系統,都得各寫一套串接。有了 MCP,一個系統做好一個 MCP 連接器,支援 MCP 的 AI 應用程式都能用。
透過 MCP,AI 可以讀取檔案、資料庫、行事曆,或使用搜尋之類的工具。Claude、ChatGPT、VS Code 等工具都支援。2025 年 12 月,Anthropic 把 MCP 捐給 Linux 基金會旗下的 Agentic AI Foundation。
接上越多工具,AI 能做的事越多,風險也越大。只開放需要的工具和權限,敏感動作保留人工確認,是比較穩妥的做法。
人工確認(Human-in-the-loop)
也叫:Human-in-the-loop、HITL、人工審核
人工確認(Human-in-the-loop)是在自動化或 AI 流程中,保留一個由人檢查、按同意後才繼續的步驟。
AI 和自動化很快,但不一定每次都對。會造成影響的動作要留給人確認,例如寄信給客人、改訂單、付款、改正式資料。
常見做法是設一份「待確認清單」。AI 沒把握、資料不齊或金額超過門檻的項目,都放進清單等人處理。按同意才執行,按退回就不動作。
每一次確認都留下紀錄:誰、什麼時候、同意了什麼。出問題時查得到,也能拿來調整規則。
例子
會計師事務所用 AI 讀客戶寄來的單據、建議會計科目。所有建議先放進待確認清單,會計人員看過、按同意才寫進帳務系統。
OCR(文字辨識)
也叫:光學字元辨識、Optical Character Recognition
OCR(光學字元辨識)是把圖片或掃描檔裡的文字,轉成電腦可以編輯和搜尋的文字。
例如把紙本發票、名片、出貨單拍照,轉成文字和數字,就不用再手動打一次。
傳統 OCR 只負責「認字」。現在常搭配 AI 一起用:讀出文字後,AI 再判斷哪個是日期、哪個是金額、哪個是統一編號,整理成表格。
手寫字、模糊照片、反光或折到的單據,還是可能認錯。金額、帳號這類重要欄位,建議設人工抽查或確認。
例子
一家貿易公司每天收到幾十張供應商的紙本出貨單。拍照上傳後,系統讀出品名、數量和單號,填進試算表,倉管只要核對系統標出有疑問的那幾張。