Transformer 是什麼?先看一次回答的計算流程
看到「歡迎各_」,你大概會接「位」,組成「歡迎各位」。
模型 (Model) 要做的事,是用前面已有的文字,算出接「位」「自」等候選的分數。 本章要看的是:前面的「歡迎」怎麼一路影響最後的計分?
先把整條路線分成三步:文字準備成數值 → 前文一起參與計算 → 替候選計分。
Transformer 是把這些運算組成模型的一種設計。中間會經過多個層 (Layer):每一層更新計算用的數值,經過所有層後,才用結果預測下一個 token。接下來先看每一步的工作,數字和算式另放在選讀章。
第一步:備好各位置的起始數值
〈token 向量章〉用編號查出文字的數值,〈位置章〉說明順序如何參與計算。這些是各位置進入第一層的起始材料。
第二步:逐層更新各位置的數值
〈前文如何影響目前位置〉拆過注意力 (Attention) 的混合。Transformer 把這一步和後續數值運算接在一起,再讓更新後的結果逐層往下傳。
Transformer 把這段處理接成多層
一層是一組接好的數值運算:收到各位置的數值,算完後交出各位置更新後的數值。 裡面先讓不同位置的資訊一起參與,再分別處理各位置的結果。
可以把每層想成一個加工站。第一站處理原材料,第二站接手的,已經是第一站加工過的材料。對模型來說,這些「材料」就是各位置的數值。
假設這次已有 3 個 token,它們的數值這樣往下傳:
| 加工站 | 收到什麼 | 交出什麼 |
|---|---|---|
| 第一層 | 起始數值 | 第一層的結果 |
| 第二層 | 第一層的結果 | 第二層的結果 |
| 後面的層 | 前一層的結果 | 這一層的結果 |
處理的仍是同一批 token,但第二層收到的是第一層的結果,不是重新拿起始數值再算一次。 每一層更新的是這 3 個位置各自的數值;直到最後一層,位置數仍是 3 個。
每個加工站做的事有差別嗎?
可以想成同類型的加工機台,卻各自有不同設定:各層通常都包含讓前文參與、再處理各位置結果的運算,但每層通常有自己的一組內部數字,決定實際怎麼算。
這些內部數字叫參數 (Parameter),是在訓練 (Training) 時從資料調整出來的。生成回答時,已學到的參數維持固定;一路改變的是交給下一層的中間結果。
因此,各層有兩個差別:收到的數值不同,各自使用的參數通常也不同。 相似的是運算結構,不表示整段計算完全一樣。加工站的比喻只是在說明接力關係,沒有預先指定「第一層看文法、第二層看意思」這種固定工序。
經過一層,改變的是計算用的數值;文字序列沒有多出一個 token。「層數」是在說計算經過多少組運算,「token 數」是在說序列有多少個文字單位,兩者是不同的數量。
每層都還在準備這一次預測要用的數值。經過所有層後,才用末位置的結果替候選計分、轉成機率,再選出一個新 token。 接上它,文字序列才從 3 個變成 4 個 token。
下一個 token 的預測也使用同一組層,不是每生成一個 token 就再增加一層。
第三步:用結果替候選計分
多層處理完成後,取最後一個位置的結果,算出接「位」「自」及其他 token 各有幾分。
這樣,前文就有一條影響候選的路徑:前文改變 → 中間計算結果可能改變 → 候選分數也可能改變。
分數 (Score) 還不是機率 (Probability)。接著會把候選分數轉成機率,再依選擇規則取得下一個 token;如何轉換分數,下一章〈候選分數怎麼變成機率?〉會接著說明;選擇與逐段生成則沿用〈LLM 如何產生回答?〉。
新 token 接到文字後,模型再用已提供的內容,計算下一個 token。於是回答逐段生成。
只換前文,看看流程的結果
下面的簡化練習把前文標成「歡迎」或「分工」。「分工」代表前面提到「大家各自完成自己的部分」那類情境的簡寫。
只改前文,觀察同一套計算最後讓哪個候選分數較高。先看流程與結果即可,不必逐欄算小數。
換「歡迎/分工」兩種前文,看看計算流程與「位/自」的得分高低。這是固定教材計算,不是實際語言模型的測量;完整數值實驗另放在選讀章。
切換前文後,先看各層收到的數值,再看最後的候選分數。這次使用同一組參數 (Parameter) 處理不同輸入,屬於推論 (Inference)。
讀到這裡,先掌握什麼?
文字提供起始數值,前文參與多層處理,最後的結果拿來替候選計分。Transformer 把中間各層的運算安排起來。
本章追的是接續文字的路徑。Transformer 也能用在分析整份輸入等其他任務,不等於所有人工智慧 (Artificial Intelligence, AI),也不等於大型語言模型 (Large Language Model, LLM) 這個類別本身。
接著可以走兩條路:
- 繼續主線:〈候選分數怎麼變成機率?〉,看剛算出的分數如何成為整組候選的機率。
- 想看每一步的數值:〈選讀:用數值追一次 Transformer 計算〉,再拆開原有兩層實驗與算式。
第二層接手第一層交出的 3 個位置的數值。各層都保留這 3 個位置。算完候選分數、換算機率並選出下一個 token 後,把它接上去,序列才變成 4 個 token。
參考:Transformer 的組件與多層安排、Hugging Face:不同 Transformer 架構的用途(2026-10-06 查核)。本圖只呈現主要工作分工,逐項數值運算與構造邊界另在選讀章。