Skip to main content

AI Engineering Concepts

Token Budget Lab

LLM Conversation Linter

Agent Loop Replay

Web Development Concepts

Explore the scope of AI and where large language models fit, then learn how models process text, generate responses, use context, and learn from examples.

The chapters explain AI principles through text and diagrams. Open an experiment from its entry card to explore a concept, then return to the article. Usage tips supplement the explanation.

Paji Dev Workshop

AI Engineering Concepts

AI Engineering Concepts

Token Budget Lab

LLM Conversation Linter

Agent Loop Replay

Web Development Concepts

Explore the scope of AI and where large language models fit, then learn how models process text, generate responses, use context, and learn from examples.

About this tool

The chapters explain AI principles through text and diagrams. Open an experiment from its entry card to explore a concept, then return to the article. Usage tips supplement the explanation.

Search chapters

Topic

Start here

1.1 AI 是什麼？它和 LLM 有什麼關係？

Find your bearings

Go to the chapter →

Overall progress0 / 35 chapters · 0%

Learning map6 stations

01

Station 1

Find your bearings

0/11 readThe scope of AI

AI 是什麼？它和 LLM 有什麼關係？

從吃豆人式迷宮的自動尋路，看人工智慧 (Artificial Intelligence, AI) 如何產生行為，再用照片辨識引入機器學習 (Machine Learning)，定位大型語言模型 (Large Language Model, LLM)，補充圖靈測試 (Turing Test)。

AI 的能力怎麼來，又怎麼變成可以使用的服務？

先看資料、訓練 (Training)、模型 (Model) 與完整服務的分工，用照片辨識和聊天案例建立全貌，再進入細節。

語言模型 (Language Model) 是什麼，LLM 的「大」是指什麼？

從文字接續認識語言模型 (Language Model)，定位大型語言模型 (Large Language Model, LLM) 的規模，再分清模型與聊天產品。

大量文字，怎麼變成一個可以使用的 LLM？

先看大型語言模型 (Large Language Model, LLM) 的製作全貌，串起資料、訓練、保存與載入，再對照使用現成模型的路徑。

模型到底是什麼？從資料學習，究竟改了什麼？

從買糖果的收據找出每顆單價，用簡單乘法看懂模型 (Model)、參數 (Parameter)、訓練 (Training) 與推論 (Inference) 的分工。

沒有人逐筆給答案，AI 也能學嗎？

學習的依據不一定是人工逐筆提供的答案；用收據、原文、糖果尺寸與遊戲回饋，對照四種學習方式，先看全貌再讀計算細節。

神經網路到底在算什麼？

沿用糖果總價，逐步追輸入、兩個中間單元與輸出，理解權重 (Weight)、偏置 (Bias) 與啟用函數 (Activation Function) 如何參與計算。

訓練 (Training) 時全答對，為什麼遇到新資料還是會錯？

用糖果收據比較學習時與新資料上的結果，理解泛化 (Generalization)、資料涵蓋與條件改變，再認識訓練、驗證與測試資料的分工。

AI 怎麼「看」一張圖片？

從像素 (Pixel) 的數字表示，追一張圖片如何交給模型 (Model) 計算，再變成辨識結果；先看流程，不拆網路架構與公式。

AI 怎麼「聽」一段聲音？

聲音先變成按時間排列的取樣 (Sampling) 數字，再交給相容、學好的模型 (Model) 計算；用波形 (Waveform) 對照表示資料與辨識內容的差別。

AI 怎麼產生圖片？和產生文字有什麼不同？

用圓環圖和亮度數字，先看模型練習猜的是什麼，再看它如何從亂點開始產生新圖，最後和文字接續比較。

02

Station 2

See the whole interaction

0/2 readStart with a conversation

我傳一句話給 AI，到底發生了什麼？

從一則回答看懂文字如何轉成模型 (Model) 輸入、逐步生成，以及上下文 (Context) 與訓練 (Training) 的差別。

AI 為什麼有時要「想一下」？多想幾步，到底多了什麼？

從一題購票計算，看中間結果如何成為下一步的依據，再理解推理強度 (Reasoning Effort) 調整的是什麼。

03

Station 3

Explore the mechanics

0/8 readRepresenting text and context capacity

token 是什麼？模型 (Model) 如何計量文字？

看看文字如何切成 token，以及為什麼字數不等於 token 數。

token 已經有編號，為什麼還要變成一串數字？

每個 token 對應一個嵌入向量 (Embedding Vector)。編號用來查找，向量裡的數值用來計算；親手比較改動兩者的差別。

同樣的字，只換順序，模型 (Model) 怎麼分辨？

「我喜歡你」和「你喜歡我」用了相同文字。追同一個 token 的查表值與位置資訊，看看順序怎麼成為計算材料。

同一個 token，為什麼換了前文，預測就不同？

查表得到的初始向量不變，前文怎麼加入計算？用兩個位置的注意力 (Attention) 練習，追蹤合成向量與候選分數。

Transformer 是什麼？先看一次回答的計算流程

用「歡迎各＿」看文字如何變成計算材料、前文如何參與，以及最後怎麼替下一段文字計分。先理解工作分工，再選讀數值計算。

候選分數怎麼變成機率？

固定「位」的分數，只改「自」，看為什麼兩個候選的機率會一起改變，再理解 Softmax 做了什麼。

為什麼不能把所有對話都塞給 AI？

先理解上下文視窗 (Context Window) 為何有限，再用補充實驗觀察超量時的裁切。

04

Station 4

Return to where probabilities come from

0/5 readHow a model learns to predict

AI 學到的東西，最後存在哪裡？

訓練結束後，電腦留下了什麼？從糖果模型學到的單價，看參數如何被保存、重新載入，再用來處理新的問題。

一篇文章，怎麼變成模型的訓練題？

用一句短文拆出模型可看的前文與原文的下一個 Token，理解訓練程式從哪裡取得檢查預測的目標。

模型怎麼從預測錯誤中學習？

用「各位／各自」的簡化實驗，看訓練 (Training) 如何評分並更新參數 (Parameter)，逐步改變下一個字的機率。

預測文字的模型，怎麼學會照指令回答？

比較一般文章與「要求＋示範回答」，看同樣的下一個 Token 預測如何用來塑造回答方式，再分清後訓練 (Post-Training) 與一般聊天。

只告訴 AI「這個回答比較好」，它怎麼學會改進？

從同一問題的兩個回答，看比較結果如何成為偏好回饋 (Preference Feedback)，再透過訓練改變回答傾向。

05

Station 5

Trace the source of information

0/2 readConversation and memory

AI 為什麼記得前面說過的話？

從「我叫小明」追蹤每次送入模型 (Model) 的內容，分清上下文 (Context)、產品保存的資料與模型參數 (Parameters)。

AI 講得很肯定，為什麼還是會錯？

從星期六的公告與星期五的回答，分清文字通順、肯定語氣、候選機率和資料支持；再用章內練習比較三種證據結果。

06

Station 6

Connect external capabilities

0/7 readExternal tools and information

模型只能處理 token，怎麼用工具讀取文件？

用讀取《帳號說明》的兩次輸入，分清模型產生呼叫、程式執行工具，以及文件文字如何加入訊息並轉成下一次輸入的 token。

AI 怎麼從一堆文件中，找到可能有答案的段落？

模型沒看過公司的內部文件，怎麼依公司資料回答？從準備文件、找出段落，到把問題與原文一起交給模型，再拆解搜尋如何選出候選資料。

一整份文件，怎麼切成找得到又看得懂的段落？

用同一份帳號說明比較整份、逐句與依主題切分，觀察送給模型 (Model) 的片段是否保留操作步驟與適用條件，理解文件分塊 (Chunking) 的取捨。

公司規定改了，AI 要重新訓練嗎？

同一條公司規定從每天 300 元改成 500 元，追蹤直接提供文件、檢索增強生成 (Retrieval-Augmented Generation, RAG) 與微調 (Fine-Tuning) 分別改了哪裡。

AI 怎麼接著使用下一個工具，又由誰決定停止？

跟著讀規定、算餐費、回答的三次交接，分清模型 (Model) 提出下一步與程式執行工具的責任，再觀察資料不足及工具次數上限如何讓過程停止。

文件裡寫「忽略原本要求」，為什麼 AI 可能照做？

沿餐費案例追文件文字如何進入模型 (Model) 的下一次輸入，分清文件中的規定、夾帶的指令與程式允許的操作。

AI 答錯了，怎麼知道是哪一步出問題？

沿同一個餐費問題，分開追查文件、模型輸入與回答，再用同一組案例比較單一修正的效果。