你的 AI 用法可能全錯了｜從新手到 AI Engineer 都在犯的三個錯

現代知識工作者每天花在 AI 上的時間越來越多，但很少人理解 AI 如何消化輸入。講者用麥肯錫顧問的比喻開場：如果你把公司十年的檔案全搬進會議室要顧問先翻一下，他四十分鐘在翻資料，只有二十分鐘真正思考，你付的費用卻沒有產生相應價值。AI 也是一樣的邏輯。

講者提出核心概念：processing 和 thinking。Processing 是 AI 花算力消化你的輸入——讀 PDF、解析格式、整理對話歷史、在大量 token 中翻找相關片段。這些工作不需要智慧，卻全部要燒你的 token。Thinking 才是 AI 在乾淨的上下文下做推理、產生洞察、給真正有價值的回答，這才是你付錢買的東西。大多數人的使用方式讓 AI 的 80% 算力花在 processing，只有 20% 在 thinking。換句話說，你 token 燒得越兇，通常是因為 AI 花了很多時間幫你搬磚。

為了解決這個問題，講者分成三個層級來看。初階陷阱是不懂 AI 怎麼讀檔案。你拖三份 PDF 進對話要 AI 整理重點，聽起來很合理，但有兩個成本問題：PDF 不是乾淨文字，AI 解析時會連頁首頁尾、表格殘留、排版標記一起吃進來，token 數通常膨脹 2-3 成；更關鍵的是，這些內容一旦進了對話歷史，後面每一輪都會被重新送進模型，到第十輪你等於為同一份文件付了十次錢。解決方式有兩種：如果後續任務只需要概論不需要細節，可以先在一個對話中讓 AI 把文件濃縮成摘要，然後開新對話只帶摘要繼續工作；如果需要完整細節，可以先轉成 markdown 或 JSON 這種 AI 友善的格式再提供。

中階陷阱是不懂 AI 怎麼記對話。很多人會遇到一個對話跑了三四十輪後，AI 突然變慢變笨的經驗。背後的原因是對話太長了。講者揭露了一個很多人不知道的事實：AI 模型本身沒有記憶，你可以把跟 AI 的對話想像成一份共享文件，每次送出新訊息時，系統不是只把你這句新話送給模型，而是把整份文件從第一句話到最後一句話全部複製一份重新送給模型讀一遍。這意味著你第一輪的話到了第三十輪已經被讀了三十次。第十輪丟進去的 PDF 內容到第三十輪也被讀了二十次。對話越長，每一輪的處理量都在加速上升，所以你聊得越久，成本不是只增加一點點，而是整份文件長度都在膨脹。這解釋了為什麼對話到後面會感覺 AI 變慢變笨——它不是變笨了，而是被塞太多東西開始恍神。有趣的是，Claude 和 ChatGPT 在這點上有根本差異：ChatGPT 會自動壓縮比較舊的對話內容，所以跑一百輪和跑十輪感受差不多；Claude 不會自動壓縮，它在達到上限前保留完整對話歷史，每次都重新讀一遍，所以從 ChatGPT 搬過來的人會覺得 Claude 是 AI 界的奢侈品——同樣二十美金月費，Claude 特別容易用完。解決方式是有意識地管理對話長度：當你完成一個階段性任務，就是開新對話的好時機。開新對話前請 AI 幫你總結目前的進度和關鍵決定，然後把這份摘要帶到新對話裡繼續，這樣既不會丟失重要 context，也不會讓歷史對話一直膨脹。

進階陷阱是不懂 AI 怎麼找答案，踩這個坑的通常是自己在建 AI agent 系統的技術人員。他們的問題是 agent 架構裡每次呼叫都塞了二十萬 token 的 context、system prompt 寫了一萬五千 token，參考文件直接全部炸進去沒有任何索引機制。這不只是浪費錢的問題，產出品質也會變差。業界有個說法叫「Lost in the Middle」——重要資訊被埋在一堆雜訊中間，AI 反而看不到。更少的噪音等於更高的專注度，等於更好的回答。資訊給得多不如給的巧。沒有意識到這個問題的進階使用者一天花五十到一百美金在 AI 上面，但同樣的工作量，如果索引做好、context 控制好，一天可能只需要十到十五美金。修正方式也很直覺：第一，建立索引系統，就像書籍的目錄，讓 AI 知道什麼資訊在哪裡，需要的時候再去讀那一段，不用每次都把整本書吃進去；第二，如果用 API 在建 agent，可以用 prompt caching，告訴模型那段穩定的 system prompt 你讀過了沒變，不用再讀，做了 cache 後這些內容的處理成本可以降到原本的十分之一。

講者也提醒，給太少 context 也不行。他自己就有偷懶隨便丟幾句話給 AI，希望下一次 AI 會通靈猜到他想要什麼的經驗。相信很多人都經歷過這種無限循環：AI 產出不滿意，又不想花時間把需求講清楚，就一直重試。即使偶爾運氣好中了一次，長期下來品質也是不穩定的。他體感出來的結論是前面花時間把自己的意圖想清楚，才是真正省時間的做法。所以重點不是多或少，是對不對。真正的甜蜜點是恰到好處的 context，讓 AI 可以專注在思考上。而且模型只會越來越強、越來越貴，今天的壞習慣到下一代模型的時候代價只會更高。