The UX of AI: Making AI-Powered Apps Your Users Don't Hate - Kathryn Grayson Nanz, Progress Software
三句話摘要
在AI快速普及的時代，如何透過以用戶為中心的設計模式，打造可信任、易理解、可控制的AI功能體驗。 AI功能的成敗不決於演算法效能，而在於設計者是否透過信任、清晰、控制、透明、實用五大支柱建立起用戶的舒適感與自主權。 信任是最大阻礙：用戶視AI為黑盒子，容易產生幻覺，盲目聲稱可信反而無效；應改為在設計中提供引用、源材料追溯、行動計劃審批等機制，讓用戶能自行驗證而非被迫相信。
重點整理
重點- 1
信任是最大阻礙：用戶視AI為黑盒子，容易產生幻覺，盲目聲稱可信反而無效；應改為在設計中提供引用、源材料追溯、行動計劃審批等機制，讓用戶能自行驗證而非被迫相信。
- 2
透明化勝過神秘化：不應將AI框架為魔法，而要展示其工作過程；透過流式文本生成、鏈式思考展示、新內容標記等方式，讓用戶即時理解AI的行動和推理過程。
- 3
控制權必須掌握在用戶手中：無論是生成內容、自動化工作流或執行代碼，用戶必須能隨時暫停、停止、撤銷；版本歷史和撤銷機制是必需的，尤其在非確定性AI輸出的時代。
- 4
權限與透明度缺一不可：權限設定應超越二元選擇，提供細粒度控制（如允許讀取但不允許刪除、一次性審批vs永久授權）；同時需清楚告知成本、時間、數據收集等信息，讓用戶做出知情決策。
實用技巧與重點
乾貨- 五大用戶挑戰：
- Trust（信任）
- Clarity（清晰性）
- Control（控制）
- Transparency（透明度）
- Meaningful Benefit（有意義的好處）
- 信任機制實現方式：
- 引用與超連結：指向源材料
- 工具提示：顯示相關引文
- 側邊欄參考窗口：用於研究工作
- AI行動計劃審批：代理工作流前需用戶確認
- 清晰性設計模式：
- 流式文本生成（streaming text）：實時展示內容生成過程
- 鏈式思考展示（chain of thought）：讓用戶看到推理步驟
- 新內容標記：顏色變化、高亮、捲動焦點提示
- 控制與撤銷機制：
- 大紅色停止按鈕：易於觸及的緊急停止
- 撤銷/重做（undo/redo）：簡單對話可能只需重新表述
- 版本歷史或檢查點（checkpoints/save states）：複雜編輯工作需要
- 粒度控制：允許保留部分結果、回退特定步驟
- 透明度實現：
- 權限設定不止二元：細分動作（讀取/刪除/發送/執行）、範圍（特定資料夾/全部）、模式（一次性/永久）
- 權限歷史與撤銷：用戶可查看已授予權限並隨時撤銷
- AI內容標記：浮水印、星號、免責聲明
- 成本與時間估算：預告token消耗、執行時間
- 視覺指示器：橫幅/側邊欄標示代理工具正在控制系統
- 有意義好處：
- 示例與模板：展示成功的使用案例
- 行動按鈕（action buttons）：內容產生後的下一步選項
- 直接整合：推送至文字編輯器、代碼倉儲、工單系統等
- 參考案例對比：
- Copilot研究代理新對話：提供示例、大按鈕、語音選項、低進入障礙
- Teams新對話：假設高度熟悉度，無詳細說明、無引導
結論
結論“AI功能的成敗不決於演算法效能，而在於設計者是否透過信任、清晰、控制、透明、實用五大支柱建立起用戶的舒適感與自主權。”
完整解析
詳細隨著AI快速滲透至工作軟體、社群媒體乃至作業系統，許多企業匆忙在各處添加AI功能，卻忽略了一個根本問題：用戶是否真的知道如何使用它們。演講者Kat指出，開發者與普通用戶之間在AI技術素養上存在著極寬的鴻溝——這是她見過最大的知識落差。許多用戶對AI仍感到陌生與警惕，當他們嘗試AI功能卻得到出人意料的結果時，往往會產生負面印象，進而拒絕再次使用。這不僅浪費了AI的潛力，也傷害了用戶對科技的信任。
解決之道在於借鑑Macintosh圖形化介面的成功經驗。當年Apple創造了一種用戶友善的體驗，用視覺隱喻（如垃圾桶、文件夾）消除技術障礙，然後隨著用戶素養提升逐漸引入更多技術詞彙。今日的AI用戶體驗尚處於早期階段（類似System 3），我們不能假設用戶已是專家。開發者應建立起連接已知和未知的橋樑，透過逐步介紹新的交互模式，引導用戶而非丟著他們不管。
Kat歸納出用戶面臨的五大挑戰，並為每一項提供了具體的設計策略。首先是信任——用戶將AI視為黑盒子，容易看到AI幻覺而失去信心。與其宣稱自家AI比他人更可靠，不如在設計中提供透明度機制：引用源材料讓用戶自行驗證、展示行動計劃讓用戶事前審批、標記AI生成內容以消除疑慮。其次是清晰性——透過流式文本生成讓用戶實時觀看內容產生、讓AI「邊想邊說」展示推理步驟、標記新增或修改的內容。第三是控制——提供易於觸及的緊急停止按鈕、完整的撤銷機制、版本歷史，讓用戶隨時能回到安全狀態或微調結果。
透明度和有意義的好處則攸關用戶的長期接受度。權限設定應超越簡單的yes/no，提供細粒度控制（如允許讀取郵件但不允許發送、一次性批准vs永久授權），並展示權限歷史讓用戶隨時撤銷。成本與時間的預告也是關鍵——即使無法精確估算，粗略數字也足以幫助用戶做出知情決策。最後，用戶產生內容後往往需要在其他工具中利用它（報告、簡報、代碼提交），提供清晰的行動按鈕或直接集成至常用工具，能大幅提升AI功能的實用價值。當用戶無法對輸出採取行動時，AI再強大也只是玩具。演講結尾強調，如今AI的技術性能差異已不大，差異化真正來自用戶體驗品質。開發者必須將用戶放在設計核心，才能將AI的潛力轉化為實際價值。
關鍵時刻
Pipeline v2帶時間戳的重點，會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。
事實查核
Pipeline v2說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。
