Structuring the Unstructured - Cedric Clyburn, Red Hat

非結構化數據已成為AI應用的關鍵基礎層。在Red Hat的實踐中，講者Cedric Labyrin遇到的問題是：企業積累了大量分散在各系統中的PDF、掃描文件、會議記錄、技術文檔等，但這些資料無法被語言模型直接理解，更無法用於RAG或Agent應用。傳統的簡單PDF解析工具雖然速度快，但會嚴重喪失資訊——表格被線性輸出導致無法閱讀，圖像和說明文字完全丟失，連人類都難以從輸出結果中提取有用資訊，更別提用於AI應用。

另一個方案是調用GPT-4V等frontier模型進行文檔處理，品質雖有保證，但成本高昂（約每百萬輸出token 30美元），而且模型的非決定性特性導致結果可能不穩定。當企業需要處理數百甚至數千份文檔時，這種方案的成本會變成無法承受的負擔。更關鍵的是，講者引用的案例說明了數據處理品質的重要性——一個掃描PDF中相鄰兩列文字被誤認為同一詞的錯誤，最終導致20篇科學論文都引用了這個虛構的術語。

Dockling作為解決方案，採取了不同的技術路線。它是Linux基金會支持的開源工具，通過組合OCR和視覺模型進行布局分析，能準確提取文本、表格、圖像及其空間關係。用戶只需pip install dockling，就可以在本地機器上運行，輸出Markdown、JSON或Pydantic格式，完全無需將數據發送到第三方服務器。在實踐中，Huggingface的Leandro用Dockling處理Common Crawl上的大量PDF，成本相比VLM方案節省了50倍，且全程只需CPU。

演講展示了具體應用場景：從簡單的文本提取開始，到提取論文中的8個表格並轉換為DataFrame，再到使用視覺語言模型（如Granite）為圖像生成詳細說明，最後到結構化輸出——比如從發票中精確提取單號和金額。特別有趣的是Chunkless RAG應用：傳統RAG需要將文檔分塊、嵌入到向量數據庫、通過語義相似度檢索；但在Dockling的幫助下，可以直接使用文檔的markdown大綱作為檢索索引，LLM根據大綱標題判斷哪個部分相關，直接提取完整文本回答問題。IBM年報的實驗證明了這個方法在大型文檔上也能有效工作。

為了支持大規模應用，Dockling提供了多種部署方案。開發者可以使用Dockling Serve將其部署為REST API服務，支持容器化和Kubernetes編排，允許同時處理數百份文檔。更進一步，Dockling MCP Server將文檔處理能力暴露為工具協議，AI Agent（如Claude Code、Cursor、continue）可以無縫調用這些工具進行自動化文檔處理，工程師無須記住所有參數和命令，只需用自然語言指示Agent執行任務。