登錄
註冊
據 Woofun AI 消息,DeepLearning.AI 創始人 Andrew Ng(吳恩達)近期發佈 AI Engineering Skills Map,將"構建與部署 AI 應用"確立爲 AI 工程師的核心高級能力,並拆解爲六大技能模塊。吳恩達指出,AI 軟件與傳統軟件的根本差異在於輸出具有不確定性,開發者無法預知大型語言模型的具體生成結果,因此 AI Engineering 的本質是利用概率性元件構建可靠的軟件系統。
第一項技能聚焦 LLM 基礎,要求工程師深入理解模型如何 tokenize 輸入及逐步生成輸出,明確模型在何種情境下可信或易失敗。這直接關聯到實際開發中的工程判斷,例如決定 context window 的信息容量、判斷多模態模型相較於純文本模型的適用場景、評估 cache hit 對成本的影響,以及考量模型知識截止日期、reasoning effort、sampling parameters 和 tool calling 的使用時機。
只有透徹掌握這些底層機制,工程師才能精準選擇單一模型或混合多種模型策略。第二項技能涉及以數據 Grounding 模型,Woofun AI 整理數據顯示,當前 Grounding 技術已遠超早期的 vector search 範疇。工程師需決策哪些信息直接嵌入 Prompt,哪些通過工具實時查詢,並根據數據類型選擇表示方式:文件搜索適用 vector index,複雜實體關係適合 knowledge graph,而客戶訂單等結構化數據則需建立 semantic layer。
此外,還需將 PDF、HTML、圖片等非結構化數據清洗爲模型可用的格式,並維護確保數據乾淨、正確且持續更新的 pipeline,核心能力在於針對特定查詢需求,選擇最優方式向模型交付正確 context。
第三項技能涵蓋 Agentic Systems 的架構設計與生產級安全治理。吳恩達將智能體系統定義得極爲廣泛,從簡單的預定義 workflow(如依序調用 LLM)到進階的 agent harness(模型自主觀察狀態、判斷並行動)。工程師需決定步驟的串行或並行邏輯,區分傳統代碼與 LLM 的處理邊界,並在 Agent loop 中配置 MCP、CLI、sandbox execution environment 等工具調用權限。長時間任務涉及 memory architecture 與 context management,而 multi-agent orchestration 的引入需權衡系統複雜度。
更關鍵的是,Prototype 與 Production 之間存在巨大落差,必須部署 guardrails 以應對 prompt injection、數據外泄等風險。一個能讀取內部數據並調用外部工具的 Agent,若遭遇注入攻擊,可能將簡單的回答錯誤升級爲嚴重資安事件。因此,Agent Engineering 不僅賦予模型自主能力,更需界定其行爲邊界及錯誤阻斷機制。
此外,voice agents、computer-use agents 及 generative UI 等新興形態也需納入掌握範圍。
第四項技能強調 Evaluation-driven Development,吳恩達將其視爲判斷工程師是否擅長開發 AI 系統的關鍵特徵。由於模型輸出的隨機性,依賴直覺調整 Prompt 易導致開發過程混亂,而建立紀律化的 Eval → Error Analysis → Development 循環至關重要。有效的 evals 能讓團隊系統性量化產品改善程度,並優先解決高價值問題。開發者需通過閱讀 system trace、檢查大量模型輸出、進行 exploratory data analysis,結合產品與商業理解來確定衡量指標。評估方法多樣:部分問題適用 deterministic 代碼檢查,主觀品質問題可採用 LLM-as-a-judge,高風險場景則需 human-in-the-loop。
值得注意的是,eval 系統本身的準確性也需被評估,並隨產品演進迭代。這與傳統軟件測試存在唯一正確答案的邏輯截然不同,測試標準本身具有動態性和概率性。
第五項技能關注生產環境運營,包括監控 uptime、追蹤模型表現 drift、識別持續失敗的輸入類型及防範 prompt injection 等資安問題。CI/CD 與 regression testing 需適配 AI 特性,採用統計式評估而非絕對匹配,且測試嚴格程度應隨風險分級。例如,推薦餐廳的 AI 偶爾答錯與醫療系統偶爾答錯,其容錯標準和測試要求截然不同。
此外,inference cost 與 latency 是規模化後的核心挑戰,Demo 階段忽略的調用成本在用戶規模上升後將直接影響毛利。工程師需掌握 model choice optimization、distillation、fine-tuning 及簡化 agentic workflow 等成本控制手段,這是 AI Engineering 區別於純 Prompt Engineering 的重要維度,體現了對工程效率與經濟性的綜合考量。
第六項技能重申 Machine Learning 基礎在 LLM 時代的持續價值。儘管 ChatGPT 的普及曾引發"無需學習傳統 ML"的誤解,但吳恩達指出,擅長構建 LLM 系統的工程師通常具備紮實的 machine learning 與 deep learning 理解。一方面,LLM 本身依賴 supervised learning、reinforcement learning 等方法訓練;另一方面,許多實際應用仍需傳統 ML 模型或自行訓練模型。
工程師需權衡不同模型在 accuracy、training speed、inference speed 等方面的 trade-off。更重要的是,bias/variance、error analysis 與 data engineering 等經典概念,依然是理解不確定輸出系統的重要思維框架,爲應對模型黑盒特性提供了可解釋性和可控性的理論基礎。
綜上所述,AI 工程師的核心競爭力已從單純調用 API 轉向應對不確定性的工程化能力。與傳統軟件追求確定性不同,AI 系統需在概率性輸出中構建可靠性,這要求工程師在模型基礎、數據治理、智能體架構、評估循環、生產運營及 ML 理論之間建立系統性思維。這是繼大模型爆發後,AI 工程領域從"實驗探索"邁向"工業級落地"的關鍵範式轉變,標誌着 AI 開發正式進入精細化、標準化與規模化並重的新階段。