這是5月4日台大EMBA孔令傑教授演講的摘要。
會議記錄內容圍繞人工智慧 (AI) 的不同概念、應用現況及未來發展進行討論 [i, j, k]。廣義來說，AI 是指能協助人們做出更好決策的電腦系統。AI 的實現方式主要分為兩大類：規則式系統 (Rule Based System) 和資料驅動的智慧系統。
規則式系統是基於人類經驗或統計分析結果，由人制定一套明確的規則並寫入電腦，讓電腦依據這些規則進行判斷或行動。例如，根據年齡和性別設定車險費率，或依室溫設定冷氣開關的門檻值。這種方法雖然簡單易懂，但列舉規則有其極限，尤其當問題複雜或需要考量的情境多樣時。
為了克服規則式系統的限制，發展出了資料驅動的智慧系統，其核心思想是讓機器從歷史資料中自行找出規則。這又可細分為機器學習 (Machine Learning) 和深度學習 (Deep Learning)。
機器學習主要處理結構化資料，這類資料可以很好地整理成表格，如客戶年齡、性別、交易紀錄等具有明確意義的變數。機器學習模型透過分析這些資料，自行生成判斷規則。常見應用包括預測信用卡盜刷機率、預測會員流失 或使用者可能喜歡的影片或商品。現代的機器學習需要大量的資料來訓練模型。
深度學習，它使用層數更多的類神經網路 (Neural Network)。深度學習的主要優勢在於能夠處理非結構化資料，如影像、聲音和文字。與結構化資料中變數有明確意義不同，非結構化資料如影像的每個像素本身意義不明確且數量龐大。深度學習模型能夠從這些底層、無意義的變數中學習複雜的模式。應用範例包括影像辨識 (如辨識圖片中的物件、人臉、偵測產品瑕疵)、文意理解等。訓練深度學習模型需要超大量的計算資源和資料。
在 AI 的應用中，預測 (Prediction) 是一個核心概念。來源區分了狹義的「預報」(Forecasting)，特指對未來事件的預測，如天氣預報或需求預測。而廣義的「預測」(Prediction) 則包含對未來及沒有時間先後關係的猜測或評估，例如判斷信用卡交易是否為盜刷。雖然中文常用「預測」統稱，但在思考問題時理解其廣泛含義很重要。AI 不僅能做預測，還能基於預測或其他分析結果協助或自動進行決策 (Decision Making)，這通常涉及實際的行動，並往往包含最佳化 (Optimization)，即在特定目標下（如最大化營收、最小化成本）做出最佳選擇。應用例有自動駕駛、機票價格動態調整、製造業品質管制、電銷名單篩選。
近年來，生成式 AI (Generative AI) 的出現帶來了重大突破。這是一種能夠產出豐富、非結構化內容（如文章、圖片、聲音、影像）的深度學習模型。相較之下，較早發展的 AI 或主要輸出簡單判斷（如是否盜刷、有無瑕疵）的 AI 被稱為判別式 AI (Discriminative AI)。
生成式 AI 的核心機制可以簡要理解為一種機率模型的文字接龍。它根據前面出現的文字，預測下一個最可能出現的字詞，並依機率生成文本。其訓練資料主要來自網路上的海量文本，資料品質會影響模型的生成結果。
生成式 AI 目前應用廣泛，但也存在主要缺點：
- 生成結果可能不正確或不合理。為了提升準確性，有技術嘗試讓模型展示「思考過程」，這不僅增加使用者信任度，從技術上也可能提高正確性，因為它增加了內部的運算層數。
- 模型通常超大，需要龐大的計算資源和資料進行訓練和部署。這使得只有大型機構有能力從零開始訓練通用模型。
為了解決通用模型無法滿足特定企業需求的問題，發展出了特化技術：
- 檢索增強生成 (RAG - Retrieval-Augmented Generation)：將通用模型與企業內部的知識庫或文件庫結合。當使用者提問時，模型會先從知識庫中檢索相關資訊，再根據這些資訊生成回答。這適用於企業內部知識管理或輔助客服人員，因為即使模型偶爾生成錯誤，人為把關可降低風險。
- 微調 (Fine-tuning)：使用企業自身的資料對通用模型的參數進行調整。這能讓模型更深入地理解和適應特定領域或任務。然而，微調是相對複雜且有風險的技術，可能破壞模型原有的通用能力。它比 RAG 更深入地改變模型的內部運作模式。
- 模型縮小 (如蒸餾 - Distillation)：將一個龐大、訓練好的「教師模型」的知識轉移到一個較小的「學生模型」上訓練。學生模型學習模仿教師模型的輸出（特別是機率分布），從而以較小的規模達到類似的性能。這有助於降低部署成本，使模型更容易在資源有限的環境中運行。
總結來說，選擇適合的 AI 技術（機器學習、深度學習、生成式 AI）取決於任務的類型和處理的資料類型。簡單任務和結構化資料可能用傳統機器學習就足夠且更有效益，殺雞焉用牛刀。處理非結構化資料常需要深度學習，而需要生成豐富內容的則適合生成式 AI。理解這些技術的區別、優勢與局限性，對於企業負責人或決策者在評估和導入 AI 解決方案時至關重要。未來，人類的角色將更側重於領域知識的運用，以指導和評估 AI，並提升軟實力和執行力。
