2025-11-27 Neurosymbolic AI — pure neural LLM 5 個先天痛點

2025-11-27 Neurosymbolic AI — pure neural LLM 5 個先天痛點

FB post ID: 3460
對應 talk slide: A1 LLM 本質 — pure neural LLM 缺陷列表

原 FB post（字面引用，節錄要點）

下一代 AI 的熱門關鍵字：Neurosymbolic（神經＋符號）AI

現在支撐 ChatGPT、Gemini 這類大語言模型的，是一整套「類神經網路」技術：丟給模型海量文字，讓它自己在參數裡學出統計關係與模式。這一派叫 neural networks，過去十年幾乎壟斷了 AI 版圖。

但在 AI 的歷史裡，其實還有另一個老派流派：符號式 AI（symbolic AI）。

它的特色是： ．一切都用「規則」和「邏輯關係」來表示
．很像數學、程式邏輯、流程圖、集合論那種「如果 A 而且 B，就推得 C」的寫法
．優點是可解釋、擅長嚴謹推理，缺點是規則庫要人工一條一條寫，遇到語言、常識這種很多例外的東西就很吃力

Nature 這篇 News Feature 在講的，就是為什麼大家又開始想把這兩派「混血」，變成所謂的 neurosymbolic AI。

一開始是因為：純神經網路有幾個先天的痛點。

．很會「看起來懂」，但邏輯經常歪樓
　例：畫圖畫出六根手指、影片裡球亂飛，忘記重力這回事，算數學常常亂編。

．不擅長抽象出「通用規則」
　它知道很多特例，但對「手通常有五根手指」、「物體會被重力往下拉」這種抽象概念，沒有內建表示。

．黑箱難以信任
　在軍事、醫療這種高風險情境，如果系統為什麼這樣判斷說不清楚，很難真的放心交給它。

於是，很多研究者開始主張：下一代 AI 可能要「神經網路＋符號推理」一起上，才有機會走向真正的 AGI（類人通用智慧）。

Talk 引用方式

A1 slide「LLM 本質 — 你下載到硬碟的是什麼」加 5 個 bullet：

Nature News Feature 點出 pure neural LLM 5 個先天痛點（Copper FB 2025-11-27）：

• 畫圖六根手指
• 影片裡球亂飛，忘記重力
• 算數學常常亂編
• 不擅長抽出通用規則
• 黑箱難以信任

→ 直接證明「下載 70 GB weights ≠ 下載知識庫」、「LLM 不真懂規則，只是統計學會了 token 共現 pattern」。

為什麼這篇 quote 對 talk arc 重要

• 權威 source：Nature News Feature（不是 Copper 個人 opinion）
• 5 個痛點都具象：藥學系學生可以直接驗證（畫圖、算數學、看影片），不必信任 Copper 講課
• 連到「黑箱難以信任」：對醫療 audience 特別 resonant — 高風險 domain 要可解釋性