【會話中迷失：大語言模型在複雜任務中的瓶頸與突破】
在使用大型語言模型（LLM）進行多輪對話時，經常會遇到一個難以忽視的問題：「會話中迷失（Lost in Conversation）」。這代表一旦模型在某一輪回答中出錯，錯誤便可能如骨牌般連鎖發生，使得後續回到正軌變得困難。這類問題在處理複雜的技術創新與知識整合任務時，特別明顯。
👉 參考文獻：arXiv:2505.06120
2025.06.26 首發, 2025.07.07更新
2025©汪周禮
在兩年前(2022Dec~2023May)設計 MSM（Multi-Shots-Models AI 輔助創新方法）時，我也深刻感受到這個挑戰。為了確保模型在多次提問過程中仍能維持高品質與主題聚焦的輸出，除了進行內容的結構化設計，我也導入了多種提示工程技術（Prompt Engineering Techniques）作為模型導向與錯誤校正的關鍵手段。
但即使如此，仍會出現模型陷入迷失或產生幻覺的瓶頸，因此我當時啟用了兩個付費 GPT 帳號進行對比測試與路徑重導，終於建立起完整的 MSM 六大模組架構，並設計出超過 20 組關鍵提問模型（Key Prompt Frameworks）。
MSM AI輔助創新多代理人(Multi-Agents)整合的代理式AI 工作流(Agentic AI workflow)這個架構融合了多項跨領域工具與流程：
-
新產品開發流程：Cooper、PDMA、Crawford、IPD 等。
-
問題解決技術：KT法、RCA、FMEA、FA等。
-
創新方法：Design Thinking（三種版本）、TRIZ等。
-
專利分析技術：FTO、專利地圖、佈局與迴避設計等。
-
AI提示工程策略：模組化提示描述、錯誤鏈斷點設計、多輪對話導引技術等。
這套系統的設計過程花了我三個月、研讀超過百篇 AI 相關研究文獻，才整合出這套能真正導入企業實戰的 MSM_AI 輔助創新流程 (PS. 那時候還特地寫了一篇部落格短文紀念)。兩年來已在多家企業的創新專案輔導中，證實其實效，特別是在R&D、專利布局與AI技術應用開發領域，對比過去使用的傳統模式，根據企業專案輔導的統計結果，完整的MSM_AI輔助創新流程平均縮短研發50%開發時間。
MSM_AI × Agentic LLM 平台 PoC 實戰整合
從2023六月完成開發MSM後的兩年的時間裡，在四大領域 (手機、半導體、新能源、AI技術開發) 累積38 個 成功案例！
目前，MSM_AI 模組已可結合如 Dify 等 Agentic AI 平台，作為企業導入大型語言模型的 PoC 驗證方案，協助：
-
提升企業 自建 LLM 平台的內部使用率
-
導入具結構性的創新思維模組，增加思考模式並提高思考效率
-
解決 LLM 在複雜任務中的常見迷失與輸出品質劣化問題
📌 大語言模型真正的挑戰，才正要開始。
面對複雜問題的知識組織與創新應用，若無清楚架構與提問引導，LLM 容易失準。這正是 MSM 設計的核心價值：讓 LLM 成為創新引擎，而非失控變數。
後記：
#AI_LLM
#AI4INNOVATION
#MSM_AI輔助創新
#MSM_六大模組
若企業對 MSM_AI輔助創新有興趣，歡迎與我聯絡現場 DEMO 事宜！
SERVICE@IIIINNOVATION.COM (3*I+ INNOVATION)
沒有留言:
張貼留言