搜尋此網誌

顯示具有 數位商業模式 標籤的文章。 顯示所有文章
顯示具有 數位商業模式 標籤的文章。 顯示所有文章

2025年6月26日 星期四

MSM_AI輔助創新六大模組 甘苦小故事(短文)



【會話中迷失:大語言模型在複雜任務中的瓶頸與突破】

在使用大型語言模型(LLM)進行多輪對話時,經常會遇到一個難以忽視的問題:「會話中迷失(Lost in Conversation)」。這代表一旦模型在某一輪回答中出錯,錯誤便可能如骨牌般連鎖發生,使得後續回到正軌變得困難。這類問題在處理複雜的技術創新與知識整合任務時,特別明顯。

👉 參考文獻:arXiv:2505.06120


2025.06.26 首發, 2025.07.07更新
2025©汪周禮

在兩年前(2022Dec~2023May)設計 MSM(Multi-Shots-Models AI 輔助創新方法)時,我也深刻感受到這個挑戰。為了確保模型在多次提問過程中仍能維持高品質與主題聚焦的輸出,除了進行內容的結構化設計,我也導入了多種提示工程技術(Prompt Engineering Techniques)作為模型導向與錯誤校正的關鍵手段。

但即使如此,仍會出現模型陷入迷失或產生幻覺的瓶頸,因此我當時啟用了兩個付費 GPT 帳號進行對比測試與路徑重導,終於建立起完整的 MSM 六大模組架構,並設計出超過 20 組關鍵提問模型(Key Prompt Frameworks)

MSM AI輔助創新多代理人(Multi-Agents)整合的代理式AI 工作流(Agentic AI workflow)這個架構融合了多項跨領域工具與流程:

  • 新產品開發流程:Cooper、PDMA、Crawford、IPD 等。

  • 問題解決技術:KT法、RCA、FMEA、FA等。

  • 創新方法:Design Thinking(三種版本)、TRIZ等。

  • 專利分析技術:FTO、專利地圖、佈局與迴避設計等。

  • AI提示工程策略:模組化提示描述、錯誤鏈斷點設計、多輪對話導引技術等。

這套系統的設計過程花了我三個月、研讀超過百篇 AI 相關研究文獻,才整合出這套能真正導入企業實戰的 MSM_AI 輔助創新流程 (PS. 那時候還特地寫了一篇部落格短文紀念)。兩年來已在多家企業的創新專案輔導中,證實其實效,特別是在R&D、專利布局與AI技術應用開發領域,對比過去使用的傳統模式,根據企業專案輔導的統計結果,完整的MSM_AI輔助創新流程平均縮短研發50%開發時間。




MSM_AI × Agentic LLM 平台 PoC 實戰整合

從2023六月完成開發MSM後的兩年的時間裡,在四大領域 (手機、半導體、新能源、AI技術開發) 累積38 個 成功案例!
近期(2025.07.17update)更新添化工產業,共五大領域,企業應用項目已累積 48個 有效案例。

目前,MSM_AI 模組已可結合如 Dify 等 Agentic AI 平台,作為企業導入大型語言模型的 PoC 驗證方案,協助:

  • 提升企業 自建 LLM 平台的內部使用率

  • 導入具結構性的創新思維模組,增加思考模式並提高思考效率

  • 解決 LLM 在複雜任務中的常見迷失與輸出品質劣化問題 



📌 大語言模型真正的挑戰,才正要開始。

面對複雜問題的知識組織與創新應用,若無清楚架構與提問引導,LLM 容易失準。這正是 MSM 設計的核心價值:讓 LLM 成為創新引擎,而非失控變數


後記:

知識經濟2.0- 工作流程 x AI x 專業經驗:下一波知識經濟商模產品誕生地
行業的改變從來都不是由內部開始,而是外部的影響,只是目前可能的影響會出現在ai創造的知識經濟發展模式,新的知識經濟商模正在孕育中,這也是我體驗過悲觀的環境但卻依然樂觀的理由。
或許可以這樣思考,知識經濟系統裡面的每一個構成組件中,幾乎所有的組件都會收到ai影響,這樣的影響隨技術發展與應用模式而動態變化,傳統的認知將會被改寫,簡單說,我們習慣的單點工作站模式,將會被工作流模式改變,以前要五個人(五個工作站)可以完成的事,現在可能ㄧ兩個人就可透過ai工作流完成,所以,比如說,新的價值方向會出現在不同工作站的整合上,誰能處理好新工作流的整合與輸出品質,就會創造新的知識產權商機,現在很多人都把眼光聚焦在被取代掉的工作站,這是沒有意義的事。
沒有價值或低價值的工作一定會被ai取代,這個是趨勢,時針在轉,真正要關注的焦點在於,如何從新出現的ai工作流中找到知識產權的商機。

這樣的變化用過去的思考模式一定難以理解,因此要把自己站在10年後來看過去五年的發展,就可以推測未來五年的變化與機會了。

站在10年後回看今天,我們會看到什麼?
或許我們將會驚訝地發現,不是哪個人被AI取代了,而是哪個產業沒能及時整合AI工作流,最後被時代淘汰了。

#AI_DT_TRIZ4innovation
MSM AI輔助創新 企業研發系列- 創新式專利迴避設計工作坊,歡迎企業包班~

#AI_LLM
#AI4INNOVATION
#MSM_AI輔助創新
#MSM_六大模組

企業對 MSM_AI輔助創新有興趣,歡迎與我聯絡現場 DEMO 事宜!

SERVICE@IIIINNOVATION.COM (3*I+ INNOVATION)


2025年4月21日 星期一

智慧財(IP)技術迴避設計:數位轉型企業必修

 

2025.04.21 汪周禮

開源協議風險與技術迴避設計:AI數位轉型企業不可忽視的必修課

在企業數位轉型與 AI 落地加速的當下,開源技術成為不可或缺的推進力量。然而,許多企業在享受開源所帶來的便利與效率時,卻忽略了其背後潛藏的法律與技術風險。

對企業而言,開源並不是免費的萬靈丹。若未建立正確的開源風險觀念與技術應對能力,開源反而可能成為阻礙商業創新的絆腳石。

不只是法律風險,更是技術整合風險

開源協議的風險不僅是法律層面的授權爭議,更關鍵的是隱藏在開發流程中的技術風險。許多開源協議如:

  • GPL(General Public License):高度傳染性,要求衍生作品同樣開源,若誤用恐導致整體商業產品授權被迫開放;

  • LGPL(Lesser GPL):傳染性降低,但仍需注意靜態與動態連結的使用方式;

  • MIT / BSD / Apache:較為寬鬆、允許商業應用,但仍存在專利條款或聲明義務。

實際上,多數企業的風險不是來自於協議本身,而是來自於「技術整合時的依賴關係未察覺」:

  • 無意中引入了 GPL 授權的函式庫;

  • 因套件轉包導致使用者未察覺授權變更;

  • 混合使用商業軟體與開源模組,導致專利授權與開源義務衝突。

這些複雜依賴與交叉使用,使得開源協議風險分析變得不僅是法務部門的事,更是軟體技術設計的挑戰

技術迴避設計:真正的風險穿越能力

面對高傳染力的 GPL 類協議,企業除了避開使用之外,更應該具備「技術迴避設計(Avoidance Design)」的能力。這不只是修改架構那麼簡單,而是透過深度理解協議條款與技術系統依賴,重新設計可替代架構與資料流動機制。

我曾在過去於蒙恬科技(PenPower)負責開源風險迴避設計專案,該專案整合了:

  • 法務律師的協議解釋與合規審查

  • 工程人員對實作細節與依賴樹的掌握

  • 技術架構師的系統重構與模組切割能力

三方合作下,才能打造出真正能避開授權限制、合法且穩定可用的商業應用架構。

這樣的協作過程不僅讓產品「合法可用」,更是提升企業軟實力與研發獨立性的關鍵。

AI + 開源時代的挑戰加劇

AI 時代的開源應用更加複雜:

  • 大型語言模型(如 LLaMA、Stable Diffusion)雖標榜開源,但多數附有「不可商用」條款;

  • 開源模型的訓練資料未明確授權,潛藏侵權風險;

  • 模型推論雖不觸碰原始碼,但輸出結果是否算為衍生作品仍具灰色地帶;

  • 許多企業使用開源工具包(如 Hugging Face、Transformers),卻未意識到其依賴鏈中的授權交叉風險。

這些都意味著,AI 的導入不能只是「好用就上」,而是必須先問能不能用、該怎麼合法用,然後再問怎麼技術突破地用

現有工具的不足與未來方向

雖然目前已有如 SBOM(Software Bill of Materials)等工具可協助掃描使用元件、加速比對開源授權,但在實際商業應用與技術判斷層面,作用仍有限

因此,我們建議企業應從以下方向著手:

  1. 強化 OSPO(Open Source Program Office)制度:不只是合規管理部門,更是開發階段的參與者,協助設計開源友善架構。

  2. 建立風險地圖與可視化依賴模型:搭配 SBOM 資料,進一步結合商業目標與合規風險建模。

  3. 設計開源協議迴避設計流程:將技術替代設計模組化、系統化,作為標準化研發流程一部分。

  4. AI 模型風險評估架構:針對訓練資料、權重參數與推論過程,設計合規評估機制與責任切分框架。

結語:開源,不只是開始,更是考驗技術實力的關鍵

開源世界的本質,是分享與自由,但若要轉化為企業價值,就需要具備能「合法使用」、「合規迴避」、「技術突破」的綜合能力。

我們正處於一個AI+開源交疊的新時代,而能否在風險中前行、在限制中創新,將決定企業能否真正掌握未來。

開源不是避風港,而是技術創新的試金石。

2025年1月31日 星期五

AIaaE-開源LLMs生態系的崛起 - EPISODE 0 - DEEPSEEK的衝擊

EPISODE 0 -  DEEPSEEK 的衝擊


2025.01.31 汪周禮

在 AI 技術的快速演進下,AI整體市場格局正在發生重大變化。從開源與閉源的競爭,到小模型挑戰大模型,再到算力需求的變革,這些趨勢不僅影響技術發展,也將重塑全球 AI 產業格局。

DeepSeek的出現所造成的影響意義深遠,本文嘗試從四個點切入探討未來 AI 市場可能的變化及其對企業的影響。

(針對近期DEEPSEEK對市場網路新聞資訊變化,整理收集網路資訊並與ChatGPT對話整理與修改及補充後,探討目前觀察到的資訊,經過整理補充與修改的內容仍可能有誤,請謹慎閱讀參考。)


1. DeepSeek 綜合資訊

2. DeepSeek-V3 訓練與優化流程總覽

3. 未來市場的變化趨勢

4. 哪些企業會最先適應 DeepSeek 帶來的 AI 變局?


關鍵字:DEEPSEEK, AI, AI黃金三角, AI FUTURE TREND, AIaaE, AI as an Ecosystem, open source, LLM


1. DeepSeek 綜合資訊

DEEPSEEK是一種AI LLM技術,於2025年1月20日首度發表。

從目前收集到的資訊經過整理後,首先從類型、特色以及重點摘要三個層面,分別從術創新與模型架構、訓練與優化流程、進行梳理。

A. 技術創新與模型架構





DeepSeek 以創新架構、高效資源運用、完全開源、低成本訓練策略,挑戰美國主導的 AI 模型市場。其技術與市場影響力不僅正在改變產業標準,更在算力競爭、中文 AI 發展、與 AI 商業模式上帶來顛覆性變化,讓開源環境更具競爭力。


B. DeepSeek-V3 訓練優化流程總覽


流程圖解讀
    1. DeepSeek-V3 Base 作為基礎,透過少量冷啟動 CoT 數據進行 SFT(監督微調)。
    2. 接著透過 推理導向強化學習(GRPO + CoT 語言一致性獎勵) 進一步優化模型。
    3. 推理與非推理數據經過過濾與拒絕抽樣,確保數據品質,形成 DeepSeek-V3 SFT 訓練數據集。
    4. 使用 Qwen 2.5、Llama 系列數據,再進行 2 輪 SFT 訓練(共 80 萬筆樣本),進一步提升模型能力。
    5. 透過蒸餾技術 產生 DeepSeek-R1-Distill 版本,以降低計算成本並保持推理能力。
    6. 經過強化學習(RL),利用偏好獎勵與多樣化提示詞進行微調,最終獲得 DeepSeek-R1。

關鍵亮點
    1. 分段穩定訓練:先進行 SFT,再透過 RL 提升推理能力,確保模型穩定成長。
    2. 數據品質篩選機制:透過推理提示詞與拒絕抽樣,確保數據高品質,避免模型學習低質量輸入。
    3. 多模型蒸餾泛化:結合 Qwen 2.5 & Llama 版本 進行知識提取,提升模型的泛化能力。
    4. 低成本高效輸出:使用 SFT + RL 策略,提升效能同時控制成本,使模型具備競爭力。

總結
DeepSeek 採用 分階段穩定訓練 策略,先以 少量 CoT 數據進行 SFT 微調,再透過 GRPO 強化學習與語言一致性獎勵 提升推理能力,並利用 數據篩選機制 確保訓練品質。
  此外,融合 Qwen 2.5 和 Llama 進行 知識蒸餾,提升模型泛化能力,最終透過 蒸餾技術降低計算成本,確保 DeepSeek-R1 具備高效能與低成本優勢,在推理能力與市場競爭力上取得突破。

C. 未來市場可能的變化趨勢








未來AI 產業將從算力競爭轉向架構創新,開源 LLM、低成本 AI 方案和新型架構優化技術的興起,將挑戰封閉式技術與高端 GPU 市場布局型態,進一步加速 AI 技術的普惠化與市場技術轉型。


D. 哪些企業會最先適應 DeepSeek 帶來的 AI 變局?

“見情者獲,直往則違” 

最可能適應並突圍的企業類型

就是那些受益於 LLM 成本-效能脫鉤趨勢,有能力透過資料驅動獲得市場優勢,例如:

i.  擁有大量高質量專屬資料的企業

這些企業具備 專有數據 (Proprietary Data),而不是僅依賴公有網絡數據,能夠透過自有數據訓練客製化 LLM,形成 難以被競爭對手複製的 AI 生態

ii. 低算力 AI + 高資料應用場景的企業

DeepSeek 將不會是最夠一個,這也暗示了未來及類似技術的出現必定會朝向 降低算力成本門檻的方向前進,因此過去無法負擔 LLM 訓練的小型企業,也有能力透過 開源 AI + 企業私有數據 來打造專屬 AI 應用。

iii. AI 科技公司 (突破頂級算力封鎖圈 + 降低對高資本密集算力的 依賴)

DeepSeek 的成功展示相對較低算力創造出相對高效 AI 訓練的可行性,這對其他受技術封鎖影響的市場來說是一個重大機遇,畢竟這降低了對 AI GPU 的依賴程度,更幫 AI新創(AI Startups) 打開了一條全新的發展道路


---後記

正如同我過去所預測(2024完成8個企業AI技術開發專案輔導後的心得),AI建模能力仍舊將會是AI應用技術關鍵競爭核心,從技術趨勢預測分析模型的角度來看,目前在AI 建模領域,可以說是初期階段,未來仍有很大的競爭發展空間。

也因此,AI應用、AI應用系統架構設計、AI建模,這黃金三角組合會越來越明顯。

從產業生態系巨觀的整體視角來看,我認為關鍵在於DeepSeek 有多種不同的豐富開源版本,基於這種擁有媲美ChatGPT 的應用能力且可供商業化(MIT)的開源模型,這代表AI LLM 軟體領域開源將會開啓一個新的產業生態系的發展,可預見的影響力將會非常巨大深遠,可以說是AI LLM 發展分水嶺 (開源VS.閉源)也不為過!

軟體技術的商業模式穿透力非常強,從小範圍的產品技術開發,擴散到到市場商業模式設計,甚至可大到重塑產業鏈生態系。
透過AI技術,就有機會打造出非常有吸引力產業鏈生態系(AI as an Ecosystems, AIaaE),這也是軟體技術吸迷人的地方。



REF:
https://en.wikipedia.org/wiki/DeepSeek
https://x.com/markchen90/status/1884303237186216272
https://arxiv.org/search/cs?searchtype=author&query=DeepSeek-AI
https://x.com/SirrahChan/status/1881488738473357753
https://cyeninesky3.medium.com/deepseek-r1-論文解析-強化學習如何提升-ai-推理能力-9ddbc4ded9f6


2024年7月30日 星期二

在未來的AI時代,我們需要甚麼能力?

 


在未來的AI時代,我們需要甚麼能力?

AI時代需要甚麼能力? 提問能力? 專業能力? 完成任務能力?
這些都是表象,根據目前應用成果,我認為未來在AI普及的時代來說,人們的 設計能力 最重要!

這種能力不僅僅指傳統意義上的設計(如圖形設計、產品設計),而是更廣泛的設計思維和能力,能夠綜合各種知識和技能,創造出符合未來需求的解決方案和產品。例如:

1. 設計思維(Design Thinking):
1A. 定義問題:設計思維的核心在於深入理解問題的本質,結合問題分析、問題挖掘與需求挖掘賦予重新定義問題的能力。
1B. 創意思維:突破慣性思考模式,培養成能夠打破常規思維模式,並且進一步提出新且有效的解決方案。
1C. 用戶中心:以用戶(目標對象)需求為導向,規劃設計出符合複合用戶的市場需求的產品和服務。

2. 跨學科整合能力:
2A. 知識整合:AI時代,知識的汲取將會越來越容易,因此如何能夠將不同領域的知識和工具進行整合,形成全面的解決方案,提高知識應用效率。
2B. 協同合作:跨學科盲點往往出現於不同專業深度應用上的限制,因此在跨學科團隊中工作,善於溝通與合作,有利於克服這樣的認知限制,加速推動合作進展。

3. 數據素養:
3A. 數據分析:培養並強化理解並運用數據進行決策並藉此設計出能夠從大量數據中更快速提取有用的信息的方法。
3B. 數據視覺化:在數據分析環境薰陶下,有能力將複雜的數據轉化為直觀的視覺表達內容,輔助決策和建立溝通基礎。

4. 技術理解與應用:
4A. 基本程式撰寫知識:對AI技術有基本的了解,能夠進行簡單的程式撰寫,甚至可以運用現有開源資源根據需求應用進行程式規劃設計。
4B. 技術應用:熟悉如何將AI技術解決實際應用問題中,進一步提升AI應用技術發展的智能化應用範圍。

5. 批判性思維與倫理考量:
5A. 批判性思維:隨時對AI技術應用保持批判性思考,避免過度盲目依賴AI 技術,反過來說,透過對AI的認知盲點創造出更符合社會需求的AI 應用並適當的擇取或淘汰AI技術。
5B. 倫理考量:這也是AI是否能夠合理且廣泛的被社會大眾接受的關鍵心理因素,如何理解並考慮AI技術在應用中的倫理問題,確保技術的負責任使用,將會是AI技術應用普及的關鍵。

6. 創新能力:
6A. 持續學習:利用AI技術應用擴展學習的新技術、新方法,對新興技術或領先技術保持敏感度。
6B. 創意實踐:這個是最重要的創新技能關鍵門檻,如何將創意轉化為可行的設計方案,並在實踐中驗證和迭代,也就是如何加速創意到創新的過程,將成為未來AI時代的創新競爭關鍵。

上面提到的這些能力可能在未來的AI時代變得越來越重要,隨著 AI技術的快速發展和普及,人們需要具備更強的設計能力來應對複雜的挑戰和機遇。
設計能力不僅僅是技能的提升,更是思維方式的轉變,從而在AI驅動的未來中找到自己的價值和定位。


2024©汪周禮@智合創新 驅動創新知識與服務

AI時代訓練認知肌肉避免思考外包- 新聞隨筆

  #AI時代訓練認知肌肉避免思考外包 今天看到一則新聞,” 研究員警告「思考外包」侵蝕知識工作者”, “薩卡爾在 TED AI 論壇上指出,當代知識工作者正陷入「思考外包」的困境,原本應展現人類智慧的過程,如今被徹底 AI 化。人們不再是思想的創造者,而變成自己思想的「中階管理...