搜尋此網誌

2023年9月19日 星期二

探索使用ChatGPT產生高品質內容


探索使用ChatGPT產生高品質內容


2023.09.19

原創內容

作者:汪周禮


前言:

AI工具不會取代人,而會使用AI工具的人正在悄悄地取代那些不會使用AI工具的人。


GAI-aid 知識經濟服務,其實正在悄悄改變市場生態結構!

從最近哈佛商學院針對BCG 700多名顧問的研究結果(*1),初步證實GAI-AID的效果,相信後面的影響,將會逐漸擴大。


從事知識經濟相關行業,特別是和智慧財產領域相關的我,應該最能體會這樣的效果,在嘗試結合多種方法論工具後,發現可以大幅提升收集資訊的速度以及資訊整理的效率,提供更有價值的結構化內容,例如提供大量技術挖掘和技術創新的資訊內容,當然在提供給客戶前,還是需要領域專家針對輸出內容品質把關。


對於如何使用ChatGPT產生高品質的輸出內容,從去年(2022 Dec.) ChatGPT問世後開始,就不斷地嘗試,直到今年七月(2023 Jul.)左右,終於開始出現令人滿意的結果。


以下這篇文章內容,摘要介紹了如何使用CHATGPT產出更好的且具有品質的輸出內容的心路歷程,提供有興趣的朋友們參考。


本文開始:


如果要將ChatGPT 應用在知識經濟生產力相關的工作中,在這樣的情況下,輸出內容會有2個目前值得觀察的條件,這兩個條件會影響輸出內容的價值,姑且稱之為內容品質要件,這兩個內容品質要件分別是:


1. GPT 輸出內容的正確性

2. GPT 輸出內容的細節程度


將上面這兩種條件以品質的概念來比對,第一條可用準確性(Accuracy)來對應,第二條可以用精確性(Precision)來對應。


如果套用行為經濟學之父(Daniel Kahneman)在雜訊一書一開始提到的概念白話解釋,就是希望透過GAI的應用,得到沒有偏誤(biased)以及沒有雜訊(noisy)的詳細輸出內容。

為了滿足這個條件,過去曾經大量嘗試採用提示詞工程的應用技巧並結合多種提問模型之後,才發現了在特定描述組合的情況下,可以得到精確性高(低雜訊)具有豐富細節的輸出內容。


但對於準確性(無偏差)的這個部分,受限於大型語言模型本身會出現的幻覺( Hallucination )特性影響,經過多次嘗試發現,這往往是LLM本身難以克服的問題,特別是在專業領域中,因此過程中需要人類專家不斷地介入引導與調整,這樣反而降低使用效率,失去了使用GAI的原本意義。


因此,為了解決幻覺輸出內容的問題,嘗試在提示詞工程這一塊下更多的功夫,希望能找到解決的方案。


最後,在結合提示詞工程和方法論工具的組合拳反覆大量使用下,根據ChatGPT 打造了一組複雜的提示使用鏈,產生具有品質的輸出內容。


在這套組合拳使用下,打造了一組複雜的提示鏈模組,整個提示鏈由超過20組系統化提問方式所組成!


有不少客戶和同業與合作夥伴想要合作藉此學習,於是有了想透過要開課分享這個部分,但由於太過複雜,整理了50多頁教材後決定先暫緩,這套方法目前僅供服務客戶的專案使用。


暫緩的原因有幾個:


1. 需要熟悉提問模式:這個是最基本的功夫,單一提問模式的類型非常多種,需要熟悉不同的輸出內容架構,選擇適合的提問模式類型。


2. 需要熟悉提示詞工程:這一塊屬於提問模式的進階,透過熟悉提示工程的研究結果,應用到對應的內容模組上,提高細節程度。目前常見的提示詞工程有14種之多,個人目前採用後,發現有幾個可能對提升內容品質比較有幫助,思維鏈(Chain-of-Thought)、生成知識提示(Generated Knowledge Prompting)、思想樹(Tree-of-Thoughts)、檢索增強生成(Retrieval Augmented Generation, RAG)等等多種提示工程技巧組合運用。


3. 需要熟悉方法論工具:所謂的熟悉,如字面所提,要能清楚自己所使用的方法論工具的應用範圍和應用限制,如此才能有效結合前面提示工程技巧,降低LLM出現(幻覺)而影響輸出內容品質。


4. 需要了解目標內容結構:這也是最重要的一點,能夠清楚地知道需要GAI產生的內容結構,並且根據目標內容結構拆解成模組,這個概念類似專案管理中的(Work Breakdown structure, WBS),將目標內容結構化,將結構化的目標內容拆解成提示工程模組,並且在滿足內容品質的前提下,順利根據結構化的模組,產生對應的內容輸出。


5. 需要專業領域知識: 這一塊是人為把關的部分,也是最重要的部分。畢竟,在專業領域,有些經驗技能的獨特知識與抽象概念,GAI目前還難以達成,最後輸出內容,目前仍舊需要透過專家把關後,才能提交給客戶。


從上述這些原因來看,應該就可以了解到這套組合拳,在實際上使用並不容易,因此目前決定還是以專案服務方式為主,以更有效率地加速創新。


GAI工具的出現,正在開始改變了知識經濟的產業結構,甚至,這樣的變化也會促進更多智慧財產經濟的商業模式產生。


心得後記:


GAI-aid 知識經濟服務,正在悄悄改變市場生態結構!
從事知識經濟相關行業,特別是和智慧財產領域相關的我,應該最能體會這樣的效果,在嘗試結合多種方法論工具後,發現可以大幅提升收集資訊的速度以及資訊整理的效率,提供更有價值的結構化內容,例如提供大量技術挖掘和技術創新的資訊內容,當然在提供給客戶前,還是需要領域專家針對輸出內容品質把關。
企業不像學界,由於生存條件不同,企業在面對新產品開發或新技術開發前,往往會謹慎評估,將資源運用在能為企業創造價值的地方,因此企業對新技術開發或新產品開發,特別是價值相對模糊的灰色地帶,在資源與市場競爭的限制下,就會比較保守,反而會傾向收購現有技術或新創,降低資源管理的風險。
目前GAI的出現,可以說是大大地幫企業在新產品技術開發的模糊前端(FUZZY FRONT END)這一塊,打開一扇大門,讓企業可以用少量的資源短期取得大量的評估結果,利於新產品開發與研發路線的資源決策!
目前就一些客戶合作實施的初步成果來看,至少在時間和成本這兩個因素上,讓客戶感到非常理想,想要擴大服務範圍。
接下來的問題將會落在如何更有效地將服務擴散,以及降低人(專家)把關的部分,減少人為參與避免降低知識經濟內容的生產效率,這時候就讓我想起了品質議題,這應該就和品質核檢設計的重要工具,控制計畫表(control plan)有關了。
接下來發展的重點在於如何打造符合知識經濟的控制計畫表。
過去在半導體封裝為新製程打造高良率的控制計畫表(contorl plan)的工作技能,沒想到沉寂將近20年後,竟然可以重新復活!
技術趨勢浪潮不斷地推進下,有用的方法和工具始終可以繼續生存!


#GAI

#Promptingengineering

#ip_eco_system

#qualitycontrol

#structurualcontent


*1:Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of AI on Knowledge Worker Productivity and Quality https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4573321


2023©汪周禮@智合創新


ChatGPT 遇上TRIZ_ 專利分析與技術挖掘_ 感謝支持已全部額滿(11月課程)


CHATGPT輔助創新工作坊 _ 熱烈報名中(12月課程)



服務專案項目:

創新式技術挖掘

創新式專利技術迴避

創新式專利布局


歡迎洽詢service@iiiinnovation.com (3i+innnovation)


2023年8月16日 星期三

New Prompt Engineering Methodology - CHATGPT prompt engineering, TRIZ & 專利迴避設計 心得

 

 


New Prompt Engineering Methodology - CHATGPT prompt engineering, TRIZ & 專利迴避設計


2023.08.16
2023©
汪周禮@智合創新

 前言:

生成式AI (Generative AI)工具越來越多,GAI工具迄今已經超過4600多種,人類學習的速度,在AI的影響下,差距越來越大。

 

為了解決這個問題,筆者開發出將創新工具結合GAI工具的方法,特別是應用在專利技術分析與專利迴避設計的領域中,經過筆者真實案例分析比對與驗證,發現可以大幅提升專利迴避設計效率!

 

根據筆者熟悉TRIZ創新工具的使用方法,結合GAI工具的提示工程(Prompt Engineering)多種技巧後,找到了可以讓初學者或使用者,可以根據特定的提示詞設計(prompt design)模組,就可以達到預期使用創新工具的效果,這個效果甚至於不輸專家獨自處理的結果,而且時間更短更有效率!

 

也就是不用學會創新方法論,僅使用提示詞設計描述系統模組,就可以讓GAI了解如何運用創新工具,讓使用者只要根據不同的技術或問題,結合不同創新工具的提示詞設計描述系統模組,就可以更有效率的使用ChatGPT,甚至避免機密資料外洩的問題(運用語意分析技術,開發去識別話的提示詞組模型)

 

 動機:

1. 從2022.11.30當天就發現CHATGPT的工具,直到今年三月才決心付費使用,主要是感覺CHATGPT應該可以整合方法論使用

2. 昨天終於發現了可以有效提高ChatGPT 的使用價值的方法,想要在此分享一些心得給有興趣的朋友們參考。

 

本文開始:

大約在去年底(2022Dec.)到今年初(2023Jan.)開始,國外已經有很多擅長方法論的專家顧問嘗試開始將ChatGPT整合方法論來使用,在發現這一點之後,也啟發了筆者新想要把擅長的創新方法應用服務,透過ChatGPT實現,讓筆者的客戶們,可以不用學習龐大且複雜的創新方法論知識體系,也可以根據筆者提供的提示詞組設計,達到幾乎與創新專家相同的效果!如果想要進一步精進,再找時間學習創新方法論就可以了。

 

目前已經將ChatGPT根據提示詞工程(prompt engineering)技巧 結合TRIZ創新方法論、專利資訊分析流程以及專利迴避設計方法論完成應用整合。目前常見的提示詞工程技巧已多達14種。因此如何根據提示詞工程的應用特色,結合方法論,讓CHATGPT創造更高價值的內容就成為一個不小的挑戰!

  

經過深入鑽研以後,主要步驟如下:

1. 初步將方法論(*)ChatGPT整合,

2. 將整合後的方式應用於專利分析,

3. 將整合後的方式應用在專利迴避設計流程,

4. TRIZ工具應用在專利迴避設計流程

問問題雖然重要,但是問問題的順序更重要!

 

首先,一開始嘗試將提示詞工程技巧結合單一方法論,在運用在ChatGPT(GPT 4.0)的過程中,也就是針對CHATGPT回應內容進行評估後發現,詢問問題的方式與問題組合很重要,特別是希望能使用最少的問題得到最有價值的答案內容情況下,怎麼組合,就需要運用系統工程定義結合功能語意技巧整合,測試過後發現效果突出,結果非常讓人滿意。

 

接下來,開始嘗試整合兩種以上的方法論過程中,在這過程中,發現了我認為是ChatGPT一個重要的加值運用方式,就是,除了要會問問題,建構可以得到具有高價值內容的問題組合之外,在應用複合提示詞技巧下,如何建構問問題的順序,也就是問對問題很重要,更進一步地發現,有系統且依照順序的問正確問題所得到的結果,在ChatGPT的作用下,經過分析比對發現其內容價值會比問對問題還要大。

 

 

為什麼?

 

我自己思考以後發現一些特色。

 

1.     整理思路:根據方法論,可以透過問問題的順序,有效理清整體思路。藉由嘗試將ChatGPT與方法論整合的過程中,我們可以讓ChatGPT學會方法論,然後再根據方法論的實施流程,循序漸進地依照方法論實施流程逐步詢問問題,即便問題可能沒有很精準或是問得很籠統,但這時候ChatGPT的回覆內容,往往會出乎意料之外,有系統的提供不少新的思考方向給使用者參考。

 

2.     增加價值:單一方法論整合提示詞工程技巧有令人滿意的成果後,在進一步嘗試將兩種以上的方法論結合ChatGPT使用,得到的內容會和目標主題價值呈正相關。簡言之,實務上,要解決有價值的問題通常很困難,這種情況下,單一方法論往往會遇到阻礙,這時候就會需要進一步結合不同的方法論來找到突破的機會,因此組合多種方法論使用,在實務領域很常見。這次混合不同方法論結合提示工程技巧的特色下,完成了這個挑戰。

 

3.     提升效率:這次實務上根據擅長的領域測試與應用,包括技術問題模型與問題深度挖掘、解決問題方案概念發想、專利分析、與專利迴避設計,過去要完成這當中每一個項目都需要幾天到幾個月之久,然而完成多種方法論整合之後,短短三天就可以完成上面所有的項目,甚至產生更多方案組合,這是過去根本難以想像的結果!

 

心得:

ChatGPT的價值未來在不同方法論的加持下,甚至混合多種方法論的情況下,快速創造更多更有價值的內容!複合方法論結合提示詞組工程設計將會為ChatGPT創造另一個價值大爆發的時代!

PS: : 由於商業機密的關係,無法詳細呈現具體內容,分享本文的目的,主要是指出結合方法論與提示詞工程,可以開發出更多的ChatGPT 商用價值。


方法論(*)這裡指的是一種根據預期得到的內容,設計出題問流程模組,包括

1.    定型化的問題提問順序,可參考用”CHATGPT學習─每天一篇arxiv “系列文章,具體描述/應用影響與限制、未來發展趨勢、價值、其他相關研究等,甚至可以加入功能、屬性、參數或是其他方法論,例如設計思考、KT問題分析法等。

2.     專利技術問題分析流程:背景問題分析描述、發明內容問題挖掘、具體實施方案的功能應用貢獻效果等給予問題更明確的定義。(系統工程概念: INPUT(需求問題) è PROCESS è OUTPUT(功能應用貢獻效果)

#ChatGPT
#AI
#GAI
#TRIZ
#PatentAnalysis
#PatentCircumvention
#Methodology


生成式AI 培訓、輔導或專案相關服務歡迎聯絡智合創新

service@iiiinnovation.com (i i i + i nnovation)

AI新創商業模式研究- 拆解 MEDVI 18個月 如何育成獨角獸

AI新創商業模式研究- 拆解 MEDVI 18個月 如何育成獨角獸 --- 緣起: 近日從一人獨角獸公司medvi 的案例,我們可以看到未來AI Agent所開啟的商業模式將會是濃縮整個產業鏈形成價值鏈體系,透過這個價值鏈體系根據創業者的特質,也就是掌握價值鏈體系中一到多個流程價...