生成式預訓練模型(Generative Pre-Training, GPT)是基於變形金剛(transformer)的大語言模型(Large Language Models, LLM)，它包含一千七百五十億個模型參數，透過OpenAI公司開發的應用程式介面(Applications Programming Interface, API)，任何人均可存取這個大語言模型，實現模型作為服務(model-as-a-service)的人工智慧民主化。

　　變形金剛模型改變了自然語言處理(Natural Language Processing, NLP)與理解(Understanding, NLU)的樣貌，它開啟了人工智慧的新時代，成為語言模型、聊天機器人、個人助理、問題回答、文本分類、文本摘要、語音轉文字、情感分析、機器翻譯、命名實體辨識等的支柱。

　　本課程「自然語言處理ChatGPT大語言模型原理與實作」從卷積與遞歸神經網路基礎開講，細說傳統自然語言模型的發展瓶頸與沿革，靜態與動態詞嵌入重要概念，漸次引入模仿人類閱讀學習記憶的並行注意力機制，最後說明摒除人工標記束縛的基於變形金剛的雙向編碼器表示技術(Bi-directional Encoder Representations from Transformers, BERT)，幫助學員理解ChatGPT背後大語言模型的原理，並運用Python語言實作NLP/NLU任務，進一步觸發學員思考工作場域中的新應用。

課程提供【數位同步學習】報名方案，歡迎學員報名參加。

1. 熟悉自然語言處理與理解等模型，奠定學習當代大語言模型原理的基礎。
2. 運用Python套件TensorFlow、PyTorch實作NLP/NLU任務。

　　從傳統模型瓶頸走向最新的技術突破，幫助學員瞭解大語言模型背後的重要技術細節，活用自然語言資料分析建模技術，並抓住未來發展趨勢。

1. 建議學員具備基本的程式設計概念，例如C、Python、R、Java…等；學員不須非常熟悉撰寫電腦程式語言亦可，課堂中會提供案例程式碼，讓學員實際練習，學員不用從零開始寫程式，只要會操作、運用，從中學習到AI大數據的概念和應用方法，適合有志跨入AI人工智慧與大數據分析應用領域的人。
2. 電機／電子／機械／資訊／生醫／工工／化工／土木／環工等相關工程師、資料分析師／科學家、程式設計師、醫師、教育人員、統計人員、公務機關人員。

備註：大綱與各單元時間均為預估規劃，講師有權視參訓學員狀況進行調整

1. 舉辦地點：線上直播會議室(使用Cisco Webex Meetings，將於課前提供會議室資訊)
2. 舉辦日期：114年7月3日（四）、7月4日（五），09:30am~16:30pm，共計12小時
3. 報名方式：線上報名，或請以正楷填妥報名表傳真至02-2381-1000
4. 課程洽詢：02-2370-1111 分機303 陳小姐

• 現任：國立臺北商業大學資訊與決策科學研究所暨智能控制與決策研究室教授、兼校務永續發展中心主任、兼推廣教育部主任、CSQ大數據品質應用委員會主任委員
  
• 經歷：明志科技大學機械工程系特聘教授兼人工智慧暨資料科學研究中心主任(借調)、美國辛辛那提大學工程與應用科學學院訪問教授、新加坡國立大學解析與作業學系訪問教授、西交利物浦大學計算機科學與軟件工程學系暨大數據解析研究院訪問教授、南京理工大學管理科學與工程學系訪問教授、中華R軟體學會創會理事長、臺灣資料科學與商業應用協會創會理事長、世新大學資訊管理學系副教授、中華大學企業管理學系副教授
  
• 專長：機率統計學習、進化式多目標最佳化、賽局模型應用、時間序列分析與控制

1. ATM 轉帳（線上報名）：繳費方式選擇「ATM 轉帳」者，系統將給您一組轉帳帳號「銀行代號、轉帳帳號」，但此帳號只提供本課程轉帳使用，各別學員轉帳請使用不同轉帳帳號！！轉帳後，寫上您的「公司全銜、課程名稱、姓名、聯絡電話」與「收據」傳真至 02-2381-1000。
   
2. 信用卡（線上報名）：繳費方式選「信用卡」，直到顯示「您已完成報名手續」為止，才確實完成繳費。
   
3. 銀行匯款(公司逕行電匯付款)：土地銀行 工研院分行，帳號 156-005-00002-5 （土銀代碼：005）。戶名「財團法人工業技術研究院」，請填具「報名表」與「收據」回傳真至 02-2381-1000 。
   
4. 即期支票或郵政匯票：抬頭「財團法人工業技術研究院」，郵寄至：106 台北市大安區復興南路二段 237 號 4 樓 收。
5. 計畫代號扣款(工研院同仁)：請從產業學院學習網直接登入工研人報名；俾利計畫代號扣款。
6. 本課程需上機實作，請自備筆電上課。