生成式AI大型語言模式(LLM)開發與部署實務

本課程將帶您深入淺出地了解生成式AI的基本原理,並通過實作掌握各種LLM應用技術

適合對象:

課程總覽-智慧資通訊
課程代號:2324070050  
生成式AI大型語言模式(LLM)開發與部署實務
本課程將帶您深入淺出地了解生成式AI的基本原理,並通過實作掌握各種LLM應用技術:
1.聊天機器人開發:打造專屬的AI秘書
2.提示工程(Prompt Engineering):提升AI生成內容的品質
3.專屬對話流程設計(LangChain):自定義您的服務流程與互動體驗
4.資料檢索增強生成(RAG):讓LLM分析並檢索您的私有文件
5.搜尋引擎整合:讓LLM連上網際網路搜尋最新資訊 6.微調開源LLM模型(Fine-Tuning):客制專屬LLM來解決特定問題

課程型態/ 實體課程
上課地址/ 工研院產業學院 產業人才訓練一部(台北),實際地點依上課通知為準!!!!
時  數/ 28.5 小時
起迄日期/ 2025/01/14 ~ 2025/01/22
聯絡資訊/ 黃靖棻   02-23701111#304

報名截止日期:2025/1/12

--------------------------------------------

課程緣起

 

生成式AI大型語言模型(LLM)已成為現代人工智慧領域中的核心技術,應用範圍涵蓋自然語言處理、對話系統、自動摘要、機器翻譯等多個方面。本課程旨在培養學員掌握LLM的開發、部屬及應用技巧,從基礎理論到實際操作,全面提升參與者的專業技能和實踐能力。

~本課程歡迎企業包班,請來電洽詢 課程承辦人 黃小姐02-23701111#306 ~

 

課程目標

 

本課程將帶您深入淺出地了解生成式AI的基本原理,並通過實作掌握各種LLM應用技術:

🔹 聊天機器人開發:打造專屬的AI秘書
🔹 提示工程(Prompt Engineering):提升AI生成內容的品質
🔹 專屬對話流程設計(LangChain):自定義您的服務流程與互動體驗
🔹 資料檢索增強生成(RAG):讓LLM分析並檢索您的私有文件
🔹 搜尋引擎整合:讓LLM連上網際網路搜尋最新資訊
🔹 微調開源LLM模型(Fine-Tuning):客制專屬LLM來解決特定問題

 

適合對象

 

在企業內部擔任資訊人員(IT)、AI軟體開發、AI模型運用、AI程式應用等工程師或研發人員等。具備基本程式概念者。

 

課程注意事項

 

請學員自備筆電。

 

課程日期

 

114年1/14、1/15、1/21、1/22,週二三白天9:00 ~12:00,13:00~17:00 ,共4天、計28小時。

雲端自學:0.5小時,開啟帳密起~90天。

 

上課地點

 

主辦單位:財團法人工業技術研究院 產業人才訓練一部(台北)

舉辦地點:工研院產業學院 產業人才訓練一部(台北),實際地點依上課通知為準!!

 

報名方式

 

線上報名:至工研院產業學院官網報名

課程洽詢:02-2370-1111 分機304或306黃小姐

 

課程大綱

 

單元

內容

大型語言模型(LLM)介紹

  • 深度學習、循環神經網路(RNN)與長短期記憶 (LSTM)
  • 把文字轉成向量 Word Embedding
  • 注意!注意! Attention & Transformer
  • 免費AI開發工具: Colab, Kaggle, Hugging Face
  • LLM之提示工程(Prompt Engineering)

LLM之應用程式開發

  • OpenAI常見的LLM應用程式
  • LLM之百家爭鳴: ChatGPT, Gemini, Claude, LLaMA, 台灣繁體模型TAIDE
  • 使用OpenAI Assistant開發專屬line聊天機器人
  • 替LLM裝上眼睛和耳朵: 生成照片和與聲音

設計專屬的對話流程(LangChain)

  • 提示模板(PromptTemplate)
  • 使用LangChain設計對話流程鍊
  • 記憶與儲存對話紀錄(Memory)
  • 替LLM裝上翅膀: 呼叫外部搜尋引擎和工具
  • 用LLM使用額外資料擴展新知識(Retrieval-Augmented Generation)
  • 追蹤流程鍊的資料傳遞過程(LangSmith)

安裝與部署專有LLM

  • 架設雲端伺服器與部署Discord聊天機器人
  • 辦公室文件查詢AI小秘書
  • YouTube影片懶人包機器人
  • 上市櫃公司財報AI分析師

微調專屬的LLM

  • 指令式微調(Instruction Fine-tuning)
  • 多任務式微調與漸進式學習(Multi-task Fine-tuning: Progressive Learning)
  • 高效參數微調與遷移式學習(Parameter Efficient Fine-tuning (PEFT): Transfer) LearningW

 課程執行單位保留調整課程內容、日程與講師之權利

 

雲端自學

 

單元

內容

講者

時數

可信任AI打造資安韌性環境

  • 可信任AI全球趨勢
  • 歐盟AI Act
  • AI的安全性議題

資通所

王邦傑經理

40min

 

課程費用與繳費

 

1.    本課程費用含課程、講義、餐點。

項目

課程費用

課程原價 (每人)

$26,000

14天前報名 優惠價(每人)

$23,400

14天前報名+3()以上揪團同行 優惠價(每人)

$22,100

2.    課程若未如期開班,費用將全額退還。

3.    繳費方式

  • ATM轉帳(線上報名):繳費方式選擇「ATM轉帳」者,系統將給您一組轉帳帳號「銀行代號、轉帳帳號」,但此帳號只提供本課程轉帳使用,各別學員轉帳請使用不同轉帳帳號!!
  • 信用卡(線上報名):繳費方式選「信用卡」,直到顯示「您已完成報名手續」為止,才確實完成繳費。
  • 銀行匯款(公司逕行電匯付款):土地銀行 工研院分行,帳號156-005-00002-5(土銀代碼:005)。戶名「財團法人工業技術研究院」,請回傳「帳號後五碼」與「收據」至finn@itri.org.tw黃小姐 收。
  • 計畫代號扣款(工研院同仁) :請從產業學院學習網直接登入工研人報名;俾利計畫代號扣款。

 

報名確認與取消

 

  1. 已完成報名與繳費之學員,課程主辦單位將於開課三天前以E-mail方式寄發上課通知函;若課程因故取消或延期,亦將以E-mail方式通知,如未收到任何通知,敬請來電確認。
  2. 已完成繳費之學員如欲取消報名,請於實際上課日前以書面通知業務承辦人,主辦單位將退還80% 課程費用。
  3. 學員於培訓期間如因個人因素無法繼續參與課程,將依課程退費規定辦理之:上課未逾總時數三分之一,欲辦理退費,退還所有上課費用之二分之一,上課逾總時數三分之一,則不退費。
  4. 本單位保留是否接受報名之權利。
  5. 如遇不可抗拒之因素,課程主辦單位保留修訂課程日期及取消課程的權利。



開課日:2025/01/14結束日:2025/01/22

時數:28.5 (小時) 時段:09:00 ~ 17:00

地點:台北 | 工研院產業學院 產業人才訓練一部(台北) | 實際地點依上課通知為準!!!! [看地圖]

簡介


產業學院緣起
  依據行政院「挑戰2008:國家發展重點計畫」下之「國際創新研發基地」與「產業高值化」兩計畫,首重產業科技人才的效能。

•911216經科字第09103373120號函:經濟部將本院籌設工研院產業學院之工作,列為因應產業結構轉型,提