生成式AI與大型語言模型應用實作-公開課程-亞太教育訓練網

生成式AI與大型語言模型應用實作

本課程以實際操作補強學員在生成式AI與大語言模型領域的能力，掌握以下知識....

　　透過結合理論與實際操作應用的方式，帶領學員深入了解LLM的應用場景、優勢、以及未來的發展趨勢，以更迅速地應對產業需求。特別適合已具有相關基礎的專業人士，包括資料分析師、軟體工程師和科學家…等。您可能已經對機器學習有一些基本了解，可通過更深層次的學習，提升在生成式AI領域的實戰能力。

提供機構：

工業技術研究院(工研院產業學院)

加入收藏

轉寄

友善
列印

報名洽詢
機構資訊
授課講師
報名資訊
課程介紹

課程總覽
智慧資通訊
課程代號：2324110090
生成式AI與大型語言模型應用實作
本課程以實作補強學員在生成式AI與大語言模型領域的實務技能，掌握以下知識與技能：
1、理解大型語言模型的原理與應用：深入探討大型語言模型（LLM）的基本原理和演算法，並學習其在自動化和自然語言處理中的應用，進一步提升工作效率。
2、培養AI模型實現與整合能力：學習如何利用LangChain框架設計檢索增強生成模型（RAG），並整合至LineBot和其他聊天機器人，實現動態問答功能。
3、掌握資料處理與模型微調技術：學習如何微調開源LLM模型，設計資料處理流程，並使用LlamaIndex建立高效的向量索引庫，以提升資料檢索效率。

課程型態/ 實體課程
上課地址/
時數/ 21 小時
起迄日期/ 2025/02/07 ~ 2025/02/21
聯絡資訊/ 陳俐潔 02-23701111#310

報名截止日期：2025/02/05

課程介紹

掌握大型語言模型技術，解鎖AI應用無限可能！

生成式人工智慧（Generative AI）與大型語言模型（LLM）已成為當今科技領域中引人矚目的焦點。本課程從技術原理到實際應用，帶領學員深入學習文本生成、自動化流程、問答系統及聊天機器人等開發技能，透過實作練習全面掌握這些核心技術。

課程使用開源工具進行模型調用與測試，並教授檢索增強生成模型（RAG）的設計與部署方法。透過實際案例演練，學員將在真實場景中運用所學，解決實務問題，快速應對產業需求。本課程特別適合具備相關基礎的專業人士，包括資料分析師、軟體工程師及資料科學家等。無論您已有機器學習基礎或剛踏入生成式AI領域，都可透過本課程深化您的實戰能力，進一步拓展技術應用的可能性。

課程目標/特色

本課程以實作補強學員在生成式AI與大語言模型領域的實務技能，掌握以下知識與技能：

1、理解大型語言模型的原理與應用：深入探討大型語言模型（LLM）的基本原理和演算法，並學習其在自動化和自然語言處理中的應用，進一步提升工作效率。

2、培養AI模型實現與整合能力：學習如何利用LangChain框架設計檢索增強生成模型（RAG），並整合至LineBot和其他聊天機器人，實現動態問答功能。

3、掌握資料處理與模型微調技術：學習如何微調開源LLM模型，設計資料處理流程，並使用LlamaIndex建立高效的向量索引庫，以提升資料檢索效率。

培訓證書

總出席率達80%，將由工業技術研究院產業學院核發培訓證書。

課程時間

114年2月7日、2月14日、2月21日(隔週五)，09:00~17:00，3天共21小時。

課程大綱

日期	主題	大綱
2/7 (五)	大型語言模型原理與應用實作	原理與發展	大型語言模型（如GPT、Llama）的理論基礎、演算法原理及其發展歷程。
		實作應用	在Python環境中部署與操作LLM，並使用如Hugging Face等工具進行模型調用與測試。
		案例演練：自動化文本生成、問答系統、文本分類…等
	LangChain RAG 與LineBot 整合應用	LangChain框架介紹	理解LangChain的角色及其在RAG中的應用，學習如何整合外部資料庫以提升訊息檢索效果。
		RAG整合實作	設計檢索增強生成模型（RAG），並整合至LineBot，實現動態問答功能。
		案例演練：LangChain與LineBot的整合與測試
2/14 (五)	LlamaIndex RAG與Chatbots 整合應用	LlamaIndex框架介紹	介紹LlamaIndex在RAG中的應用場景及特色，有效利用LlamaIndex強化訊息檢索效率。
		RAG整合實作	LlamaIndex的RAG設置及與Chatbots的整合。
		案例演練：LlamaIndex的基本配置及與Chatbots整合應用測試
2/21 (五)	掌握從模型調用、資料檢索到對話機器人整合的全流程操作	整合架構解析	• 了解LangChain和LlamaIndex的整合流程，利用這兩個框架實現資料檢索增強生成（RAG）。 • 探討LLM-RAG應用在對話系統中的實際效果及優勢。
		資料處理與索引	• 使用LlamaIndex將資料轉換為向量嵌入，並建立向量索引庫以供高效檢索。 • 設計LangChain的檢索模組，實現對LlamaIndex的檢索呼叫。
		Chatbots整合與測試	• 開發Chatbots介面，設置接收使用者輸入、呼叫LLM進行回答並回應用戶的流程。 • 測試Chatbots與LangChain和LlamaIndex的整合，確保問答的準確性和流暢度。