GPU與CUDA加速運算的原理與實作
本課程兼顧理論及實作，以引導CUDA 學員能夠在短時間內快速進入CUDA ...
提供機構：
適合對象：
|
GPU與CUDA加速運算的原理與實作 上課地址：工研院竹東中興院區21館 200-1教室 (新竹縣竹東鎮中興路四段 195號 21館 200-1訓練教室) 實際上課地點，請依上課通知為準! 時數：14 起迄日期：2020-09-01~2020-09-02 聯絡資訊：黃小姐/03-5732034 報名截止日：2020-09-01 課程類別：人才培訓(課程) 活動代碼：2320060024 |
| 課程介紹 CUDA（Compute Unified Device Architecture）是NVIDIA所推出的平行運算架構，透過駕馭繪圖處理器(GPU)的極致威力，帶給運算效能大幅提升。運算已從CPU所執行的「中央處理」發展成由CPU和GPU執行的「共同處理」。CUDA架構已內建於其GeForce、ION、Quadro和Tesla繪圖處理器中，為應用程式開發人員提供重要的安裝基礎。隨著人工智能的發展，如今的GPU已經不再局限於3D圖形處理了，透過CPU+GPU及CUDA平行運算架構，藉以加速大規模並行科學運算、深度學習、分析、預測等，並已為汽車、手機、平板電腦、飛行器及機器人等裝置貢獻強大的效能威力。
CUDA是一種由NVIDIA提出的並由其製造的圖形處理單元（GPUs）實現的一種平行計算架構及程式設計模型。CUDA給程式開發人員提供直接存取CUDA GPUs中的虛擬指令集和平行計算元件的記憶體。軟體發展者可以通過CUDA加速庫，編譯器指令以及符合工業標準的程式設計語言（如C, C++和Fortran, Python）擴展對CUDA平台進行操作。
本課程兼顧理論及實作，以引導 CUDA 學員能夠在短時間內快速進入 CUDA 的平行世界。首先從平行計算、GPU的介紹切入，再帶到CUDA平行計算架構，與深度學習的應用，其次，會透過C、Python程式語言裡最耗時的大規模並行運算的迴圈及陣列等程式來對映解說CUDA之實務運作。
|
| 課程特色/目標 課程目標
本課程係針對初階學員提供深度學習基本原理相關課程。透過國際級認證講師及堅強師資陣容，結合趨勢、理論與實作，帶領學員由淺入深，逐步引導學員從觀念、架構、程式的理解進而可以最快的速度上手 CUDA 平行程式的設計。只要是具備有C/C++ 程式語言的設計基礎者均可參加此課程，利用兩天的時間快速學會 CUDA 平行處理程式的設計技巧及目前最新平行理念，一手掌握打造人工智慧 (AI) 的關鍵技術。
本課程分為兩天的課程，第一天為GPU與平行加速；泛化平行計算--從GPU到CUDA，主要為講授平行計算與GPU/CUDA 基礎理論，包括GPU應用於一般化平行運算、程式語言的迴圈及陣列等設計考量；第二天為CUDA C/C++ 平行加速運算實作，將理論運用於實作上。CUDA 是 NVIDIA 的平行運算架構，可運用 GPU 的強大處理能力，大幅增加運算效能以及在將程式平行後如何達到最佳化。最後從幾個常見的CUDA加速案例強化運用GPU加速的觀念做為之後用在自身開發專案加速的參考。
課程特色
1. 簡易：用Colab提供的免費GPU資源即可輕鬆入門CUDA程式設計。
2. 實用：快速了解GPU基本原理，掌握實際應用的要領，能靈活運用在自身參與的專案計劃中。
3. 深入：從基礎的科學計算(Vector Add) 到被廣為應用的深度神經網路(Deep Learning)做為個案研究，透視深度學習與GPU加速的底層關係。
課程效益
�� 為能使學員輕鬆地瞭解 CUDA 的理念，本課程除了由淺入深地講述平行化加速計算概論外，同時將展示案例應用與優化處理方法與技巧，透過逐步引導使學員更能體會 CUDA平行程式的設計之奧妙。
�� 掌握GPU繪圖處理器運用於平行計算之議題，有助於自身的運算加速工作及應用開發。
|
| 課程對象 對平行計算、GPU、CUDA、人工智慧等程式設計感興趣者 平行計算軟體開發工程師 電子/電機/資訊相關工程師 大數據相關研發人員或資料科學家、統計/數值分析研究人員 從事平行計算、人工智慧等研發、應用之工程師 先備知識: 基礎程式語言或基礎科學計算技能
|
| 講師簡介 鍾幸芸 / 工研院工程師 ( NVIDIA DLI認證講師)
【學歷】
�� 國立交通大學資訊工程研究所博士班在學
�� 國立交通大學生物資訊研究所碩士
【經歷】
�� 工研院機械所，鑽研於智慧型自動光學檢測系統研發等
�� NVIDIA 深度學習機構(DLI) 認證講師: Computer Vision, CUDA
�� 擔任計算機概論、人工智慧、數位遊戲學習等課程助教
【專業領域】
�� 機器學習、影像處理、機器視覺瑕疵檢測、平行運算
黃榆棊博士 / 工研院工程師
【學歷】
�� 國立清華大學生物資訊與結構生物博士
�� 國立中正大學超大型積體電路碩士
【經歷】
�� 第三代神經網路(Spiking Neural Network)研發
�� 果蠅大腦網路模擬器開發者
�� 指紋晶片,高速量測晶片研發
�� 工業控制,電能轉換系統研發
【專業領域】
�� 平行運算、數位電路設計、工業控制、生物神經網路研發
|
| 課程大綱 第一天：GPU與平行加速運算 1.GPU 運算原理及 CUDA 平行運算基本知識 2.GPU環境使用簡介 3.CUDA基本程式編寫 第二天：CUDA C/C++ 平行加速運算實作 1.效能評估及最佳化 2.由Vector Add 至 Neural Network - 常見的GPU加速運算個案研究 3.實用的CUDA 相關 Libraries 介紹 詳細請下載附件課程DM |
| 價格 課程費用 (含稅、講義、午餐、點心):
每人$9,800元。開課前三週報名（早鳥價）：每人$9,300元。
團報(同公司二人以上)，每人$9,300元，團報早鳥價: 每人$8,800元。
|
| 常見問題 本課程具實作性質，請學員自帶筆電，基本上，實作係經由瀏覽器存取Google 雲端GPU伺服器，故筆電只要安裝一般的瀏覽器即可運行，如Chrome。 |
附件 GPU與CUDA加速運算的原理與實作-20200901-1.pdf |
