【課程簡介】

課時：200h

上課形式：線上

【適合人群】

軟件工程師

懂至少一門編程語言，通過學習，在實際項目中應用大模型技術提升產品的智能化水平。

產品經理

結合 A 工具，為業務賦能。

人工智能愛好者

對AI有強烈的興趣，想提升對A1的認知，用輔助提升幫貢效率。

算法工程師

了解機器學習/深度學習基本概念的在職算法工程師，有助于更深入地理解大模型的原理、應用和開發技術。

創意工作者

通過學習AI技術，他們可以將自己的創意與AI技術相結合，創作出更具創新性和藝術性的作品。

【培訓目標】

【課程階段】

核心內容：

從網站里提取早期NLP發展知識，著重講解傳統NLP 算法在文本處理中的應用，如詞法分析、句法分析等。介紹機器學習、深度學習基礎概念，以及深度學習框架PyTorch和TensorFlow 的基礎使用，讓學員初步掌握工具操作。

課程收益：

了解 AI技術發展源頭，搭建起基礎技術認知，能夠運用基礎工具和算法開展簡單文本處理任務，為深入學習大模型做好鋪墊。

核心內容：

圍繞網站中的 Transformer 架構、GPT 系列、BERT 模型展開深入剖析，包括模型結構、訓練機制等。學習0penAl的發展規劃，探究模型發展背后的戰略布局。講解開源社區(如 Hugging Face)在模型開發和應用中的角色，開展基于開源資源的模型搭建與微調實踐。

課程收益：

透徹理解主流模型工作原理，把握模型發展趨勢學會利用開源資源高效開發模型，提升模型開發能力，融入模型開發的開源生態。

核心內容：

大模型開發實戰內容，開展基于ChatGPT的智能翻譯助手開發，以及大模型插件開發等實踐。在自然語言處理和計算機視覺領域，結合實際場景進行應用開發，如智能客服系統、圖像識別應用等，強調多模態數據融合應用。

課程收益：

積累豐富的大模型應用開發經驗，掌握實際項目開發流程，能夠開發出創新性的大模型應用，滿足企業對大模型應用的實際需求。

核心內容：

學習大模型核心硬件選型，了解硬件對模型訓練和應用的影響。深入研究從0到1訓練私有大模型的方法，如DPO、PPO訓練方法，分析Auto-GPT等前沿模型。探討大模型倫理安全、新興技術結合應用。

課程收益：

具備從硬件到軟件全方位開發大模型的能力，掌握訓練私有大模型技術，緊跟前沿技術動態，增強在前沿大模型技術領域的競爭力。

【課程大綱】

早期 NLP 與機器學習基礎：

早期NLP 技術，如規則引擎用于詞性識別、詞干提取，有限狀態自動機進行文本分詞和模式匹配，依存語法和短語結構語法分析句子結構與文本分類。

機器學習各類算法，包括監督學習(線性回歸、邏輯回歸、決策樹)、無監督學習(K-Means 聚)、半監督學習的原理與應用場景。

深度學習基礎與框架入門：

深度學習神經網絡結構，如前饋神經網絡、激活函數作用，反向傳播算法計算過程。

PyTorch 和 TensorFlow 深度學習框架，包括張量操作、計算圖原理，搭建手寫數字識別CNN模型，模型訓練參數設置、優化器使用及評估指標分析。

主流模型架構剖析：

Transformer架構，涵蓋多頭注意力機制計算、位置編碼方式，編碼器、解碼器結構及應用原理。

GPT 系列架構演進、自監督學習應用，BERT 預訓練任務及下游任務微調方法。

開源生態與工具應用：

OpenAl發展歷程、技術商業戰略，了解行業發展趨勢。

Hugging Face模型庫與Transformers庫使用，基于開源工具進行文本分類模型微調與部署。

大模型應用開發實戰：

ChatGPT AP| 申請與 Python 調用，開發智能翻譯助手并優化提示工程。

大模型插件開發，包括插件概念、開發流程，實現知識圖譜查詢插件，進行個性化推薦插件開發與用戶數據分析。

多模態應用開發，如文本與圖像、語音融合方法，開發多模態智能客服系統并優化性能。

私有模型訓練與硬件選型

GPU、TPU 性能特點與適用場景，硬件參數對模型訓練的影響及配置建議。

DPO、PPO 訓練方法原理與流程，數據收集、預處理及模型訓練全流程，模型初始化與訓練效果優化。

前沿技術探索：

Auto-GPT 架構與自主決策機制，分析前沿模型發展。

量子計算在大模型訓練中的應用，探討新興技術融合。

大模型倫理安全問題與解決方法，提升風險意識。

行業案例與知識整合：

金融、醫療、教育領域大模型應用案例分析，進行需求分析、技術選型、部署及優化經驗總結。

課程重點知識梳理，小組經驗分享，整合知識體系。

行業專家分享新發展趨勢與人才需求，把握行業動態。

職業規劃與銜接：

個性化職業發展規劃制定，明確職業方向。

簡歷撰寫、面試技巧培訓與就業推薦，做好就業準備。

【環境展示】

環境展示

環境介紹

【機構簡介】

清徠智能專注于人工智能技術應用與人才培養，核心團隊來自清華大學北京大學等高等院校，具備深厚的AI技術背景與產業經驗。

清徠智能是中國軟件行業協會認證的人工智能開發工程師認證機構，致力于鏈接企業、學員、培訓機構，提供培訓、認證、資源對接一體化服務。