【項目介紹】
我們用AI 賦能,為 200 多個行業客戶提供AI 解決方案,并順利實現了商業化,積累了豐富的經驗。AI技術快速發展,尤其是大模型的出現及火爆,導致了就業市場出現了相關人才的短缺,面對此類工作崗位人才的巨大缺口,我們運用自身6年的人工智能項目經驗,結合當下不斷迭代的新AI技術,研發出適合當前就業市場需求的AI大模型算法工程師課程,促使越來越多的有志之人投身于人工智能大發展的浪潮中。
【適合人群】
移動端開發,C++/Java有項目研發經驗,代碼能力強,學習后薪資漲幅較高。
計算機、人工智能、軟件工程、數學、電子信息等相關的專業,本科及碩士人群。
項目管理、產品經理、或者細分行業準備做智能化升級的負責人,希望提升自己的人士
其它行業人士,想轉行進入AI人工智能領域尋找機會的人士(IT相關職位優先)。
【項目優勢】
為學員配套練習,配置大模型訓練微調所需要的算力資源,實訓基本花巨資購買GPU卡和服務器,讓每一位同學都有至少一臺訓練設備;
線下學習通過實際項目實操,學員能夠直接面對真實場景中的問題,有助于理解理論知識在實際工作中的應用。這種實戰經驗對于學員的問題解決能力和模型微調技巧至關重要;
緊跟行業趨勢,讓學員所學技能不過時,提升其在職場的技術優勢,由資深大模型項目研發專家親自執導,為您帶來成體系的微調技術課程。在這里,您將直接受益于業界權威的專業知識和實戰經驗,深入掌握前沿的大模型微調策略。
我們的課程特別設計了一系列實操環節,確保學員不僅理論學習,更能親自動手實踐,深刻理解技術的來源與應用原理。通過這樣的深度體驗,學員將大幅提升技術的實際運用能力,增強自身競爭力。
【課程目的】
? 熟悉各類AI大語言模型和多模態大模型,能私有化部署;
? 熟練使用 LangChain等框架,對RAG,Agent有深入理解和思維鏈設計。;
? 負責相關產品的模型訓練和服務部署;
? 對主流的大模型(GPT、文心一言、百川、chatGLM、通義、LLaMA等)有較豐富的使用經驗和prompt微調經驗;
? 掌握大語言模型SFT/LoRA/RLHF等技術,提升特定任務的大模型能力;
? 熟練掌握主流深度學習框架pytorch,LLM訓練并行框架Deepspeed等多機多卡方案;
? 跟蹤大模型領域前沿技術,提出創新思路來推動算法升級和業務發展。
【就業方向】
【實戰項目演示】
運營商項目 電力智能巡檢
非接觸式智能健康檢測產品
中醫AI智能舌診、目診 CBCT根骨分離三維切割
脊椎智能測量分析 手腕和頸椎智能檢測骨齡
口腔正畸醫生SAAS工具平臺
軌道交通缺陷檢測系統
【課程內容】
第一階段:人工智能認知基礎
課程內容 |
課程大綱 |
人工智能大模型技術的過去、現在與未來 |
(1)人工智能的發展史(2)大模型的發展史(3)人工智能的基本原理 |
大模型實際應用案例介紹 |
(1)大模型企業應用案例(2)企業擁抱大模型的痛點與解決方案 |
體驗大模型 |
體驗大模型 |
第二階段:大模型開發環境基礎
課程內容 |
課程大綱 |
環境搭建與使用 |
(1)Linux命令基礎(2)Docker基礎(3)XShell操作(4)人工智能相關基礎庫介紹與安裝 |
開源大模型部署 |
(1)Ollama介紹與安裝(2)常見的開源大模型部署 |
第三階段:AI大模型應用開發平臺基礎
課程內容 |
課程大綱 |
AI大模型應用開發平臺基礎 |
(1)Dify平臺的介紹與安裝(2)Dify配置基礎大模型(3)Dify創建聊天機器人(4)Dify創建知識庫(5)Dify創建Agent(6)Dify創建工作流 |
第四階段:大模型研發基礎
課程內容 |
課程大綱 |
IDE環境搭建 |
(1)Vscode安裝與配置(2)Jupyter介紹 |
python編程復盤 |
(1)Python核心語法(2)Python文件操作(3)Python多進程與多線程 |
數據科學計算庫實戰 |
(1)Pandas實戰(2)Numpy實戰 |
人工智能開發框架基礎 |
(1)Pytorch基礎 |
大語言模型結構詳解 |
(1)注意力機制(2)Transformer網絡結構 |
第五階段:大模型微調基礎
課程內容 |
課程大綱 |
HuggingFace基礎 |
(1)Pipeline基礎(2)Transformers組件基礎(3)Tokenizer組件基礎(4)Datasets組件基礎(5)Evalaute組件基礎(6)Trainer組件基礎 |
顯存優化基礎 |
(1)內存、顯存基本結構與工作方式(2)模型顯存占有量計算(3)模型在顯存中的存儲優化 |
模型微調基礎 |
(1)大模型訓練流程(2)BitFit微調(3)Prompt-Tuning微調(4)P-Tuning微調(5)Prefix-Tuning微調(6)LORA微調(7)IA3微調(8)模型量化(9)QLora微調(10)對齊微調(RLHF\DPO)(11)實戰:微調llama3 |
模型推理優化基礎 |
(1)vLLM推理框架基礎(2)Llama.cpp基礎 |
多機多卡分布式訓練基礎 |
(1)并行基礎(2)Fairscale訓練基礎(3)Accelerator訓練基礎(4)Deepspeed訓練基礎 |
第六階段:大模型能力擴展
課程內容 |
課程大綱 |
Langchain基礎 |
(1)Langchain開發環境搭建(2)鏈與LCEL基礎(3)記憶模塊基礎(4)知識增強檢索基礎(RAG)(5)智能體代理基礎(AGENT) |
第七階段:項目實戰
課程內容 |
課程大綱 |
智能問答專家 |
使用自己微調的大模型,疊加自己的知識庫,開發一個專業問答專家。例如法律咨詢、醫療咨詢等。 |
報告生成能手 |
使用自己微調的大模型,疊加自己的知識庫與智能代理,開發一個報告撰寫能手。 |
數據智能治理專家 |
利用大模型從海量的、雜亂的文本數據中提取需要的信息,并結構化數據存儲。 |
全流程內容制造者 |
通過大模型Agent能力對網站進行的監視與內容獲取,然后自動的對內容進行分析、摘要、重寫,最后自動發布到指定平臺。 |
86%滿意度
上海交大教育集團IT研究院
綜合
環境 : 4.3師資 : 4.3教學 : 4.3