2026 年了想系統入門人工智能大部分人第一反應不是買書而是找一套能從頭跟到腳下來的視頻課程。李宏毅老師的機器學習課程應該是這個清單里被提到的頻率最高的名字之一。這門課最大的特點是不把數學當門檻也不把代碼當演示。它從機器學習的回歸、分類講起一路帶到深度學習、神經網絡、強化學習、計算機視覺、自然語言處理最后覆蓋大模型。也就是說標題里那七個人工智能核心知識點確實是一套課講完的。這篇文章不打算替你把視頻刷完而是按課程主線把這七個知識點拆開講清楚每一塊的學習重點、需要掌握的公式和概念、配套的動手實驗以及最容易卡住的地方。同時給出本地學習環境的搭建方式以及一套能復用的驗證思路。如果你剛好準備入門人工智能或者想把手頭零散的知識串成體系這篇可以收藏備用。1. 課程核心能力速覽先把這門課的整體規格放在前面方便你快速判斷。能力項說明課程形式視頻公開課中文授課為主配套講義和作業主講背景臺灣大學電機工程學系教授研究方向為機器學習與語音處理覆蓋知識點機器學習、深度學習、神經網絡、強化學習、計算機視覺、自然語言處理、大模型共七大模塊學習門檻需要 Python 基礎數學要求不高但線性代數和概率統計能提高理解上限編程環境Python PyTorch Jupyter NotebookCPU 即可完成大部分入門實驗硬件要求入門階段 CPU 足夠進階和大模型微調實驗建議準備獨立顯卡顯存越大越好適合人群剛入門 AI 的學生、轉行開發者、想系統補齊理論盲區的工程師不當用途不適合零編程基礎直接上來就學不適合想只看實戰不看理論的人速成從這里能直接判斷這門課不是“三天速成班”而是一條可以走完從基礎到大模型的完整路徑。后面七個模塊每一塊單獨拿出來都能撐起一門專業課但這門課的價值在于它把七塊串在一起而且每一塊都保留了足夠清楚的推導過程。2. 七個人工智能核心知識點整體拆解在正式開始前先把七大部分之間的關系畫清楚。模塊核心問題核心工具 / 概念和下一個模塊的關系機器學習如何讓程序從數據中學規律回歸、分類、梯度下降、偏差方差、正則化是深度學習的基礎語言深度學習如何用多層網絡擬合復雜函數反向傳播、激活函數、優化器、Dropout讓 MLP 真正能處理大尺度數據神經網絡算法如何設計更高效的網絡結構CNN、注意力機制、TransformerCNN 打底 CV注意力打底大模型強化學習如何在沒有標簽的情況下學決策獎勵信號、Q-Learning、策略梯度、PPO和深度學習結合后能處理連續狀態計算機視覺如何讓機器理解圖像圖像分類、目標檢測、分割、數據增強是 CNN 知識的直接應用出口自然語言處理如何讓機器理解文本詞向量、Seq2Seq、Attention、BERTTransformer 從這里走向大模型大模型如何把預訓練模型用到真實場景預訓練、微調、RLHF、提示工程、量化部署是前六個模塊匯合后的高階形態注意這個鏈條機器學習是底座深度學習是方法神經網絡是結構強化學習是另一條分支CV 和 NLP 是兩條應用主線大模型則是現有技術路線的綜合形態。這也是為什么很多人學完基礎之后會覺得整個 AI 知識體系很清晰因為這套課程的安排本身就把依賴關系理清了。3. 機器學習基礎回歸、分類與梯度下降機器學習這部分最核心的問題只有一個給定一堆數據如何讓程序自動找出輸入和輸出之間的關系。3.1 回歸與分類回歸任務的目標是預測連續數值常見的例子包括房價預測、PM2.5 預測、點擊率預估。分類任務則是預測離散標簽比如判斷一張圖片是貓還是狗、一封郵件是否為垃圾郵件。這兩個概念看似簡單但它們決定了后面所有模型的設計思路。模型的本質就是函數擬合定義一個帶參數的函數輸入樣本輸出預測結果然后根據預測和真實值的差距調整參數。3.2 梯度下降與學習率機器學習最重要的數學工具就是梯度下降。給定一個損失函數參數更新的基本方式是新參數 舊參數 - 學習率 × 梯度李宏毅課程在講這個部分時會特別強調學習率的影響學習率太大參數來回震蕩學習率太小收斂速度慢。實際工程里學習率調度策略往往比模型結構改動能帶來更直接的收益。這里建議自己動手做一次小實驗生成一組線性數據用梯度下降手動更新參數并畫損失下降曲線。把這件事做一遍對后續理解 Adam、SGD 這些優化器非常有幫助。3.3 偏差方差與正則化模型表現不好通常就兩類原因欠擬合和過擬合。欠擬合對應訓練誤差高意味著模型容量不夠。過擬合對應訓練誤差低但測試誤差高意味著模型把訓練數據的噪聲也記下來了。解決過擬合的常規手段包括增加數據量、降低模型復雜度、加正則化、早停、Dropout。這部分不需要背公式重要的是理解偏差和方差之間的權衡關系你為了降低模型對訓練數據的依賴會增加方差為了讓模型更平滑又會犧牲偏差。后面深度學習里所有調參決策本質上都在處理同一個權衡。4. 深度學習反向傳播與神經網絡的訓練深度學習部分是整門課的承上啟下段落。機器學習的套路還是靠人工設計特征深度學習把特征提取這個環節也交給模型自己完成。4.1 從感知機到多層網絡單個神經元只能擬合線性決策邊界這在實際任務中遠遠不夠。把多個神經元堆疊成隱藏層再通過非線性激活函數就能擬合任意復雜函數。這個結論是深度學習的理論基礎。常見激活函數的用途值得逐一手寫驗證一遍激活函數特點常見使用位置ReLU計算快緩解梯度消失但會“死神經元”隱藏層默認選項Sigmoid輸出限制在 0 到 1適合概率輸出二分類輸出層Tanh輸出限制在 -1 到 1均值接近 0RNN 結構Softmax多分類歸一化概率多分類輸出層4.2 反向傳播反向傳播是整個神經網絡的訓練核心。前向傳播計算預測值反向傳播利用鏈式法則逐層計算梯度。如果你第一次看反向傳播的推導建議用筆在草稿紙上推一個最簡單的 2 層網絡而不是直接看代碼。在實際編碼中PyTorch 這種框架通過自動求導把反向傳播封裝好了但底層原理不清遇到 loss 不降、梯度爆炸時排查會比較吃力。4.3 最小可運行示例MNIST 手寫數字分類MNIST 是深度學習里的 Hello World。下面這個示例在 CPU 上就能跑通建議作為第一個完整訓練流程。import torch import torch.nn as nn import torch.optim as optim from torchvision import datasets, transforms from torch.utils.data import DataLoader transform transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)) ]) train_data datasets.MNIST(root./data, trainTrue, downloadTrue, transformtransform) train_loader DataLoader(train_data, batch_size64, shuffleTrue) class MLP(nn.Module): def __init__(self): super().__init__() self.net nn.Sequential( nn.Flatten(), nn.Linear(28 * 28, 128), nn.ReLU(), nn.Linear(128, 10) ) def forward(self, x): return self.net(x) model MLP() optimizer optim.Adam(model.parameters(), lr0.001) criterion nn.CrossEntropyLoss() for epoch in range(3): total_loss 0 for images, labels in train_loader: optimizer.zero_grad() outputs model(images) loss criterion(outputs, labels) loss.backward() optimizer.step() total_loss loss.item() print(fepoch {epoch 1}, loss: {total_loss / len(train_loader):.4f})關注三個觀察點損失是否穩定下降、訓練耗時多少、最終準確率。正常跑完 3 個 epoch在 CPU 上也就一兩分鐘。如果損失不降優先檢查學習率和數據預處理。5. 神經網絡算法進階CNN 與注意力機制神經網絡不是一個固定結構它的發展主線就是把“手工設計特征”逐步替換成“自動學特征”。第 5 節重點講兩個影響最深的結構CNN 和注意力機制。5.1 卷積神經網絡的組成CNN 的出現解決了全連接網絡在圖像上的參數爆炸問題。卷積層通過共享權重提取局部特征池化層降低分辨率最后用全連接層做分類。理解 CNN 有三個關鍵詞關鍵詞含義局部感受野卷積核只關注相鄰區域符合圖像的空間局部性權值共享同一個卷積核掃過整張圖大幅減少參數量層次化特征淺層學到邊緣紋理深層學到語義部件有意思的是CNN 提取的特征在淺層和深層之間有明確分工淺層關注邊緣、顏色、紋理深層關注臉、物體部件。這個觀察后來直接影響了目標檢測和圖像生成的發展。5.2 注意力機制為什么重要注意力機制最早用于機器翻譯但它真正改變行業是因為解決了長距離依賴的問題。RNN 處理長序列時會遇到梯度消失注意力機制允許模型直接關注輸入序列中的任意位置。自注意力的計算過程是每個 token 生成 Query、Key、Value 三個向量然后計算 Query 與所有 Key 的相似度用相似度加權求和 Value。這套邏輯完全取代了 RNN 的遞歸結構并且可以并行計算。它就是 Transformer 的核心也是后來 BERT、GPT 等大模型的底層結構。學到注意力機制時建議對照 PyTorch 官方 Transformer 代碼理解一遍不要只看公式。6. 強化學習獎勵驅動下的決策優化強化學習是七個知識點中思路差異最大的一塊。監督學習依賴帶標簽數據強化學習沒有標簽只有獎勵信號。Agent 通過和環境交互不斷試錯目標是最大化長期累計獎勵。6.1 強化學習基本框架五個核心概念必須搞清楚Agent做決策的智能體EnvironmentAgent 交互的對象State當前環境狀態ActionAgent 采取的動作Reward環境返回的即時獎勵舉例說明訓練一個玩迷宮游戲的智能體狀態是當前位置動作是上下左右移動獎勵是到達終點得 1 分撞墻扣 0.1 分。Agent 的任務就是學會一套策略在每一步選擇讓未來累計獎勵最大的動作。6.2 從 Q-Learning 到 PPO課程中通常會從表格型的 Q-Learning 講起用一張 Q 表記錄每個狀態下的動作價值再逐步演化為 DQN深度 Q 網絡用神經網絡替代 Q 表。策略梯度方法則是直接學習策略函數。Actor-Critic 結構把兩者結合Actor 負責選動作Critic 負責評估動作的價值。PPO 在 Actor-Critic 基礎上加了穩定性約束是目前工業界最常用的強化學習算法之一也是大模型 RLHF 里面的關鍵組件。6.3 強化學習入門的常見誤區初學者最容易犯的錯誤是只跑現成環境不做狀態和獎勵設計。強化學習的效果高度依賴獎勵函數設計獎勵稀疏、獎勵過密、獎勵欺騙都會導致學不到有效策略。建議第一個實驗從一個小型網格世界開始自己定義狀態、動作、獎勵用 Q-Learning 跑通整條流程再換到更復雜的連續控制環境。一步到位直接上 PPO遇到問題很難定位是網絡問題還是獎勵問題。7. 計算機視覺圖像理解任務全解析計算機視覺是神經網絡最成熟的應用方向之一。七個知識點里CV 對應的是從 CNN 結構到實際任務之間的橋梁。7.1 視覺任務圖譜任務類型目標典型輸出圖像分類判斷整圖屬于哪個類別類別標簽目標檢測找出圖中物體位置和類別邊界框 類別語義分割對每個像素分類像素級標簽圖實例分割區分同一類的不同個體掩碼 類別學習時建議按照這個順序推進先做分類再理解檢測最后理解分割。每個任務背后都有對應的網絡結構變化分類是骨干網絡檢測在骨干上加了區域提議分割變成了像素級的密集預測。7.2 數據增強的重要程度很多剛入門的人低估了數據增強的作用。圖像分類模型對平移、旋轉、縮放、亮度變化的魯棒性大部分來自訓練時的數據增強。在課程中這部分也會涉及實際工程中它的優先級甚至高于模型結構更換。7.3 本地跑一個小實驗如果只想驗證 CNN 在圖像上的效果不用直接上 ImageNet。用上一節 MNIST 的代碼把網絡改成一個小型 CNN對比它和 MLP 的準確率差異就能直觀感受到卷積結構的優勢。import torch.nn as nn class SimpleCNN(nn.Module): def __init__(self): super().__init__() self.features nn.Sequential( nn.Conv2d(1, 32, kernel_size3, padding1), nn.ReLU(), nn.MaxPool2d(2), nn.Conv2d(32, 64, kernel_size3, padding1), nn.ReLU(), nn.MaxPool2d(2) ) self.classifier nn.Sequential( nn.Flatten(), nn.Linear(64 * 7 * 7, 10) ) def forward(self, x): return self.classifier(self.features(x))這份代碼可以直接替換上一節 MLP 的模型定義訓練流程不用改。對比二者在測試集上的準確率是理解 CNN 最直觀的方式。8. 自然語言處理從詞向量到 Transformer自然語言處理和計算機視覺是 AI 應用的左右手。NLP 的特殊性在于數據是序列形式長度不固定語義高度依賴上下文。8.1 核心建模思路演變NLP 建模經歷過幾個明顯階段階段代表方法核心問題獨熱編碼One-Hot無法表達語義相似度靜態詞向量Word2Vec, GloVe一詞多義問題上下文編碼ELMo, BERT解決一詞多義生成式預訓練GPT統一理解與生成理解從詞向量到上下文編碼的演變是重點。Word2Vec 給每個詞一個固定向量但“蘋果”在“蘋果公司”和“吃的蘋果”里應該是不同的語義。BERT 這類模型通過學習上下文讓詞的表示隨語境動態變化。8.2 Transformer 結構Transformer 是 NLP 部分的高峰也是大模型的起點。它的核心組件包括多頭自注意力、位置編碼、前饋網絡、殘差連接和層歸一化。這里有一個非常值得注意的細節自注意力本身不帶位置信息。語言是有順序的“我愛你”和“你愛我”的 token 集合完全一樣但含義相反。位置編碼的作用就是給模型注入順序信息。8.3 動手驗證思路入門階段不建議直接訓練 BERT建議先跑文本分類的遷移學習流程加載一個中文預訓練模型在自定義數據集上做微調。這樣可以理解預訓練和微調的真實流程同時為后面大模型部分做鋪墊。9. 大模型部分從預訓練到量化部署大模型部分是七個模塊里和產業結合最近的一段。2026 年來看大模型已經不只是研究熱點而是開發者的日常工具。課程中這部分的價值是把大模型背后的技術鏈條理清楚預訓練、微調、對齊、部署、推理。9.1 大模型的技術鏈條階段解決什么問題核心技術預訓練大量無標注文本上學語言規律Transformer、大規模分布式訓練指令微調讓模型理解任務指令有監督微調、LoRA 等參數高效微調對齊讓模型回答更符合人類偏好RLHF、DPO推理部署降低顯存和延遲模型量化、蒸餾、批處理學習這一塊的時候最好把注意力放在“大模型和之前的神經網絡有什么進步”這個問題上。之前的深度學習模型多為單一任務訓練大模型通過大規模預訓練獲得了通用能力再通過微調和提示工程適配到具體任務這是范式層面的變化。9.2 本地部署與顯存觀察大模型部署經常會碰到顯存問題。常見的并行思路是FP32 模型參數權重最大FP16 和 BF16 能把顯存占用降到接近一半INT8 量化還能再降一截。但精度和效果需要在本地做驗證不同模型、不同量化工具的結果差異很大。在本地跑大模型實驗時建議用下面這套流程觀察資源占用# 通過 nvidia-smi 觀察顯存變化 nvidia-smiimport os import torch # 觀察當前進程占用的顯存單位 MB if torch.cuda.is_available(): print(torch.cuda.memory_allocated() / 1024 / 1024) print(torch.cuda.memory_reserved() / 1024 / 1024)注意顯存占用不是一個固定值它會隨模型版本、輸入長度、批處理大小變化。更穩妥的做法是在本地做一組對照測試記錄不同 batch size 和輸入長度下的顯存變化而不是依賴網上的數字。9.3 大模型 API 調用與批量任務實際應用大模型當前主流是基于 HTTP 接口調用。這里給一個通用調用示例模板實際使用時需要按具體模型服務的接口文檔調整地址和參數。import requests import json # 以 OpenAI 兼容接口為例實際 base_url 和 api_key 請按服務方文檔填寫 url http://127.0.0.1:8000/v1/chat/completions payload { model: your-model-name, messages: [ {role: user, content: 請用一句話解釋什么是梯度下降} ], temperature: 0.3, max_tokens: 200 } response requests.post(url, jsonpayload, timeout60) print(response.json()[choices][0][message][content])批量任務的核心思路是把調用過程拆成讀取輸入列表、逐條調用模型、寫入輸出文件、記錄失敗日志。不要一次性提交幾萬條請求先從幾十條開始觀察接口的響應時間和限流情況再決定是否加大并發。所有測試數據都要在合規范圍內使用不要用未經授權的隱私數據或版權素材。10. 學習環境搭建Python PyTorch Jupyter不管學哪一部分第一步都是把本地環境搭起來。這里給一個通用方案在 Windows、macOS、Linux 上都能用。10.1 安裝 Anaconda 與創建虛擬環境# 創建 Python 3.10 的獨立環境 conda create -n ml_course python3.10 -y # 激活環境 conda activate ml_course # 安裝基礎庫 pip install numpy pandas matplotlib scikit-learn jupyter10.2 安裝 PyTorchPyTorch 的安裝命令取決于你的 CUDA 版本。最簡單的做法是先裝 CPU 版本跑通代碼再根據顯卡驅動選擇對應的 CUDA 版本。# CPU 版適合入門實驗 pip install torch torchvision # 如果有 NVIDIA 顯卡先在終端執行 nvidia-smi 查看驅動支持的 CUDA 版本 # 再前往 PyTorch 官網選擇對應安裝命令例如 pip install torch torchvision --index-url https://download.pytorch.org/whl/cu12110.3 驗證環境import torch import sklearn import numpy as np print(PyTorch:, torch.__version__) print(scikit-learn:, sklearn.__version__) print(CUDA available:, torch.cuda.is_available()) if torch.cuda.is_available(): print(GPU:, torch.cuda.get_device_name(0))如果 CUDA available 是 False并不影響入門階段的學習MNIST 這種實驗在 CPU 上完全能跑。等到做更大規模訓練或大模型微調時再解決顯卡環境問題。11. 學習路線規劃與時間安排視頻課程和書籍不同很容易出現“收藏了等于學會了”的情況。建議按照下面這個節奏安排學習。11.1 三階段推進階段內容范圍前置基礎核心輸出第一階段機器學習基礎 深度學習基礎Python 基礎理解回歸、分類、梯度下降、反向傳播第二階段CNN 強化學習 CV/NLP 入門第一階段跑通 MNIST、文本分類實驗第三階段Transformer 大模型 部署第二階段完成一個微調或 API 調用項目11.2 每階段做的事第一階段不用寫太多代碼更重要的是推導公式和畫圖理解。每節課后回答三個問題這個模型解決什么問題、它的損失函數怎么設計、參數更新過程是什么樣的。第二階段開始動手。每個知識點對應一個小項目CNN 對應圖像分類RNN/Transformer 對應文本分類強化學習對應一個簡單游戲環境。項目不需要復雜重要的是把訓練、評估、調參的流程完整走一遍。第三階段聚焦大模型。建議從調用現有 API 開始理解上下文長度、temperature、max tokens 這些參數的作用再逐步嘗試本地部署和微調。這個階段的產出應該是一個能夠向別人講解的完整項目。11.3 建議的練習強度不建議一天看十幾個小時視頻。更合理的方式是每天 1 到 2 小時其中一半時間看視頻一半時間寫代碼。遇到看不明白的內容可以往回跳過但要在后續補回來。12. 常見問題與排查方法學習過程中大概率會遇到下面這些情況這里給一份可以對照的排查表。問題現象可能原因排查方式解決方案視頻看得懂但代碼寫不出來只看不練缺乏編碼手感記錄每個算法偽代碼每個知識點配一個小項目數學公式推導看不懂線性代數和概率基礎不足先跳過推導理解結論的應用惡補矩陣運算和貝葉斯基本概念loss 不下降學習率太大或太小數據預處理有誤打印 loss畫曲線調整學習率檢查數據歸一化代碼報錯缺少依賴環境沖突查看完整報錯棧新建 conda 環境重裝依賴CPU 跑大模型太慢模型規模超出硬件能力觀察內存、CPU 占用用量化模型或改用 API 調用顯存不足batch size 過大或模型過大nvidia-smi 觀察顯存降低 batch size啟用梯度累積微調效果變差學習率過大、數據量不足對比微調前效果降低學習率增加數據量強化學習訓練不穩定獎勵函數設計不合理打印累計獎勵曲線調整獎勵密度和范圍13. 最佳實踐與學習建議13.1 用項目驅動而不是用課程驅動課程是知識輸入的載體但不是終點。每學完一個模塊至少完成一個能運行的項目并把結果記錄下來。代碼倉庫就是最好的學習筆記比文檔筆記更能反映真實掌握程度。13.2 保留一套最小可運行配置在你的代碼目錄里建一套固定結構ml_course/ ├── data/ # 數據集 ├── models/ # 模型權重 ├── notebooks/ # Jupyter 實驗 ├── scripts/ # 訓練腳本 └── outputs/ # 輸出結果這樣每次實驗的輸入、輸出、權重都分得清楚方便復現和排查。13.3 注意數據、模型與版權合規使用公開數據集、預訓練模型時先看許可證。涉及人臉圖像、語音、隱私數據、版權素材時必須確認是否有合法授權發布或商用前要做效果復核。大模型 API 調用時不要在未經評估的情況下向外部服務發送敏感數據。13.4 先小后大先通后優無論訓練還是微調第一次跑通永遠比追求效果重要。先用小參數驗證整個鏈路能跑通再逐步加大模型、數據量和訓練時長。這條規則適用于所有深度學習項目。14. 總結與下一步李宏毅這套課程的最大價值不是讓你記住某一個算法而是把七個核心知識點串成一條完整的技術脈絡。如果你能按順序學完并動手完成每個模塊的練習你得到的就不是零散的知識點而是一套可以繼續深入 AI 方向的基礎框架。最先應該驗證的地方是回歸和分類是否理解、梯度下降是否能手動推、PyTorch 是否跑通 MNIST。這三個點過了學習曲線后續會很順。最容易踩的坑反而是節奏問題不要貪快不要跳著看不要只收藏不練。下一步的擴展方向很明確完成基礎部分后可以根據自己的方向選擇分支想做應用就去理解大模型 API 和提示工程想做視覺就深入目標檢測和圖像生成想做算法就進入模型訓練和優化。知識主線不變分支由你的實際項目決定。把環境搭好從第一個回歸實驗開始跑比囤十套課程都有用。 李宏毅機器學習課程：七大AI核心知識點系統拆解
2026 年了想系統入門人工智能大部分人第一反應不是買書而是找一套能從頭跟到腳下來的視頻課程。李宏毅老師的機器學習課程應該是這個清單里被提到的頻率最高的名字之一。這門課最大的特點是不把數學當門檻也不把代碼當演示。它從機器學習的回歸、分類講起一路帶到深度學習、神經網絡、強化學習、計算機視覺、自然語言處理最后覆蓋大模型。也就是說標題里那七個人工智能核心知識點確實是一套課講完的。這篇文章不打算替你把視頻刷完而是按課程主線把這七個知識點拆開講清楚每一塊的學習重點、需要掌握的公式和概念、配套的動手實驗以及最容易卡住的地方。同時給出本地學習環境的搭建方式以及一套能復用的驗證思路。如果你剛好準備入門人工智能或者想把手頭零散的知識串成體系這篇可以收藏備用。1. 課程核心能力速覽先把這門課的整體規格放在前面方便你快速判斷。能力項說明課程形式視頻公開課中文授課為主配套講義和作業主講背景臺灣大學電機工程學系教授研究方向為機器學習與語音處理覆蓋知識點機器學習、深度學習、神經網絡、強化學習、計算機視覺、自然語言處理、大模型共七大模塊學習門檻需要 Python 基礎數學要求不高但線性代數和概率統計能提高理解上限編程環境Python PyTorch Jupyter NotebookCPU 即可完成大部分入門實驗硬件要求入門階段 CPU 足夠進階和大模型微調實驗建議準備獨立顯卡顯存越大越好適合人群剛入門 AI 的學生、轉行開發者、想系統補齊理論盲區的工程師不當用途不適合零編程基礎直接上來就學不適合想只看實戰不看理論的人速成從這里能直接判斷這門課不是“三天速成班”而是一條可以走完從基礎到大模型的完整路徑。后面七個模塊每一塊單獨拿出來都能撐起一門專業課但這門課的價值在于它把七塊串在一起而且每一塊都保留了足夠清楚的推導過程。2. 七個人工智能核心知識點整體拆解在正式開始前先把七大部分之間的關系畫清楚。模塊核心問題核心工具 / 概念和下一個模塊的關系機器學習如何讓程序從數據中學規律回歸、分類、梯度下降、偏差方差、正則化是深度學習的基礎語言深度學習如何用多層網絡擬合復雜函數反向傳播、激活函數、優化器、Dropout讓 MLP 真正能處理大尺度數據神經網絡算法如何設計更高效的網絡結構CNN、注意力機制、TransformerCNN 打底 CV注意力打底大模型強化學習如何在沒有標簽的情況下學決策獎勵信號、Q-Learning、策略梯度、PPO和深度學習結合后能處理連續狀態計算機視覺如何讓機器理解圖像圖像分類、目標檢測、分割、數據增強是 CNN 知識的直接應用出口自然語言處理如何讓機器理解文本詞向量、Seq2Seq、Attention、BERTTransformer 從這里走向大模型大模型如何把預訓練模型用到真實場景預訓練、微調、RLHF、提示工程、量化部署是前六個模塊匯合后的高階形態注意這個鏈條機器學習是底座深度學習是方法神經網絡是結構強化學習是另一條分支CV 和 NLP 是兩條應用主線大模型則是現有技術路線的綜合形態。這也是為什么很多人學完基礎之后會覺得整個 AI 知識體系很清晰因為這套課程的安排本身就把依賴關系理清了。3. 機器學習基礎回歸、分類與梯度下降機器學習這部分最核心的問題只有一個給定一堆數據如何讓程序自動找出輸入和輸出之間的關系。3.1 回歸與分類回歸任務的目標是預測連續數值常見的例子包括房價預測、PM2.5 預測、點擊率預估。分類任務則是預測離散標簽比如判斷一張圖片是貓還是狗、一封郵件是否為垃圾郵件。這兩個概念看似簡單但它們決定了后面所有模型的設計思路。模型的本質就是函數擬合定義一個帶參數的函數輸入樣本輸出預測結果然后根據預測和真實值的差距調整參數。3.2 梯度下降與學習率機器學習最重要的數學工具就是梯度下降。給定一個損失函數參數更新的基本方式是新參數 舊參數 - 學習率 × 梯度李宏毅課程在講這個部分時會特別強調學習率的影響學習率太大參數來回震蕩學習率太小收斂速度慢。實際工程里學習率調度策略往往比模型結構改動能帶來更直接的收益。這里建議自己動手做一次小實驗生成一組線性數據用梯度下降手動更新參數并畫損失下降曲線。把這件事做一遍對后續理解 Adam、SGD 這些優化器非常有幫助。3.3 偏差方差與正則化模型表現不好通常就兩類原因欠擬合和過擬合。欠擬合對應訓練誤差高意味著模型容量不夠。過擬合對應訓練誤差低但測試誤差高意味著模型把訓練數據的噪聲也記下來了。解決過擬合的常規手段包括增加數據量、降低模型復雜度、加正則化、早停、Dropout。這部分不需要背公式重要的是理解偏差和方差之間的權衡關系你為了降低模型對訓練數據的依賴會增加方差為了讓模型更平滑又會犧牲偏差。后面深度學習里所有調參決策本質上都在處理同一個權衡。4. 深度學習反向傳播與神經網絡的訓練深度學習部分是整門課的承上啟下段落。機器學習的套路還是靠人工設計特征深度學習把特征提取這個環節也交給模型自己完成。4.1 從感知機到多層網絡單個神經元只能擬合線性決策邊界這在實際任務中遠遠不夠。把多個神經元堆疊成隱藏層再通過非線性激活函數就能擬合任意復雜函數。這個結論是深度學習的理論基礎。常見激活函數的用途值得逐一手寫驗證一遍激活函數特點常見使用位置ReLU計算快緩解梯度消失但會“死神經元”隱藏層默認選項Sigmoid輸出限制在 0 到 1適合概率輸出二分類輸出層Tanh輸出限制在 -1 到 1均值接近 0RNN 結構Softmax多分類歸一化概率多分類輸出層4.2 反向傳播反向傳播是整個神經網絡的訓練核心。前向傳播計算預測值反向傳播利用鏈式法則逐層計算梯度。如果你第一次看反向傳播的推導建議用筆在草稿紙上推一個最簡單的 2 層網絡而不是直接看代碼。在實際編碼中PyTorch 這種框架通過自動求導把反向傳播封裝好了但底層原理不清遇到 loss 不降、梯度爆炸時排查會比較吃力。4.3 最小可運行示例MNIST 手寫數字分類MNIST 是深度學習里的 Hello World。下面這個示例在 CPU 上就能跑通建議作為第一個完整訓練流程。import torch import torch.nn as nn import torch.optim as optim from torchvision import datasets, transforms from torch.utils.data import DataLoader transform transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)) ]) train_data datasets.MNIST(root./data, trainTrue, downloadTrue, transformtransform) train_loader DataLoader(train_data, batch_size64, shuffleTrue) class MLP(nn.Module): def __init__(self): super().__init__() self.net nn.Sequential( nn.Flatten(), nn.Linear(28 * 28, 128), nn.ReLU(), nn.Linear(128, 10) ) def forward(self, x): return self.net(x) model MLP() optimizer optim.Adam(model.parameters(), lr0.001) criterion nn.CrossEntropyLoss() for epoch in range(3): total_loss 0 for images, labels in train_loader: optimizer.zero_grad() outputs model(images) loss criterion(outputs, labels) loss.backward() optimizer.step() total_loss loss.item() print(fepoch {epoch 1}, loss: {total_loss / len(train_loader):.4f})關注三個觀察點損失是否穩定下降、訓練耗時多少、最終準確率。正常跑完 3 個 epoch在 CPU 上也就一兩分鐘。如果損失不降優先檢查學習率和數據預處理。5. 神經網絡算法進階CNN 與注意力機制神經網絡不是一個固定結構它的發展主線就是把“手工設計特征”逐步替換成“自動學特征”。第 5 節重點講兩個影響最深的結構CNN 和注意力機制。5.1 卷積神經網絡的組成CNN 的出現解決了全連接網絡在圖像上的參數爆炸問題。卷積層通過共享權重提取局部特征池化層降低分辨率最后用全連接層做分類。理解 CNN 有三個關鍵詞關鍵詞含義局部感受野卷積核只關注相鄰區域符合圖像的空間局部性權值共享同一個卷積核掃過整張圖大幅減少參數量層次化特征淺層學到邊緣紋理深層學到語義部件有意思的是CNN 提取的特征在淺層和深層之間有明確分工淺層關注邊緣、顏色、紋理深層關注臉、物體部件。這個觀察后來直接影響了目標檢測和圖像生成的發展。5.2 注意力機制為什么重要注意力機制最早用于機器翻譯但它真正改變行業是因為解決了長距離依賴的問題。RNN 處理長序列時會遇到梯度消失注意力機制允許模型直接關注輸入序列中的任意位置。自注意力的計算過程是每個 token 生成 Query、Key、Value 三個向量然后計算 Query 與所有 Key 的相似度用相似度加權求和 Value。這套邏輯完全取代了 RNN 的遞歸結構并且可以并行計算。它就是 Transformer 的核心也是后來 BERT、GPT 等大模型的底層結構。學到注意力機制時建議對照 PyTorch 官方 Transformer 代碼理解一遍不要只看公式。6. 強化學習獎勵驅動下的決策優化強化學習是七個知識點中思路差異最大的一塊。監督學習依賴帶標簽數據強化學習沒有標簽只有獎勵信號。Agent 通過和環境交互不斷試錯目標是最大化長期累計獎勵。6.1 強化學習基本框架五個核心概念必須搞清楚Agent做決策的智能體EnvironmentAgent 交互的對象State當前環境狀態ActionAgent 采取的動作Reward環境返回的即時獎勵舉例說明訓練一個玩迷宮游戲的智能體狀態是當前位置動作是上下左右移動獎勵是到達終點得 1 分撞墻扣 0.1 分。Agent 的任務就是學會一套策略在每一步選擇讓未來累計獎勵最大的動作。6.2 從 Q-Learning 到 PPO課程中通常會從表格型的 Q-Learning 講起用一張 Q 表記錄每個狀態下的動作價值再逐步演化為 DQN深度 Q 網絡用神經網絡替代 Q 表。策略梯度方法則是直接學習策略函數。Actor-Critic 結構把兩者結合Actor 負責選動作Critic 負責評估動作的價值。PPO 在 Actor-Critic 基礎上加了穩定性約束是目前工業界最常用的強化學習算法之一也是大模型 RLHF 里面的關鍵組件。6.3 強化學習入門的常見誤區初學者最容易犯的錯誤是只跑現成環境不做狀態和獎勵設計。強化學習的效果高度依賴獎勵函數設計獎勵稀疏、獎勵過密、獎勵欺騙都會導致學不到有效策略。建議第一個實驗從一個小型網格世界開始自己定義狀態、動作、獎勵用 Q-Learning 跑通整條流程再換到更復雜的連續控制環境。一步到位直接上 PPO遇到問題很難定位是網絡問題還是獎勵問題。7. 計算機視覺圖像理解任務全解析計算機視覺是神經網絡最成熟的應用方向之一。七個知識點里CV 對應的是從 CNN 結構到實際任務之間的橋梁。7.1 視覺任務圖譜任務類型目標典型輸出圖像分類判斷整圖屬于哪個類別類別標簽目標檢測找出圖中物體位置和類別邊界框 類別語義分割對每個像素分類像素級標簽圖實例分割區分同一類的不同個體掩碼 類別學習時建議按照這個順序推進先做分類再理解檢測最后理解分割。每個任務背后都有對應的網絡結構變化分類是骨干網絡檢測在骨干上加了區域提議分割變成了像素級的密集預測。7.2 數據增強的重要程度很多剛入門的人低估了數據增強的作用。圖像分類模型對平移、旋轉、縮放、亮度變化的魯棒性大部分來自訓練時的數據增強。在課程中這部分也會涉及實際工程中它的優先級甚至高于模型結構更換。7.3 本地跑一個小實驗如果只想驗證 CNN 在圖像上的效果不用直接上 ImageNet。用上一節 MNIST 的代碼把網絡改成一個小型 CNN對比它和 MLP 的準確率差異就能直觀感受到卷積結構的優勢。import torch.nn as nn class SimpleCNN(nn.Module): def __init__(self): super().__init__() self.features nn.Sequential( nn.Conv2d(1, 32, kernel_size3, padding1), nn.ReLU(), nn.MaxPool2d(2), nn.Conv2d(32, 64, kernel_size3, padding1), nn.ReLU(), nn.MaxPool2d(2) ) self.classifier nn.Sequential( nn.Flatten(), nn.Linear(64 * 7 * 7, 10) ) def forward(self, x): return self.classifier(self.features(x))這份代碼可以直接替換上一節 MLP 的模型定義訓練流程不用改。對比二者在測試集上的準確率是理解 CNN 最直觀的方式。8. 自然語言處理從詞向量到 Transformer自然語言處理和計算機視覺是 AI 應用的左右手。NLP 的特殊性在于數據是序列形式長度不固定語義高度依賴上下文。8.1 核心建模思路演變NLP 建模經歷過幾個明顯階段階段代表方法核心問題獨熱編碼One-Hot無法表達語義相似度靜態詞向量Word2Vec, GloVe一詞多義問題上下文編碼ELMo, BERT解決一詞多義生成式預訓練GPT統一理解與生成理解從詞向量到上下文編碼的演變是重點。Word2Vec 給每個詞一個固定向量但“蘋果”在“蘋果公司”和“吃的蘋果”里應該是不同的語義。BERT 這類模型通過學習上下文讓詞的表示隨語境動態變化。8.2 Transformer 結構Transformer 是 NLP 部分的高峰也是大模型的起點。它的核心組件包括多頭自注意力、位置編碼、前饋網絡、殘差連接和層歸一化。這里有一個非常值得注意的細節自注意力本身不帶位置信息。語言是有順序的“我愛你”和“你愛我”的 token 集合完全一樣但含義相反。位置編碼的作用就是給模型注入順序信息。8.3 動手驗證思路入門階段不建議直接訓練 BERT建議先跑文本分類的遷移學習流程加載一個中文預訓練模型在自定義數據集上做微調。這樣可以理解預訓練和微調的真實流程同時為后面大模型部分做鋪墊。9. 大模型部分從預訓練到量化部署大模型部分是七個模塊里和產業結合最近的一段。2026 年來看大模型已經不只是研究熱點而是開發者的日常工具。課程中這部分的價值是把大模型背后的技術鏈條理清楚預訓練、微調、對齊、部署、推理。9.1 大模型的技術鏈條階段解決什么問題核心技術預訓練大量無標注文本上學語言規律Transformer、大規模分布式訓練指令微調讓模型理解任務指令有監督微調、LoRA 等參數高效微調對齊讓模型回答更符合人類偏好RLHF、DPO推理部署降低顯存和延遲模型量化、蒸餾、批處理學習這一塊的時候最好把注意力放在“大模型和之前的神經網絡有什么進步”這個問題上。之前的深度學習模型多為單一任務訓練大模型通過大規模預訓練獲得了通用能力再通過微調和提示工程適配到具體任務這是范式層面的變化。9.2 本地部署與顯存觀察大模型部署經常會碰到顯存問題。常見的并行思路是FP32 模型參數權重最大FP16 和 BF16 能把顯存占用降到接近一半INT8 量化還能再降一截。但精度和效果需要在本地做驗證不同模型、不同量化工具的結果差異很大。在本地跑大模型實驗時建議用下面這套流程觀察資源占用# 通過 nvidia-smi 觀察顯存變化 nvidia-smiimport os import torch # 觀察當前進程占用的顯存單位 MB if torch.cuda.is_available(): print(torch.cuda.memory_allocated() / 1024 / 1024) print(torch.cuda.memory_reserved() / 1024 / 1024)注意顯存占用不是一個固定值它會隨模型版本、輸入長度、批處理大小變化。更穩妥的做法是在本地做一組對照測試記錄不同 batch size 和輸入長度下的顯存變化而不是依賴網上的數字。9.3 大模型 API 調用與批量任務實際應用大模型當前主流是基于 HTTP 接口調用。這里給一個通用調用示例模板實際使用時需要按具體模型服務的接口文檔調整地址和參數。import requests import json # 以 OpenAI 兼容接口為例實際 base_url 和 api_key 請按服務方文檔填寫 url http://127.0.0.1:8000/v1/chat/completions payload { model: your-model-name, messages: [ {role: user, content: 請用一句話解釋什么是梯度下降} ], temperature: 0.3, max_tokens: 200 } response requests.post(url, jsonpayload, timeout60) print(response.json()[choices][0][message][content])批量任務的核心思路是把調用過程拆成讀取輸入列表、逐條調用模型、寫入輸出文件、記錄失敗日志。不要一次性提交幾萬條請求先從幾十條開始觀察接口的響應時間和限流情況再決定是否加大并發。所有測試數據都要在合規范圍內使用不要用未經授權的隱私數據或版權素材。10. 學習環境搭建Python PyTorch Jupyter不管學哪一部分第一步都是把本地環境搭起來。這里給一個通用方案在 Windows、macOS、Linux 上都能用。10.1 安裝 Anaconda 與創建虛擬環境# 創建 Python 3.10 的獨立環境 conda create -n ml_course python3.10 -y # 激活環境 conda activate ml_course # 安裝基礎庫 pip install numpy pandas matplotlib scikit-learn jupyter10.2 安裝 PyTorchPyTorch 的安裝命令取決于你的 CUDA 版本。最簡單的做法是先裝 CPU 版本跑通代碼再根據顯卡驅動選擇對應的 CUDA 版本。# CPU 版適合入門實驗 pip install torch torchvision # 如果有 NVIDIA 顯卡先在終端執行 nvidia-smi 查看驅動支持的 CUDA 版本 # 再前往 PyTorch 官網選擇對應安裝命令例如 pip install torch torchvision --index-url https://download.pytorch.org/whl/cu12110.3 驗證環境import torch import sklearn import numpy as np print(PyTorch:, torch.__version__) print(scikit-learn:, sklearn.__version__) print(CUDA available:, torch.cuda.is_available()) if torch.cuda.is_available(): print(GPU:, torch.cuda.get_device_name(0))如果 CUDA available 是 False并不影響入門階段的學習MNIST 這種實驗在 CPU 上完全能跑。等到做更大規模訓練或大模型微調時再解決顯卡環境問題。11. 學習路線規劃與時間安排視頻課程和書籍不同很容易出現“收藏了等于學會了”的情況。建議按照下面這個節奏安排學習。11.1 三階段推進階段內容范圍前置基礎核心輸出第一階段機器學習基礎 深度學習基礎Python 基礎理解回歸、分類、梯度下降、反向傳播第二階段CNN 強化學習 CV/NLP 入門第一階段跑通 MNIST、文本分類實驗第三階段Transformer 大模型 部署第二階段完成一個微調或 API 調用項目11.2 每階段做的事第一階段不用寫太多代碼更重要的是推導公式和畫圖理解。每節課后回答三個問題這個模型解決什么問題、它的損失函數怎么設計、參數更新過程是什么樣的。第二階段開始動手。每個知識點對應一個小項目CNN 對應圖像分類RNN/Transformer 對應文本分類強化學習對應一個簡單游戲環境。項目不需要復雜重要的是把訓練、評估、調參的流程完整走一遍。第三階段聚焦大模型。建議從調用現有 API 開始理解上下文長度、temperature、max tokens 這些參數的作用再逐步嘗試本地部署和微調。這個階段的產出應該是一個能夠向別人講解的完整項目。11.3 建議的練習強度不建議一天看十幾個小時視頻。更合理的方式是每天 1 到 2 小時其中一半時間看視頻一半時間寫代碼。遇到看不明白的內容可以往回跳過但要在后續補回來。12. 常見問題與排查方法學習過程中大概率會遇到下面這些情況這里給一份可以對照的排查表。問題現象可能原因排查方式解決方案視頻看得懂但代碼寫不出來只看不練缺乏編碼手感記錄每個算法偽代碼每個知識點配一個小項目數學公式推導看不懂線性代數和概率基礎不足先跳過推導理解結論的應用惡補矩陣運算和貝葉斯基本概念loss 不下降學習率太大或太小數據預處理有誤打印 loss畫曲線調整學習率檢查數據歸一化代碼報錯缺少依賴環境沖突查看完整報錯棧新建 conda 環境重裝依賴CPU 跑大模型太慢模型規模超出硬件能力觀察內存、CPU 占用用量化模型或改用 API 調用顯存不足batch size 過大或模型過大nvidia-smi 觀察顯存降低 batch size啟用梯度累積微調效果變差學習率過大、數據量不足對比微調前效果降低學習率增加數據量強化學習訓練不穩定獎勵函數設計不合理打印累計獎勵曲線調整獎勵密度和范圍13. 最佳實踐與學習建議13.1 用項目驅動而不是用課程驅動課程是知識輸入的載體但不是終點。每學完一個模塊至少完成一個能運行的項目并把結果記錄下來。代碼倉庫就是最好的學習筆記比文檔筆記更能反映真實掌握程度。13.2 保留一套最小可運行配置在你的代碼目錄里建一套固定結構ml_course/ ├── data/ # 數據集 ├── models/ # 模型權重 ├── notebooks/ # Jupyter 實驗 ├── scripts/ # 訓練腳本 └── outputs/ # 輸出結果這樣每次實驗的輸入、輸出、權重都分得清楚方便復現和排查。13.3 注意數據、模型與版權合規使用公開數據集、預訓練模型時先看許可證。涉及人臉圖像、語音、隱私數據、版權素材時必須確認是否有合法授權發布或商用前要做效果復核。大模型 API 調用時不要在未經評估的情況下向外部服務發送敏感數據。13.4 先小后大先通后優無論訓練還是微調第一次跑通永遠比追求效果重要。先用小參數驗證整個鏈路能跑通再逐步加大模型、數據量和訓練時長。這條規則適用于所有深度學習項目。14. 總結與下一步李宏毅這套課程的最大價值不是讓你記住某一個算法而是把七個核心知識點串成一條完整的技術脈絡。如果你能按順序學完并動手完成每個模塊的練習你得到的就不是零散的知識點而是一套可以繼續深入 AI 方向的基礎框架。最先應該驗證的地方是回歸和分類是否理解、梯度下降是否能手動推、PyTorch 是否跑通 MNIST。這三個點過了學習曲線后續會很順。最容易踩的坑反而是節奏問題不要貪快不要跳著看不要只收藏不練。下一步的擴展方向很明確完成基礎部分后可以根據自己的方向選擇分支想做應用就去理解大模型 API 和提示工程想做視覺就深入目標檢測和圖像生成想做算法就進入模型訓練和優化。知識主線不變分支由你的實際項目決定。把環境搭好從第一個回歸實驗開始跑比囤十套課程都有用。