nn-zero-to-hero 反向傳播完整指南【免費(fèi)下載鏈接】nn-zero-to-heroNeural Networks: Zero to Hero項(xiàng)目地址: https://gitcode.com/GitHub_Trending/nn/nn-zero-to-heronn-zero-to-hero 是神經(jīng)網(wǎng)絡(luò)從零到英雄課程的配套 Jupyter 筆記本合集主線是反向傳播與語(yǔ)言模型。從手寫標(biāo)量求導(dǎo)引擎起筆一路寫到字符級(jí)語(yǔ)言模型與 CNN。它不教你調(diào)現(xiàn)成框架出結(jié)果只逼你把公式敲成代碼。先判斷要不要學(xué)想弄清梯度到底怎么傳回來、會(huì)寫基礎(chǔ) Python 的人值得坐下來啃這套筆記也適合天天寫 PyTorch、從沒自己搭過autograd的開發(fā)者。目標(biāo)只是快速調(diào)現(xiàn)成模型出 demo 的別走這兒——全套課節(jié)奏偏慢框架官方文檔更快。前置門檻導(dǎo)數(shù)與鏈?zhǔn)椒▌t得還認(rèn)得不行的先補(bǔ)微積分否則第一講會(huì)看得很吃力。目錄里裝了什么 micrograd 線lectures/micrograd/ 兩個(gè)筆記本分上下半場(chǎng)先搭標(biāo)量求導(dǎo)引擎再組網(wǎng)訓(xùn)練。makemore 線lectures/makemore/ 從 part1 至 part5 五個(gè)文件遞進(jìn)二元統(tǒng)計(jì)、MLP、批歸一化、手動(dòng)反傳、仿 WaveNet 的 CNN。課程目錄在根目錄 README.md每講的主題、前置要求、配套文件都寫在里面。README 列到第 8 講但后兩講GPT 本體與分詞器倉(cāng)庫(kù)里沒有對(duì)應(yīng)文件只有視頻鏈接。倉(cāng)庫(kù)給的是路不是答案。最短上手路徑 ?克隆倉(cāng)庫(kù)git clone https://gitcode.com/GitHub_Trending/nn/nn-zero-to-hero打開micrograd目錄里的兩份 notebook順序跑通先吃透標(biāo)量求導(dǎo)引擎怎么搭再看它怎么變成可訓(xùn)練的網(wǎng)絡(luò)。Tensor 用法先翻一遍 PyTorch 文檔再打開 lectures/makemore/ 下 part1 的文件把二元組模型跑起來順手把采樣和損失函數(shù)各看一遍。接著 part2 一路做到 part5每講只多塞一層新東西MLP、批歸一化、手動(dòng)反傳、CNN。每講做完把 README 里的要求逐條過一遍卡住就回退別硬沖。出錯(cuò)代價(jià)清單 ??跳過標(biāo)量那兩講直接開跑語(yǔ)言模型從 part2 起每個(gè)自動(dòng)求導(dǎo)對(duì)你都是黑盒part4 要手動(dòng)推梯度時(shí)一步都寫不出來。part4 全程當(dāng)紀(jì)錄片看作者明說要先自己做、卡了再對(duì)答案不動(dòng)筆的話這一講收益只剩一半。part5 靠猜張量形狀這節(jié) torch.nn 調(diào)用密集不打印 shape卷積維度對(duì)不上時(shí)你分不清錯(cuò)在模型還是輸入。以為 GPT 那兩講的筆記本也在倉(cāng)庫(kù)里README 只給了視頻鏈接翻遍倉(cāng)庫(kù)也找不到對(duì)應(yīng)文件。今晚就把micrograd上半場(chǎng)跑通【免費(fèi)下載鏈接】nn-zero-to-heroNeural Networks: Zero to Hero項(xiàng)目地址: https://gitcode.com/GitHub_Trending/nn/nn-zero-to-hero創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考