llm.c
L
Llm.c
簡介 :
karpathy/llm.c 是一個使用簡單的 C/CUDA 實現 LLM 訓練的項目。它旨在提供一個乾淨、簡單的參考實現,同時也包含了更優化的版本,可以接近 PyTorch 的性能,但代碼和依賴大大減少。目前正在開發直接的 CUDA 實現、使用 SIMD 指令優化 CPU 版本以及支持更多現代架構如 Llama2、Gemma 等。
需求人群 :
作為 LLM 訓練的參考實現,以及進一步優化和擴展 LLM 模型的基礎
總訪問量: 474.6M
佔比最多地區: US(19.34%)
本站瀏覽量 : 66.5K
使用場景
使用 karpathy/llm.c 實現了一個基於 GPT-2 的小規模語言模型,並通過優化版本大幅提升了訓練速度
在 karpathy/llm.c 的基礎上,開發了一個支持 Llama2 架構的 LLM 訓練工具
參考 karpathy/llm.c 的代碼結構和實現方式,自行開發了一個針對特定應用場景的 LLM 模型
產品特色
使用簡單的 C/CUDA 實現 LLM 訓練
提供乾淨、簡單的參考實現
包含更優化的版本,性能接近 PyTorch
支持多種現代 LLM 架構
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase