llm.c
L
Llm.c
简介 :
karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。
需求人群 :
作为 LLM 训练的参考实现,以及进一步优化和扩展 LLM 模型的基础
总访问量: 474.6M
占比最多地区: US(19.34%)
本站浏览量 : 69.0K
使用场景
使用 karpathy/llm.c 实现了一个基于 GPT-2 的小规模语言模型,并通过优化版本大幅提升了训练速度
在 karpathy/llm.c 的基础上,开发了一个支持 Llama2 架构的 LLM 训练工具
参考 karpathy/llm.c 的代码结构和实现方式,自行开发了一个针对特定应用场景的 LLM 模型
产品特色
使用简单的 C/CUDA 实现 LLM 训练
提供干净、简单的参考实现
包含更优化的版本,性能接近 PyTorch
支持多种现代 LLM 架构
AIbase
智启未来,您的人工智能解决方案智库
© 2025AIbase