一块4090微调Llama 3?2026年大模型微调工具盘点一块4090微调Llama 3?2026年大模型微调工具盘点 老实说,2024年初我第一次尝试在本地微调Llama 2的时候,光是加载模型就耗尽了我那块24G显存的3090显卡。那时候我觉得,普通开发...软件科技# 4-bit量化# AI模型优化# Llama 3微调3个月前1.1K
VoxCPM:一个让中文大模型训练「降本增效」的开源利器VoxCPM是清华大学NLP团队(OpenBMB)开源的中文大模型训练框架,专为解决百亿参数模型训练中的显存不足、训练缓慢和成本失控三大痛点而设计。通过PyTorch FSDP参数分片技术,VoxCP...软件科技# Flash Attention优化# FlashAttention2# FSDP分布式训练3个月前1K