contrastors
C
Contrastors
简介 :
contrastors是一个对比学习工具包,使研究人员和工程师能够高效地训练和评估对比模型。它建立在Flash Attention之上,支持多GPU训练,具有GradCache支持,可以在受限内存环境下进行大批量训练。它还支持Huggingface,可以轻松加载常见模型。同时支持遮蔽语言建模预训练和Matryoshka表示学习。
需求人群 :
用于研究和工程师高效地训练和评估对比学习模型
总访问量: 474.6M
占比最多地区: US(19.34%)
本站浏览量 : 62.7K
使用场景
使用contrastors在8块GPU上从零开始训练BERT模型
使用contrastors微调nomic-bert-embed-v1-unsupervised模型
使用contrastors的脚本生成自己的数据集进行对比学习
产品特色
多GPU支持
GradCache支持大批量训练
支持遮蔽语言模型预训练
支持Huggingface加载常见模型
AIbase
智启未来,您的人工智能解决方案智库
© 2025AIbase