Jais
J
Jais
简介 :
这是一个130亿参数的预训练双语大型语言模型,支持阿拉伯语和英语,在720亿阿拉伯语标记和2790亿英语/代码标记的数据集上进行训练。阿拉伯语数据迭代了1.6个时代(相比英语/代码的1个时代),总计3950亿个标记进行训练。该模型基于Transformer解码器专用架构(GPT-3),使用SwiGLU非线性激活函数。它实现了ALiBi位置嵌入,可以外推到长序列长度,提供改进的上下文处理和模型精度。
需求人群 :
["研究用途","商业用途,如聊天助手、客户服务等"]
总访问量: 29.7M
占比最多地区: US(17.94%)
本站浏览量 : 45.3K
使用场景
用作阿拉伯语自然语言处理研究的基础模型
开发集成了阿拉伯语功能的应用程序
针对聊天助手等下游任务进行微调
产品特色
支持阿拉伯语和英语的生成式对话
可针对特定下游任务进行微调
提供上下文感知能力
支持长序列生成
AIbase
智启未来,您的人工智能解决方案智库
© 2025AIbase