我的网站

         
当前位置: 主页 > 我的网站42 >

MosaicML 推出 70 亿参数模型 MPT-7B-8

时间:2024-04-27 04:30 来源:网络整理 转载:我的网站

品玩7月25日讯,据DoNews报道,MosaicML 近日发布了其 70 亿参数模型 MPT-7B-8K。

据悉,该模型一次可以处理 8000 字文本,相当擅长处理长文重点摘要和问答,还能在 MosaicML 平台上根据特定任务,进一步微调相关配置。

据悉,系列模型采用了 150 万个 Token,并以 256 块 H100 GPU 花 3 天完成模型训练而成。MosaicML 本次发布了 3 个版本模型,包括 MPT-7B-8k、MPT-7B-8k-Instruct 和 MPT-7B-8k-Chat。