AI工具

MiniCPM-SALA - 面壁智能开源的9B端侧模型-AI老司机

MiniCPM-SALA – 面壁智能开源的9B端侧模型

MiniCPM-SALA是什么 MiniCPM-SALA是面壁智能开源的9B端侧大模型,采用创新的SALA(稀疏-线性混合注意力)架构,75%线性注意力负责全局高效建模,用25%稀疏注意力精准捕捉关键信息,引入混合位置...
AI老司机的头像-AI老司机黄金会员AI老司机昨天
03014