DeepSeek🔥 热门
DeepSeek-V3正式开源：训练成本创纪录新低
作者：模型研究员发布时间：2024-12-300 阅读0 评论
深度求索（DeepSeek）今日正式发布DeepSeek-V3大模型，并宣布完全开源。该模型拥有671B参数（MoE架构，激活37B），在多项权威基准测试中表现出色。
核心亮点：
- 671B总参数，37B激活参数的MoE架构
- 训练总成本仅557万美元，成本效率行业领先
- 支持128K长上下文
- 在代码、数学推理上表现突出
DeepSeek-V3采用了创新的训练优化策略，包括多级分布式训练、混合精度训练等技术，大幅降低了大模型的训练成本。
开源社区对这一消息反响热烈，认为DeepSeek-V3的发布将推动大模型技术的民主化进程。
📖
相关标签：#DeepSeek#开源模型#MoE#大模型
常见问题
DeepSeek-V3是完全开源的吗？
是的，DeepSeek-V3完全开源，包括模型权重、训练代码和推理代码，可在官方仓库获取。
DeepSeek-V3参数量是多少？
DeepSeek-V3总参数量为671B，采用MoE（混合专家）架构，每次推理激活约37B参数。
DeepSeek-V3训练花了多少钱？
DeepSeek-V3训练总成本约557万美元，在同等规模模型中成本效率处于行业领先水平。
本文部分内容由AI辅助生成，经人工编辑与真实性核验，仅供行业参考，不构成商业交易承诺与专业决策依据。