
简介
32B:教学辅助。利用模型的知识储备和理解能力,提供教学内容
的辅助讲解、答疑解惑等功能。•代码评审。借助模型的代码理解和生成能力,自动化地对代码进行审查,发现潜在问题,提供优化建议。
70B:适用于科研分析、复杂商业决策、专业内容创作(如代码生成、数据分析)等对准确性要求极高的场景。推荐:法律、医疗、金融等专业领域,提供高质量的文本生成、知识检索和决策支持。
配置参数
1、算力能力:96G/192显存、2048/4096张量核、1.29/2.58PFLOPS算力 支持模型:DeepSeek-R1-Distill-Qwen-32B。
2、算力能力:96G/192显存、2048/4096张量核、1.29/2.58PFLOPS算力 支持模型:DeepSeek-R1-Distill-Llama-70B
详情
开箱即用:
• 工厂自动化软件环境集成
• 内置本地模型库
• 内置人机交互界面
• 开放二次开发接口
引擎加速:
• 内置经过参数优化的推理引擎
• 满足更多并发下的使用体验
• 优异的TPS/TTFT/TPOT性能
成熟基座:
• 基于成熟硬件平台
• 采用原装计算卡
• 多家CSP一致选择
