专有化能力:构建专有领域“数据-知识-思维链”知识推理体系,赋予多模态大模型专有化推理能力,实现与人类专家研判思路的对齐,实现大模型在专有领域的高准确率应用。模型专有部署模块,实现多模态大模型在Arm CPU、NPU上的计算潜能释放。通过自研NPU-CPU异构计算调度技术实现端侧大模型在嵌入式推理能耗与性能平衡,突破多模态大模型在电力端侧就地化分析瓶颈。
小型化能力:将专有化多模态大模型嵌入至端侧装置中,通过模型蒸馏技术保持模型在端侧与云侧的性能一致,通过芯片工具链优化技术、内存-算力协同技术,自研多模态大模型专有部署模块,实现多模态大模型在Arm CPU、NPU上的计算潜能释放。通过自研NPU-CPU异构计算调度技术实现端侧大模型在嵌入式推理能耗与性能平衡,突破多模态大模型在电力端侧就地化分析瓶颈。