Hailo首席技术官Avi Baum深度对话

Hailo强调在边缘AI时代，内存带宽正取代算力成为性能瓶颈，尤其在处理大型语言和视觉语言模型时。随着模型参数达数十亿，仅依赖TOPS指标已不足够，需综合考量计算、内存、功耗与成本的平衡。公司倡导以“工作点”为核心的设计理念，针对真实应用场景优化架构，并通过灵活、可扩展的处理器设计支持多模态与生成式AI负载，推动边缘AI在消费与工业领域的广泛部署。
来源：https://tech.ifeng.com/c/8nWMMSAI3bh