在专家看来，随着机器学习等技术的快速发展，人工智能产业发展正以其高端的新兴技术、巨大的商业价值、广阔的应用前景和庞大的产业空间，成为新的重要经济增长点。伴随着人工智能各种应用场景的普及与发展，海量多维的数据将在云端以及边缘侧展开大量处理计算，芯片也面临更加广泛以及多样化的需求，这对AI芯片的计算架构、运算能力、场景与算法适用性、安全可控等都提出了新的课题与挑战。
目前，AI芯片技术主流路径有GPU、FPGA、ASIC等，其中GPU、FPGA是较为成熟的芯片架构，ASIC是针对特定应用场景的专用芯片。GPU架构的芯片能满足深度学习大量计算需求，释放人工智能的潜能，但缺点在于功耗较高；FPGA架构的芯片具有足够的计算能力、较低试错成本和足够的灵活性，缺点在于价格较高、编程复杂；ASIC架构的芯片能够在特定功能上进行强化，具有更高的处理速度和更低能耗，但缺点是成本高，有用量足够大时才能够降低成本，而且由于是定制化，可复制性一般。
据计算机视觉公司云从科技副总裁张立介绍，传统芯片企业通常更关注是如何把芯片做成通用化，以支持各种不同应用场景。但这样的通用化，在AI场景落地时会遇到问题，比如公司对AI芯片考虑较多的是单位功耗，而芯片企业对功耗要求可能不是首要优先级。公司在将AI场景落地的过程中，发现通用芯片完全满足不了需求。这给从事AI解决方案和核心算法的企业带来了难题——公司的算法是统一的，但需要在不同的场景适配不同的芯片和模组。
“目前，AI芯片发展还处在婴儿期”。张立表示，现在企业使用的很多AI芯片因为工艺要求较高，很难在大陆流片，都是在台积电进行流片。同时，也正因这工艺复杂度较高，导致芯片价格较高，使得下游很多使用其模组的产品无法量产。
作为国内边缘侧AI芯片领域的先行者，嘉楠科技早在2016年就掌握了16nm制程工艺，之所以现阶段的AI芯片制程工艺仍为28nm，主要也是受出货量的限制。
嘉楠科技CEO张楠赓表示，从功耗角度而言，很多云端训练的AI模型无法顺利部署至边缘侧设备，应用场景也无法支持较高的芯片功耗。虽然一些云端芯片巨头也在向边缘侧延伸，但是裁剪AI算法去适配芯片更多体现了巨头们削足适履的局限。对嘉楠科技而言，从事边缘侧芯片的开发就是在“带着镣铐舞蹈”，要在功耗和成本的严格约束下，不断提升算力，适配场景，提升芯片的专用性。
AI芯片发展需探索新路径
“我们离人工智能还有多远？目前很多企业所做的只是增强智能而不是真正的人工智能，离真正的人工智能还差得很远”。魏少军表示，人工智能网络能够崛起取决于三个因素，算法、数据和算力。当前，AI芯片面临两个现实问题：其一，算法仍在不断演进，新算法层出不穷，每隔几个月算法就发生新的变化；其二，一种算法对应一种应用，没有统一的算法，而让芯片处理不同的算法十分困难。
在魏少军看来，AI芯片应该具备的要素包括可编程性、架构的动态可变性、高效的架构变换能力、高计算效率、高能耗效率、低成本等。按照这些要求，目前业界流行的一些作法均不是理想的架构。过去几年，AI芯片领域一个重要变化就是架构的变化。人工智能芯片不在于追求算力，而在于架构创新。业界也需要找到一种针对人工智能计算的全新计算引擎。
针对国产AI芯片的发展，中国工程院院士倪光南表示，芯片设计门槛极高，只有极少数企业能够承受中高端芯片研发成本，这也制约了芯片领域创新。我国可以借鉴开源软件成功经验，降低创新门槛，提高企业自主能力，发展国产开源芯片。
“开源软件正成为当前软件产业的主流，芯片产业也可以采用开源这种模式”。倪光南表示，目前在芯片开发方面，新的RISC—V指令集是一种能够降低处理器芯片IP成本的新模式。用户可以自由免费使用RISC-V进行CPU设计、开发并添加自有指令集进行拓展等。RISC-V对于当前国家提倡的智能+新一代信息技术、新一代人工智能技术的发展等，都是很好的支撑。
赛迪顾问认为，人工智能芯片未来将呈现新发展趋势——芯片开发将从技术难点转向场景痛点。目前，人工智能芯片设计更多是从技术角度出发，以满足特定性能需求。未来，芯片设计需要从应用场景出发，借助场景落地实现规模发展。而且，现在应用于AI领域的芯片多为特定场景设计，不能灵活适应多场景需求，未来需要专门为人工智能设计的灵活、通用的芯片，成为人工智能领域的“中央处理器”。另外，现阶段AI芯片产业的发展方式主要以企业为主体，产品上下游企业的运营和管理相对独立，但同环节的企业却高度竞争，未来产业发展应以合作为主线，形成产业生态。
