龙家志专注于延迟性能和功耗应用推出了实时人工智能计算平台

专注于延迟、性能和功耗的应用，龙家志推出实时人工智能计算平台

近年来，人工智能在安全、物流、无人驾驶、医疗、教育等领域逐渐深入人心。多样化的场景需求进一步提升了对计算能力的需求，也推动了对人工智能芯片需求的快速增长。高德纳曾预测，2023年全球人工智能芯片销售额将达到343亿美元，而2018年为42.7亿美元，年增长率为52%。

最近，36氪与33，354“Dinoplus AI”取得了联系，这是一家来自硅谷的人工智能芯片研究和设计公司。在关注当前市场的同时，公司对人工智能芯片提出了更高的要求：更快的处理速度、更低的功耗和更低的延迟。公司以其独特的芯片架构和高效灵活的软件架构为核心，开发了实时人工智能计算平台，包括现场可编程门阵列(FPGA)和专用集成电路(ASIC)产品以及软件开发工具包(SDK)等相关软件产品。

该平台可广泛应用于私有云、5G、边缘云计算、工业自动化、无人值守商店等领域，可提供与实现更低功耗、确定的更低延时。类似产品一致性能

龙嘉智首席执行官胡玉洁告诉36氪，市场上的人工智能芯片仍然存在以下问题：

首先，绝大多数人工智能芯片解决方案没有针对延迟进行优化，这使得难以满足低延迟和低“延迟抖动”(单个请求的延迟波动值)场景的需求。例如，在自动驾驶中，计算延迟必须控制在毫秒级，否则可能导致汽车损坏和死亡。此外，延迟的确定性对整个系统的稳定性至关重要。在语音控制场景中，长时间延迟造成的卡顿也会影响用户体验。

其次，大多数人工智能芯片在谈到低延迟时，只关注图像和视频处理。事实上，低延迟对语音识别、搜索引擎和自然语言处理有很大价值。

第三，人工智能处理器的使用门槛很高，并且不容易使用，这使得很难充分发挥其性能。此外，人工智能算法发展迅速，许多人工智能计算平台难以适应未来的算法。

针对这些问题，龙佳芝提出了相应的方案。龙家志不仅注重提高计算性能和降低功耗，还重视缩短延迟。“不仅延迟减少，而且固定稳定的低延迟也减少了，也就是说，当计算平台多次执行同一任务时，反应时间是一个固定的数字。”胡玉洁说，“市场上许多人工智能处理器每次执行相同的任务时，反应时间不同。当用户使用我们的计算平台时，他们可以预测准确的反应速度，从而提高整个系统的确定性和可靠性。”

龙佳芝的人工智能芯片对大多数人工智能任务具有低延迟，包括图形和图像、语音、搜索、自然语言处理等。

不仅延迟，而且在计算性能方面也有优势。据计算，在具体应用中，龙嘉智的专用集成电路产品用于语音人工智能识别，处理能力约为英伟达特斯拉V100的13倍，功耗仅为前者的1/6。在图像人工智能识别方面，龙嘉智能的处理能力与英伟达特斯拉V100相当，响应时间小于0.12毫秒，约为V100的1%。除了语音和图像识别之外，龙家智联合运营商可以将5G边缘云计算的响应速度降低到0.12毫秒，并将整个5G边缘云计算到终端的通信计算速度延迟控制在10毫秒以内

之所以能够实现这样的性能，主要是因为龙家志独特的芯片架构。据介绍，该芯片采用分布式存储架构、双芯片网络架构、伪长指令集处理器、控制环路和数据环路划分技术和架构。这使得龙家志的人工智能芯片组能够高效地使用计算单元，并以低的固定延迟进行计算。“特别是当批次数为1 (batchsize=1)时，芯片浮点计算资源的典型利用率接近77%。”胡玉洁说：“更高的利用率意味着我们的芯片面积更小，成本更低。此外，龙值芯片组可以在没有外部存储的情况下工作，因此节省了大量系统成本和功耗。”

在人工智能计算平台的“易用性”方面，龙家智在芯片组的基础上开发了专有的编译器和SDK，支持用户开发自己的芯片应用，同时与市场上的主流计算框架兼容。此外，胡玉洁还透露，该公司正在为智能城市等垂直应用场景开发应用模板。用户可以通过简单检查功能需求来配置相应的芯片应用，希望进一步降低人工智能计算平台的应用门槛。

在商业模式上，龙家志主要通过知识产权授权和产品销售来获取收入。目前，龙佳芝的图像和语音识别FPGA产品已经销售，通用可编程专用集成电路产品也已形成。电信运营商、汽车制造商和其他大公司也采用了知识产权授权。

龙佳芝认为，人工智能计算平台的构建必须能够适应不断发展的人工智能算法，这就需要强大性能和灵活性的统一。因此，在下一步，龙家之人工智能计算平台将继续集成专用集成电路的高性能和FPGA的灵活性。“决定计算平台或芯片性能的关键是计算单元和计算单元的互连。”胡玉洁说：“龙佳芝的计划是将可编程门阵列嵌入到专用集成电路中来连接计算单元，并利用可编程门阵列的灵活性来实现不同应用的不同连接，从而使高性能专用集成电路能够灵活地适应算法的发展。”

在团队方面，龙家志的核心团队在技术和业务方面都有丰富的经验。公司创始人兼首席执行官胡玉洁先后在爱立信、伯通和Cadence工作，在低延迟ASIC和DSP领域拥有15年的研发经验。该公司董事兼执行主席萨姆海德里(Sam Heidari)曾担任Quantenna Communications董事会主席兼首席执行官(OnSemi于2019年以11亿美元收购Quantena)，并在多家私营和上市公司担任技术主管。他是全球半导体联盟的董事会成员。业务发展高级副总裁帕特里克昂(Patrick Ang)是半导体行业成功的持续企业家，也是上市公司的资深高管。他曾在多家上市公司担任过高级管理职位，包括OPTi的EVP、创新技术副总裁和ESS技术首席运营官。他有30多年的半导体行业经验。

据悉，龙佳芝已于2017年完成天使轮融资，并于2020年初获得预a股融资。目前，第一轮融资仍在进行中。

龙嘉智科技和SiFive达成合作，共同开发人工智能处理器平台。