英特尔oneAPI：化解异构挑战拥抱数据时代

回顾过去35-40年计算的发展，计算能力的增长率呈指数级增长，从一切数字化、一切互联网化、一切移动化到一切云化，现在都进入了一切智能化。在PC时代，互联网用户增加了10亿。硬件和软件组合的典型例子是PC上的X86架构和Windows系统的组合。我们进入了移动时代，从10亿互联网用户增长到100亿台设备，增长了10倍。硬件和软件的组合也发生了变化，变成了ARM架构和iOS和Android操作系统，Linux系统和X86平台也占据了一部分市场。从10亿增长到100亿，实现了指数级增长。

当我们进入以数据为中心的时代时，异构计算也随之而来。在过去，CPU、GPU、FPGA等都可以单独使用。如今，传统的通用架构远远不能满足需求。多种架构的组合，包括CPU，GPU，FPGA，甚至AI加速器，使其能够承受数据密集型和复杂的工作负载。在未来，这种异构计算将成为标准。

[第1003号]

目前，无论是CPU、GPU还是FPGA等硬件平台，开发人员都需要维护一个独立的代码库，这需要使用不同的语言、库和软件工具进行编程。这是一项非常复杂和耗时的任务，大大降低了开发速度并阻碍了创新。具体来说，在异构计算中，用户可能需要同一数据中心中的虚拟机，需要用于各种解压缩和加速器的FPGA，以及用于深度学习和人工智能的GPU。这需要在数据中心中使用不同的硬件和不同的软件。如果仍然是碎片化的，对于用户来说，即使应用程序在未来进行扩展，硬件平台在未来进行升级，也是一个非常高的成本。我以前做的一切都是白色的。为了解决这个问题，一个API出现了。OneAPI是一个以开发人员为中心的平台，它简化了用于多架构编程的统一编程模型，使开发人员可以自由选择架构，大大降低了使用不同代码库、编程语言、编程工具和工作流的复杂性。oneAPI使用统一的简化语言和库来表示并行化，并且基于行业标准和开放规范，并且能够与现有的HPC编程模型进行互操作。

OneAPI包括基于开放规范的行业倡议和测试版产品。该规范包括一种编程语言，一个强大的API库和底层硬件接口。OneAPI Beta产品为开发人员提供了一整套开发工具，包括编译器、编程库和分析器，并将这些工具打包为特定领域的工具包。早期的oneAPI测试版主要支持英特尔至强可扩展处理器、集成显卡的英特尔酷睿处理器以及英特尔FPGA未来支持更多硬件。oneAPI可实现与现有行业标准的互操作性。oneAPI开放规范包括一种跨体系结构编程语言Data Parallel C++ DPC++、一组API编程库和底层硬件接口oneAPI Level Zero。这些组件使英特尔和其他公司能够创建自己的One API实现来支持他们的产品，或者基于One API开发新产品。oneAPI规范被设计为支持来自多个供应商的各种CPU和加速器。oneAPI测试版目前支持Intel CPU Intel Xeon CoreOne API将在未来支持更多的Intel加速器架构。DPC++是专为OneAPI设计的领先编程语言，它基于众所周知的C和C++语言。它集成了Kronos Group的SYCL*，以实现跨CPU和加速器的数据并行和异构编程，简化了编程，提高了跨不同硬件的代码重用性，并可针对特定加速器进行调整。DPC++语言扩展将通过开发人员社区项目进行扩展，以简化数据并行编程。这个项目是向公众开放的，它将通过开发人员的共同努力而不断发展。许多库和组件将是开源的或计划开源的。一位英特尔工程师说：“开发人员有扩展的想法，这对开发人员来说并不是一个很大的障碍。在第二层，我们将实现这个目标，因为它使计算更加复杂。这是因为可能会有AI应用程序。有更多的跨架构/跨平台应用程序和各种框架支持。所有这些都依赖于OneAPI或开发后开发人员的支持。英特尔不仅打开了一个非常重要的头，而且投入了大量的人力和物力，之后应该是开发人员和我们一起推进这件事的过程。用形象类比，不同架构的选择就像是“自助餐”，有各种各样的菜肴，可以随意组合，当你想吃沙拉的时候，你想吃沙拉，你想吃红肉。在此之前，一些公司提供了封闭的项目，有些公司只提供红肉，而其他公司只提供沙拉。通过对One API的支持，企业客户将能够更灵活地选择任何架构组合。OneAPI的愿景是通过软件实现硬件的灵活组合。第二，OneAPI是英特尔软件与软件相结合战略的重要一步。目前，数据量是如此之大，远远超过了计算机可以完全处理的负载和容量，我们需要了解如何处理无法放入计算机的大规模数据处理方法。下一个挑战不是简单的10%问题，而是如何将性能提高10倍甚至100倍。英特尔首席架构师Raja Koduri认为，摩尔定律将在未来几年带来出色的性能提升。通过软件和硬件的结合，摩尔定律将增加10倍。这是因为摩尔定律带来了更多的晶体管，而软件则可以从更多晶体管中获得极致性能。将软件和硬件结合起来是英特尔的战略重点，也是未来巨大的机遇。

英特尔认为，对于新硬件架构的性能提升潜力，每一个数量级，软件将带来两位数的性能提升。英特尔首席架构师Raja Koduri表示：“软件优化可以为Java带来6倍的性能提升，为持久性内存带来8倍的性能提升，为AI领域带来28倍的性能提升，因此性能提升的空间非常大，而这只能在同一硬件上的软件上实现。为此，英特尔在2018年12月的“架构日”活动中提出了六大技术支柱战略。流程和封装，架构，内存和存储，互连，安全性和软件。软件是英特尔的重要战略资产，英特尔将通过其软件业务充分发挥英特尔的整体增长潜力。英特尔希望通过整个开源生态系统的协作，在以数据为中心的时代推动产品和服务的创新。“英特尔公司副总裁兼系统软件产品总经理苏义德强调。英特尔拥有一个由1200万活跃开发人员组成的生态系统，涵盖PC、网络和数据中心。无论客户是对高性能、低功耗还是对成本敏感，英特尔都拥有完整的产品线来满足用户的不同需求。通过单一的集成软件堆栈，英特尔希望通过单一的API实现高度简化的流程，以满足客户在性能、功耗和成本优化方面的所有需求。在其软件与软件相结合的战略中，英特尔在其“架构日”活动中同时宣布推出面向多元化计算时代的“oneAPI”项目。该项目包括一个全面、集成的开发工具组合，用于将软件与硬件相匹配，从而最大限度地提高软件代码的速度。“人工智能算法的大部分进化和创新都发生在更高的层次上，我们希望在更低的层次上提供帮助和推动。此外，我们还在继续优化我们的oneAPI。这使得想要将硬件性能提高10%、20%或50%的程序员可以轻松地在这个框架中实现，而无需自己编写语言。“Raja Koduri说。一个API的通用版本于2019年11月发布。OneAPI包括基于开放规范的行业倡议和测试版产品。英特尔指出，OneAPI并不是什么新东西，而是几十年前积累的延伸。考虑到工作负载变得越来越复杂，这种扩展是有意义的。总的来说，开发效率和实际产品运营效率都可以从中受益。OneAPI专注于培养生态系统和合作伙伴，拥抱数据时代在OneAPI设计之初，英特尔考虑了如何提供整个Xe架构的最佳整体性能，无论是高性能还是低功耗。此外，One API还旨在确保满足英特尔所有其他不同计算和应用程序的需求。无论是CPU、FPGA还是加速器，One API都可以与它们完美配合设计。OneAPI是英特尔的一项创新，通过软件最大限度地提高硬件性能，并在软件层面简化和统一整个SVMS架构。Raja Koduri指出，one API是一个非常低级的抽象框架，主要面对的是未来不同计算元素的集成，他希望从基础上更好地进行功能抽象和集成。SVMS体系结构由标量（Scalar）、向量（Vector）、矩阵（Matrix）、空间（Spatial）四种体系结构组成，分别对应CPU、GPU、FPGA、加速器，它们的组合方式多种多样。通过这种体系结构的分类方法，我们可以看到CPU是最通用的体系结构，GPU比CPU更高效、更专用，FPGA和加速器更节能、更灵活。

“英特尔的战略是涵盖所有架构：CPU、GPU、FPGA和加速器。Raja Koduri指出，CPU仍然是最重要的架构，英特尔将继续提高每个CPU的性能，以保持其作为最强大计算架构的地位。GPU策略主要是为了提高能源效率，从而提高英特尔的整体生产力和效率。在FPGA领域，英特尔目前已经非常成功，推出了许多重要的FPGA产品。此外，加速器是英特尔非常重要的一个电源点。在oneAPI生态系统建设方面，英特尔主要在三个层面上推进：英特尔在全球拥有强大的开发者社区和非常广泛的社区合作伙伴。英特尔将从自己的开源社区开始。其次，我们将与大学大规模合作，将他们的技术和案例结合起来，建立一个完整的社区。第三，与全球开发者更全面的合作，开发者不仅指个人开发者，还指腾讯、阿里等大型企业组织，英特尔将与所有企业紧密合作，支持OneAPI生态系统。截至11月17日，已有30多家行业领导者和研究机构支持OneAPI概念，包括高性能计算领域的领导者、人工智能创新者、硬件/OEM、独立软件开发商、云服务提供商和大学。2019年5G的正式商用，将加速物联网的深度应用，意味着更多物联网节点智能终端产品将成为落地应用。据统计，全球物联网设备基础将在2020年达到307亿台，到2025年将达到754亿台。这些数据产生大量数据，这些数据的存储、安全性和计算必须依赖于数据中心、云服务和其他软件业务。英特尔将利用其在软件业务方面的优势，推动整个行业向前发展，重点是培育生态系统。并与合作伙伴一起面对这个巨大的市场应用需求，共同抢占蛋糕。（评论/乐趣）