探索Intel Ultra CPU中的NPU与DirectML的结合 2024-06-03 作者 C3P00 在人工智能（AI）逐渐融入各类应用的今天，新的技术正在不断改变我们的PC体验。Intel Ultra CPU中的神经处理单元（NPU）便是其中的一个亮点。本文将详细介绍NPU的功能和DirectML在Windows上的应用，帮助读者更好地理解这两者的结合如何推动AI的发展。 什么是NPU？ NPU，全称为神经处理单元（Neural Processor Unit），是一种专门用于执行机器学习工作负载的处理器。与传统的CPU和GPU不同，NPU专门设计用于处理AI计算任务，具有高性能和低功耗的特点。这种创新的处理器能够释放CPU和GPU的计算资源，专注于高效执行AI工作负载，从而为用户提供更流畅的AI体验。 根据Intel社区博客《解锁Intel的神经处理单元与DirectML》[1]，Intel Ultra CPU中的NPU集成在SoC中，能够以相对较低的功耗执行高性能AI计算任务。这种设计不仅提升了AI计算的效率，还为PC带来了更多的可能性，例如创新的AI应用和更强大的生产力工具。 什么是DirectML？ DirectML是Windows上的机器学习平台API，它提供了对硬件加速器的通用抽象层。DirectML最初支持GPU，现在也扩展支持NPU。它是DirectX家族的一部分，与DirectX 12兼容，并且可以与其他DirectX组件（如DirectX 12）集成。此外，DirectML还与流行的机器学习和工具框架（如ONNX Runtime和Olive）集成，简化了在Windows生态系统中开发和部署AI体验的过程。 在《DirectML：加速Windows上的AI，现在支持NPU》[2]一文中提到，DirectML是一种低级别、硬件抽象的API，它能够直接访问现代设备（如GPU和NPU）的硬件功能。这种设计使得开发者可以利用DirectML在Windows平台上创建高效的AI应用。 DirectML与Intel NPU的结合 DirectML已经推出了对Intel Core Ultra处理器上NPU加速的开发者预览版本。这一版本支持在新的Windows 11设备上使用Intel Core Ultra处理器的NPU，并且可以运行一部分经过优化的机器学习模型。尽管目前的开发者预览版本仍处于初期阶段，只支持特定的模型，并且可能存在一些兼容性和性能方面的问题，但这个版本标志着AI PC时代的开始。 根据DirectX开发者博客《Introducing Neural Processor Unit (NPU) support in DirectML (developer preview)》[3]，DirectML团队正在努力改进兼容性和性能，并期待用户的反馈和经验。这一新功能的推出将为开发者提供更多的工具和资源，帮助他们在Windows平台上创建更强大的AI应用。 总结 NPU和DirectML的结合为PC带来了全新的AI体验。Intel Ultra CPU中的NPU能够高效地执行AI计算任务，而DirectML提供了与这些硬件加速器交互的简便途径。这种结合不仅提升了AI计算的性能，还为开发者提供了更多的可能性。 未来，我们期待看到更多基于NPU和DirectML的创新AI应用，为用户带来更丰富的AI体验。 Learn more: Introducing Neural Processor Unit (NPU) support in DirectML (developer preview) – DirectX Developer Blog DirectML: Accelerating AI on Windows, now with NPUs – DirectX Developer Blog Unlocking Intel’s Neural Processing Unit with DirectML – Intel Community
在人工智能（AI）逐渐融入各类应用的今天，新的技术正在不断改变我们的PC体验。Intel Ultra CPU中的神经处理单元（NPU）便是其中的一个亮点。本文将详细介绍NPU的功能和DirectML在Windows上的应用，帮助读者更好地理解这两者的结合如何推动AI的发展。
什么是NPU？
NPU，全称为神经处理单元（Neural Processor Unit），是一种专门用于执行机器学习工作负载的处理器。与传统的CPU和GPU不同，NPU专门设计用于处理AI计算任务，具有高性能和低功耗的特点。这种创新的处理器能够释放CPU和GPU的计算资源，专注于高效执行AI工作负载，从而为用户提供更流畅的AI体验。
根据Intel社区博客《解锁Intel的神经处理单元与DirectML》[1]，Intel Ultra CPU中的NPU集成在SoC中，能够以相对较低的功耗执行高性能AI计算任务。这种设计不仅提升了AI计算的效率，还为PC带来了更多的可能性，例如创新的AI应用和更强大的生产力工具。
什么是DirectML？
DirectML是Windows上的机器学习平台API，它提供了对硬件加速器的通用抽象层。DirectML最初支持GPU，现在也扩展支持NPU。它是DirectX家族的一部分，与DirectX 12兼容，并且可以与其他DirectX组件（如DirectX 12）集成。此外，DirectML还与流行的机器学习和工具框架（如ONNX Runtime和Olive）集成，简化了在Windows生态系统中开发和部署AI体验的过程。
在《DirectML：加速Windows上的AI，现在支持NPU》[2]一文中提到，DirectML是一种低级别、硬件抽象的API，它能够直接访问现代设备（如GPU和NPU）的硬件功能。这种设计使得开发者可以利用DirectML在Windows平台上创建高效的AI应用。
DirectML与Intel NPU的结合
DirectML已经推出了对Intel Core Ultra处理器上NPU加速的开发者预览版本。这一版本支持在新的Windows 11设备上使用Intel Core Ultra处理器的NPU，并且可以运行一部分经过优化的机器学习模型。尽管目前的开发者预览版本仍处于初期阶段，只支持特定的模型，并且可能存在一些兼容性和性能方面的问题，但这个版本标志着AI PC时代的开始。
根据DirectX开发者博客《Introducing Neural Processor Unit (NPU) support in DirectML (developer preview)》[3]，DirectML团队正在努力改进兼容性和性能，并期待用户的反馈和经验。这一新功能的推出将为开发者提供更多的工具和资源，帮助他们在Windows平台上创建更强大的AI应用。
总结
NPU和DirectML的结合为PC带来了全新的AI体验。Intel Ultra CPU中的NPU能够高效地执行AI计算任务，而DirectML提供了与这些硬件加速器交互的简便途径。这种结合不仅提升了AI计算的性能，还为开发者提供了更多的可能性。
未来，我们期待看到更多基于NPU和DirectML的创新AI应用，为用户带来更丰富的AI体验。
Learn more: