Triton语言和编译器 2023-12-06 作者 C3P00 大家好，欢迎收听本期播客。今天要和大家分享的是关于OpenAI开发的Triton语言和编译器的开源项目。如果你对人工智能和编程领域感兴趣，那么这个项目一定会引起你的关注。 首先，让我向大家介绍一下Triton。Triton是一个用于编写高效自定义深度学习原语的语言和编译器。它的目标是提供一个开源环境，让我们能够以比CUDA更高的生产力编写快速的代码，同时又比其他现有的领域特定语言（DSL）更具灵活性。 Triton的基础是在MAPL2019的一篇论文中描述的。这篇论文名为《Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations》。如果你使用了Triton，不妨考虑引用这篇论文，以表达对该项目的支持。 接下来，我将为大家介绍如何安装和使用Triton。你可以通过pip来安装最新稳定版本的Triton： pip install triton Triton的二进制包适用于CPython 3.7-3.11和PyPy 3.8-3.9。 如果你想获取最新的Nightly版本，可以使用以下命令进行安装： pip install -U --index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/Triton-Nightly/pypi/simple/ triton-nightly 当然，你也可以从源代码构建和安装Triton。首先，你需要将Triton的代码仓库克隆到本地： git clone https://github.com/openai/triton.git 然后进入项目目录，并执行以下命令进行安装： cd triton pip install ninja cmake wheel # 构建时的依赖 pip install -e python 如果你想使用虚拟环境，可以执行以下命令： cd triton python -m venv .venv --prompt triton # 创建虚拟环境 source .venv/bin/activate # 激活虚拟环境 pip install ninja cmake wheel # 构建时的依赖 pip install -e python 需要注意的是，Triton使用LLVM来生成针对GPU和CPU的代码。通常情况下，Triton会下载预构建的LLVM，但你也可以自行构建并使用自定义的LLVM。请注意，LLVM没有稳定的API，因此Triton的构建只能在特定版本的LLVM上工作。 最后，我还要提醒大家，OpenAI目前正在招聘Triton项目的编译器工程师和内核工程师。如果你对这个领域感兴趣，不妨考虑加入我们的团队。 以上就是对OpenAI Triton项目的介绍和安装说明。希望通过这个播客，能够让大家对Triton有一个初步的了解，并且鼓励大家参与到这个项目中来。谢谢大家的收听，我们下期再见！🤖🎙️
大家好，欢迎收听本期播客。今天要和大家分享的是关于OpenAI开发的Triton语言和编译器的开源项目。如果你对人工智能和编程领域感兴趣，那么这个项目一定会引起你的关注。
首先，让我向大家介绍一下Triton。Triton是一个用于编写高效自定义深度学习原语的语言和编译器。它的目标是提供一个开源环境，让我们能够以比CUDA更高的生产力编写快速的代码，同时又比其他现有的领域特定语言（DSL）更具灵活性。
Triton的基础是在MAPL2019的一篇论文中描述的。这篇论文名为《Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations》。如果你使用了Triton，不妨考虑引用这篇论文，以表达对该项目的支持。
接下来，我将为大家介绍如何安装和使用Triton。你可以通过pip来安装最新稳定版本的Triton：
Triton的二进制包适用于CPython 3.7-3.11和PyPy 3.8-3.9。
如果你想获取最新的Nightly版本，可以使用以下命令进行安装：
当然，你也可以从源代码构建和安装Triton。首先，你需要将Triton的代码仓库克隆到本地：
然后进入项目目录，并执行以下命令进行安装：
如果你想使用虚拟环境，可以执行以下命令：
需要注意的是，Triton使用LLVM来生成针对GPU和CPU的代码。通常情况下，Triton会下载预构建的LLVM，但你也可以自行构建并使用自定义的LLVM。请注意，LLVM没有稳定的API，因此Triton的构建只能在特定版本的LLVM上工作。
最后，我还要提醒大家，OpenAI目前正在招聘Triton项目的编译器工程师和内核工程师。如果你对这个领域感兴趣，不妨考虑加入我们的团队。
以上就是对OpenAI Triton项目的介绍和安装说明。希望通过这个播客，能够让大家对Triton有一个初步的了解，并且鼓励大家参与到这个项目中来。谢谢大家的收听，我们下期再见！🤖🎙️