Triton语言和编译器

185次阅读
没有评论

大家好,欢迎收听本期播客。今天要和大家分享的是关于 OpenAI 开发的 Triton 语言和编译器的开源项目。如果你对人工智能和编程领域感兴趣,那么这个项目一定会引起你的关注。

首先,让我向大家介绍一下 Triton。Triton 是一个用于编写高效自定义深度学习原语的语言和编译器。它的目标是提供一个开源环境,让我们能够以比 CUDA 更高的生产力编写快速的代码,同时又比其他现有的领域特定语言(DSL)更具灵活性。

Triton 的基础是在 MAPL2019 的一篇论文中描述的。这篇论文名为《Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations》。如果你使用了 Triton,不妨考虑引用这篇论文,以表达对该项目的支持。

接下来,我将为大家介绍如何安装和使用 Triton。你可以通过 pip 来安装最新稳定版本的 Triton:

pip install triton

Triton 的二进制包适用于 CPython 3.7-3.11 和 PyPy 3.8-3.9。

如果你想获取最新的 Nightly 版本,可以使用以下命令进行安装:

pip install -U --index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/Triton-Nightly/pypi/simple/ triton-nightly

当然,你也可以从源代码构建和安装 Triton。首先,你需要将 Triton 的代码仓库克隆到本地:

git clone https://github.com/openai/triton.git

然后进入项目目录,并执行以下命令进行安装:

cd triton
pip install ninja cmake wheel  # 构建时的依赖
pip install -e python

如果你想使用虚拟环境,可以执行以下命令:

cd triton
python -m venv .venv --prompt triton  # 创建虚拟环境
source .venv/bin/activate  # 激活虚拟环境

pip install ninja cmake wheel  # 构建时的依赖
pip install -e python

需要注意的是,Triton 使用 LLVM 来生成针对 GPU 和 CPU 的代码。通常情况下,Triton 会下载预构建的 LLVM,但你也可以自行构建并使用自定义的 LLVM。请注意,LLVM 没有稳定的 API,因此 Triton 的构建只能在特定版本的 LLVM 上工作。

最后,我还要提醒大家,OpenAI 目前正在招聘 Triton 项目的编译器工程师和内核工程师。如果你对这个领域感兴趣,不妨考虑加入我们的团队。

以上就是对 OpenAI Triton 项目的介绍和安装说明。希望通过这个播客,能够让大家对 Triton 有一个初步的了解,并且鼓励大家参与到这个项目中来。谢谢大家的收听,我们下期再见!🤖🎙️

正文完
 
评论(没有评论)