跳到主内容
@wquguru
精选70Gorden Sun产品发布/更新多源精选 ×6

谷歌开源TorchTPU实现PyTorch原生支持TPU

谷歌开源TorchTPU:让主流AI框架直接跑在谷歌TPU上

原文
发到 X

谷歌开源TorchTPU:让主流AI框架直接跑在谷歌TPU上

目前绝大多数AI开发者都习惯使用PyTorch来编写和训练模型,但这类代码通常专门为英伟达显卡优化,很难直接高效运行在谷歌自研的TPU加速芯片上。

谷歌团队开源了TorchTPU工具包,通过在底层定制专用的计算内核并接入代码编译缓存,用户只需在云端TPU主机上通过pip或构建工具Bazel安装该扩展包,就能无缝衔接现有工作流。

接入后,开发者无需重写核心算法,就能直接调用谷歌TPU来训练和运行主流大模型(如Llama、Qwen等)。模型能够自动发挥TPU硬件在数据并行和张量并行上的多芯片协同加速能力,同时兼容主流的编译优化接口,大幅降低了使用谷歌硬件运行前沿AI模型的门槛和调试成本。

项目地址:https://github.com/google-pytorch/torch_tpu

更进一步:量化金融体系

看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力

进入量化体系 →