Triton 问答列表

为什么这个 triton 内核会崩溃?

作者:Didier 提问时间:11/15/2023

我找不到这段代码中的错误是什么,它假设合并大小为 (n, k) 的 p 张量,使得合并的大小为 (n, k) 的张量具有这些 p 张量的交替元素,而每行没有双倍子。(或者,如果您可以建议其他代码(在 ...

尝试为 GRPC 请求创建 ManagedChannel 时,类 io.grpc.Channel 的加载程序约束冲突

作者:Ayush Vachaspati 提问时间:11/17/2023

我正在尝试设置 grpc 客户端以在我的项目中向 Kotlin 中的 Nvidia Triton 推理服务器(版本:23.06-py3)发出推理请求。 我已经使用 gradle 设置了 protoc...


共2条 当前第1页