通过 PyTorch 中非常复杂的函数反向传播时遇到问题 - 无法避免就地操作
作者:poisonDartFrog 提问时间:9/14/2023
我想基于神经网络输出的一系列复杂变换来定义一个损失函数。这些转换涉及一些复杂的逻辑,如果没有就地操作,这似乎是不可能的(请参阅注释): def get_X_torch(C, c_table): "...
torch 问答列表
作者:poisonDartFrog 提问时间:9/14/2023
我想基于神经网络输出的一系列复杂变换来定义一个损失函数。这些转换涉及一些复杂的逻辑,如果没有就地操作,这似乎是不可能的(请参阅注释): def get_X_torch(C, c_table): "...
作者:Oti Dioti 提问时间:9/15/2023
我目前正在尝试使用 Pytorch“lobpcg”使用我的 GPU 对角化大型稀疏数组。当对角化由实数值组成的数组时,该函数似乎工作得很好,但是每当数组包含复杂值时,它都会返回一些令人困惑的错误消息。...
作者:Liesel_Weppen 提问时间:9/15/2023
我刚刚开始使用 huggingface transformers 库,并一直在通过 Pytorch 和 venv 对其进行试验。 如果我从 shell 激活 venv 虚拟环境,它就可以正常工作。 ...
作者:Hitul Desai 提问时间:9/15/2023
我有两个特征向量 V1(N, F1, 1) 和 V2(N, F2, 1)。我想将它们连接在维度 1 上以创建一个向量 V3(N, F1+F2, 1),并在批处理的元素(即跨 N)中应用自我注意力。为此...
作者:Kilaru Vasudeva 提问时间:9/26/2023
我正在使用来自转换器的预训练模型,该模型期望输入类型为 .但是,我有类型的输入。如何转换?torch.HalfTensortorch.FloatTensor...
作者:sdg 提问时间:9/20/2023
我正在使用 、 和 开发深度学习模型。当我运行时,我收到数百条以下警告:pytorchpytorch-lightningsegmentation-models-pytorchpytorch_light...
作者:anya 提问时间:9/30/2023
闭。这个问题与编程或软件开发无关。它目前不接受答案。 这个问题似乎不是关于特定的编程问题、软件算法或程序员主要使用的软件工具。如果您认为该问题在另一个 Stack Exchange 站点上是主题,您...
作者:javeqx 提问时间:10/5/2023
我正在尝试在训练 ResNet/ResNeXt 模型时获得宏和加权精度、召回值。 如何编译模型: f1 =tfa.metrics.F1Score(num_classes=2, average='we...
作者:xaviersjs 提问时间:10/6/2023
我知道每个IEEE的float32在对10^-7量级的值求和时存在精度问题。我完全希望看到架构(包括 GPU)之间的计算差异。但是,现在我正在测试 pytorch 模块的两种不同实现,并在一侧和另一侧...
作者:Astrid Hofmann 提问时间:10/7/2023
根据我对梯度累积的理解(例如这篇文章和这篇文章),使用 vs. 应该是一样的。batch_size = xaccumulate_gradient = h, batch size = x/h 因此,这...