这是合并 LoRA 权重的正确方法吗?
作者:Nukaccino 提问时间:11/16/2023
我使用带有 HuggingFace 库的 LoRA 对 RoBERTa 进行了微调,生成了多个 LoRA 文件。 我想在不更改原始模型的情况下合并这些 LoRA 权重.所以我写了如下代码。 fro...
Torch 问答列表
作者:Nukaccino 提问时间:11/16/2023
我使用带有 HuggingFace 库的 LoRA 对 RoBERTa 进行了微调,生成了多个 LoRA 文件。 我想在不更改原始模型的情况下合并这些 LoRA 权重.所以我写了如下代码。 fro...
作者:Zhu Neo 提问时间:11/17/2023
这个问题在这里已经有答案了: Python:-u 选项的意义? (2 个答案) 5天前关闭。 python -u -m torch.distributed.launch --nproc_per_no...
作者:Xing 提问时间:11/17/2023
拜托,我想知道我的模型或损失函数或数据集是否错误。 我尝试打印了很多东西进行调试,但仍然不知道问题出在哪里。 我的源代码是: import time import torch import to...
作者:Alvaro Ciudad 提问时间:11/18/2023
您好 StackOverflow 社区 :),我需要利用轴 1 中 https://www.tensorflow.org/api_docs/python/tf/clip_by_norm 的功能,用于 ...
作者:Sai Kishore 提问时间:11/17/2023
我已经为我想执行的矩阵乘法编写了一个基于 for 循环和基于 einsum 的代码。你能帮我检查它的正确性吗? ` w = torch.randn((10,32,32)) x = torch.ra...
作者:Dr. Ernesto Chinchilla 提问时间:11/17/2023
我对使用 RNN 学习概率分布感兴趣。我附上了一些手写的草图来帮助解释。 想象一个电路,我可以测量这个电路中的某些物体。电路由向量 b 中的元素指定。 电路的输出可以按顺序测量(即:第一个对象1、...
作者:SoftwareCo 提问时间:11/15/2023
我不知道如何在按照 pytorch-geometric 从 csv 加载数据时将 PyTorch 帧编码用于节点特征 我可以简单地将编码类替换为上面链接中定义的编码类,如下所示吗? from to...
作者:carrotrabbit 提问时间:11/16/2023
我想训练一个CNN模型来预测一些发展: 我的数据由成对的图像组成,每对由两张 256*256 大小的图像组成,代表在 0 小时和 24 小时拍摄的胸部 X 光片的时间序列。使用 PyTorch 加载...
作者:Aaron C 提问时间:11/15/2023
目标: 找到一种有效/最快的方法来逐列迭代表,并在 python 或使用 python 库在每列上运行函数。 背景: 我一直在探索提高功能速度的方法。这是因为我想运行两个模型/算法,一个小,一个大(...
作者:antekes1 提问时间:11/16/2023
我有一个问题。在 flask 中,当我将 comented 代码放入 dev 中时,我有一个错误。dev 之外的代码有效。我不知道为什么。 法典: import random import jso...