量化 问答列表

如何有效地链接 avx2 内部函数以执行算术运算链?

作者:Stef1611 提问时间:9/7/2023

我写了一个大型程序来模拟分子系统。我在处理器是 Intel(R) Core(TM) i7-6700 CPU @ 3.40GHz 的台式计算机上运行它。大多数时间 (75%) 用于计算 4 个邻居的 L...

加速 pytorch 代码的困难:使用复杂的多对一非线性函数训练 MLP

作者:Steven Sagona 提问时间:9/1/2023

总之: 我的目标是弄清楚是否可以使用特定的复杂非线性函数来替换神经网络中的单个神经元。理想情况下,我想证明我可以训练MNIST的数字图片。我已经尝试过 pytorch,但它太慢了,主要是因为我无法弄...

如何计算两个向量的笛卡尔积?

作者:Claire 提问时间:9/11/2023

有没有一种有效的方法可以计算 DolphinDB 中两个向量的笛卡尔积? 例如,给定向量 ['aa', 'bb'] 和 ['cc', 'dd'],期望的结果是 ['aacc', 'aadd', 'b...

如何在YOLO-NAS中使用PTQ/QAT/INT8进行物体检测?

作者:mochiHotpot 提问时间:9/12/2023

我已经通过本教程将我的模型自定义训练为 PTQ 和 QAT 在此之后,我从输出中获得了一些日志文件、.pth 文件和 ptq/qat onnx 文件,如本教程所示。在本教程的底部,它说需要将 qat...

为什么我的 tflite 模型在 Int8 中的所有 Conv2D 权重在动态范围量化转换后都不是所有?

作者:Christian Steinmeyer 提问时间:9/18/2023

我有一个 Keras 模型,并按照训练后动态范围量化指南将其转换为 tflite 模型。然而,在使用 Netron 进行检查时,我感到困惑:模型的一些 Conv2D 层使用 Int8 类型的权重,而其...

对 https://www.quantconnect.com/api/v2/projects/update 的 quantconnect POST 请求失败,状态代码为 413

作者:Krish nandan Das 提问时间:9/20/2023

当我做精益云推送时, 无法推送“Library\filename”:向 https://www.quantconnect.com/api/v2/projects/update 发送 POST 请求失...

对数正常蒙特卡洛

作者:THEOP TH 提问时间:9/27/2023

我正在尝试使用对数正态分布拟合蒙特卡洛模拟,但我不明白为什么实际波动率(模拟后的波动率)如此之高,它应该对应于预期波动率的最小值。 (蒙特卡洛是模拟一个由2种资产组成的投资组合,这些资产是私人公司 -...

关于gcc pragmas for vectorization的问题

作者:richard gostanian 提问时间:10/3/2023

James Reinders 有一个关于矢量化的非常翔实的 youtube 视频。 https://www.youtube.com/watch?v=hyZMssi_gZY 在其中,他提到了两个编译...

ifelse 真的每次都计算它的两个向量吗?慢吗?

作者:Ricardo Saporta 提问时间:4/29/2013

真的同时计算 和 向量吗 -- 就像每个向量的整体一样? 还是只是从每个向量中计算一些值?ifelseyesno 还有,真的有那么慢吗?ifelse...


共49条 当前第5页