这一切看起来都很好，但现在显示它在ONNXRuntime中工作。我一直无法，或找到任何人，可以得到远程相同的答案之间的Matlab和ONNXRuntime。我不确定这是我的python代码还是导出的。onnx文件，但到目前为止，我还没有看到它在python与ONNXRuntime中工作的一个例子。我从Mathworks看到的唯一例子是使用一个随机数组来给出一个答案https://stackoverflow.com/questions/62372645/run-inference-using-onnx-model-in-python-input-incompatibility-problem
有没有人能够将他们训练过的模型从Matlab导出到ONNX，并在另一个环境中使用它?

@Jin，你可以使用“importONNXLayers”导入layerGraph，添加输出层，并使用“assembleNetwork”将layerGraph转换为DAGNetwork。

@David—如果你使用的是Windows，那么你可能会碰到这个bug://www.tatmou.com/金宝appsupport/bugreports/2465087．bug报告中列出了一个解决方案。

在2020年起作用，但在2021年崩溃。

好的，现在，我的matlab版本2018b，我发现了一个问题:
错误使用nnet.internal.cnn.onnx.translateONNX(35)行
目前还不支持具有多个输出的模型。金宝app

出错nnet.internal.cnn.onnx.importONNXNetwork(第8行)
LayerOrgraph=nnet.internal.cnn.onnx.translateONNX（modelProto，OutputLayerType，
UserImageInputSize,真正的);

出错importONNXNetwork(53)行
Network = net.internal.cnn.onnx. importonnxnetwork (ModelFile, varargin{:});

出错test_network_01(4号线)
净= importONNXNetwork(“best.onnx”、“OutputLayerType”、“分类”、“类”,类)
如何解决?

亲爱的Ting苏:
复制onnxpb.dll后，现在可以工作了，非常感谢！

亲爱的苏Ting,
我在R2021a (9.10.0.1602886 (R2021a))上也遇到了这个问题，并尝试跟随，它工作。
复制文件C:\ProgramData\MATLAB\Suppo金宝apprtPackages\R2021a\bin\win64\onnxpb.dll C:\ProgramData\MATLAB\SupportPackages\R2021a\toolbox\nnet\SupportPackages\onnx\+nnet\+internal\+cnn\+onnx\

崔,
我们的工程师找到了原因和解决办法。您可以尝试以下命令吗?
mv C: \ ProgramData \ MAT金宝appLAB \ SupportPackages \ R2021a \ bin \ win64 \ onnxpb.dll C: \ ProgramData \ MATLAB工具箱\ SupportPackages \ R2021a \ \ nnet \ SupportPackages \ onnx \ + nnet \ +内部\ + cnn \ + onnx \

亲爱的Ting苏:
我使用matlab2021a，转换器的ONNX模型格式(版本21.1.0)

类似的问题没有得到正确的回答://www.tatmou.com/matlabcentral/answers/494277-onnx-export-yields-error

你好,崔,
您能告诉我们您使用的是哪个版本的MATLAB吗？

2021.3.15更新：运行错误报告
无论是导入还是导出常用的onnx模型(resnet50、resnet18等)，都出现了错误
--------------------------------- 进口yolov5.onnx ---------------------------------------
错误使用nnet.internal.cnn.onnx.onnxmex
无效的MEX文件“C:\ProgramData\MATLAB\SupportPa金宝appckages\R2021a\toolbox\nnet\SupportPackages\onnx\+nnet\+internal\+cnn\+onnx\onnxmex.mexw64”：找不到指定的模块。
net.internal.cnn.onnx. modelproto错误(第32行)
ModelPtr = onnxmex(int32(FuncName.EdeserializeFromFile)， filename);
Error in net.internal.cnn.onnx. importonnxfunction(第8行)
modelProto = nnet.internal.cnn.onnx.ModelProto (inputFilename);
importONNXFunction错误(第39行)
params = net.internal.cnn.onnx. importonnxfunction (modelfile, outputFunctionName);
onnxtest错误(第3行)
params=importonxfunction（onnxpath，'yolov5Fcn'）；
--------------------------------- 出口resnet50.onnx ---------------------------------------
错误使用nnet.internal.cnn.onnx.onnxmex
无效的MEX文件“C:\ProgramData\MATLAB\SupportPa金宝appckages\R2021a\toolbox\nnet\SupportPackages\onnx\+nnet\+internal\+cnn\+onnx\onnxmex.mexw64”：找不到指定的模块。
nnet.internal.cnn.onnx.ModelProto/writeToFile（第52行）中出错
ModelPtr = onnxmex (int32 (FuncName.EnewModelProto));
在net.internal.cnn.onnx. exportonnxnetwork错误(第38行)
writeToFile（modelProto，文件名）；
exportONNXNetwork错误(第38行)
nnet.internal.cnn.onnx.exportONNXNetwork(网络、文件名、变长度输入宗量{:});

2021.3.3更新:无法导入resnet3D模型??
//www.tatmou.com/matlabcentral/answers/761086-importonnxlayers-importonnxnetwork-and-importonnxfunction-can-t-import-my-onnx-model

无法导入yolov3.onnx？？？
//www.tatmou.com/matlabcentral/answers/640365-importonnxfunction-cannot-import-yolov3-onnx

R2020b中引入了“importONNXFunction”函数，非常好，但是导入的函数可读性差，不容易手工修改;另外，mathworks是否计划引入“exportONNXFunction”函数?我个人建议mathworks应该增强自定义层的灵活性，可读性将会大大增强!

什么时候支持Opse金宝appt版本10校准量化onnx导入?比如量化的resnet50?
链接：https://pan.baidu.com/s/1oMcm2w4r5bUFU-RAqV8AUg
提取码:afba

更新14 Oct 2020 ?发行说明吗?

为什么这个特性不支持浅神经网络?金宝app

我如何使用我的神经网络，例如在Azure中作为模型?有什么建议吗?

如何下载ONNX模型格式的深度学习工具箱转换器并离线安装它(未连接到互联网)

文档说tanhLayer是支持的，但是当我尝试导出它时，我得到的是:金宝app
占位符2占位符运算符：com.mathworks

我哪里做错了?

你好,

这段代码是否适用于其他CNN架构?

谢谢,
1月

对于onnx，它应该是onnx细粒度的操作符，而不是粗糙的“层”，例如，我定制了一个网络层yolov3Layer，如何导出到onnx ?

目前不支持shuffle模式金宝app

尊敬的MathWorks深度学习工具箱团队：
嗨,铜

你有一个可以支持' net.cnn.layer. regionpropo金宝appsallayer '， net.cnn.layer. rpnclassificationlayer和net.cnn.layer. rpnsoftmaxlayer的新版本吗?

尊敬的MathWorks深度学习工具箱团队：
你好，我尝试使用exportONNXNetwork，我运行了这部分代码，但我看到这个错误，你能帮我吗?!
使用的例子:
%%导出到ONNX模型格式
网= squeezenet;%要导出的预训练模型
文件名=“squeezenet.onnx”;
exportONNXNetwork(净、文件名);
-------------------------------------
这个错误出现:
错误使用onnxmex
打开文件的squeezenet。onnx”失败了。

nnet.internal.cnn.onnx.ModelProto/writeToFile（第55行）中出错
onnxmex（int32（FuncName.EserializeToFile），ModelPtr，文件名）；

在net.internal.cnn.onnx. exportonnxnetwork错误(第37行)
writeToFile（modelProto，文件名）；

exportONNXNetwork错误(第40行)
nnet.internal.cnn.onnx.exportONNXNetwork(网络、文件名、变长度输入宗量{:});

亲爱的MathWorks DeepLearning工具箱团队:
当我使用另一个简单的3d cnn网络导入测试，有一个错误与错误??
我的3d网络在这里：https://drive.google.com/open?id=1vrX44WV1yWIsoNdbW5sTBQHurdMhf0c_
使用assembleNetwork出错(第47行)
无效的网络。
Error in net.internal.cnn.onnx. importonnxnetwork(第11行)
网络= assembleNetwork (LayersOrGraph);
importONNXNetwork错误(第52行)
Network = net.internal.cnn.onnx. importonnxnetwork (modelfile, varargin{:});
原因：
层'node_22':层验证失败。在Layer net.onnx. Layer. flatlayer中使用“predict”出错。该函数抛出一个错误，并且不能
执行。
错误使用交换
对于N- d数组，ORDER必须至少有N个元素。
层'node_22':层验证失败。在Layer net.onnx. Layer. flatlayer中使用“predict”出错。该函数抛出一个错误，并且不能
执行。
错误使用交换
对于N- d数组，ORDER必须至少有N个元素。
层'node_22':输入大小不匹配。这一层的输入大小与预期的输入大小不同。
这一层的输入:
From layer 'node_21' (1×4×4×512 output)

嗨,@Kristina Mikolaichuk
我很抱歉地告诉您，根据警告，当前版本不支持某些层，'nnet.cnn.layer.RegionProposalLayer'，等等，只导出支持层的权重。金宝app

你好!你能帮我个忙吗?当我试图导出更快的RCNN网络，有一些警告:

警告:ONNX不支持' net.cnn.lay金宝apper. regionproposallayer '层。导出到ONNX操作员
“com.MathWorks.Placeholder”。
警告:ONNX不支持' net.cnn.lay金宝apper. rpnsoftmaxlayer '层。导出到ONNX操作员
“com.MathWorks.Placeholder”。
警告:ONNX不支持' net.cnn.lay金宝apper. rpnclassificationlayer '层。出口ONNX
运算符“com.MathWorks.Placeholder”。

这些层在未来的更新中会被支持吗?金宝app

2019年11月15日的版本仍然无法导入和导出yolov2网络!

此版本现在支持导入三维卷积神经网络金宝app，但使用导入的三维卷积网络时，“激活”功能将失败？
我的简单3d CNN在这里:https://drive.google.com/file/d/15i0IEiNWAqqexairNFv1eITtqwMA5rYi/view?usp=sharing

仍然不能使用带有回归输出层的biLSTM层

嗨，当我从Keras网络导入图层时，发生了一个错误:
“在Keras模型中导入‘LSTM’层的功能API还不支持”金宝app
那么，我应该如何克服这个问题呢？

尊敬的MathWorks深度学习工具箱团队：
我希望特性版本能更多地支持ONNX操作符，而不仅仅是目前的28个操作金宝app符。
希望以后版本更丰富的支持ONNX运营商,不仅仅只是目前的28种运营商。
到目前为止，“importCaffeNetwork”功能的性能非常差。
到目前为止“导入服务网络”这个函数表现的很差！
来吧!
加油！

嗨@cui

我们基本上是按照例子来的

https://github.com/microsoft/onnxruntime/blob/master/csharp/test/Microsoft.ML.OnnxRuntime.EndToEndTests.Capi/CXX_Api_Sample.cpp

网络似乎正常工作。我还没有弄清楚如何为新序列重置LSTM层的内部状态。我们只是重新加载模型。

最好的祝愿

安德烈亚斯

亲爱的苏Ting,
我可以导入和导出matlab自带的mobilenetv2模型，非常自由和方便，但当我导入mobilenetv2时。onnx保存在pytorch-onnx框架中，average epooling的最后一层无法正确导入。为什么?
https://github.com/tonylins/pytorch-mobilenet-v2，onnx liabray可以负责导入和导出，matlab不能…

警告:无法导入一些ONNX运营商,因为他们还不支持。金宝app它们已经被占位符层所取代。找到
这些层，调用函数findPlaceholderLayers对返回的对象。
>在net.internal.cnn.onnx. importonnxlayers(第13行)
在importONNXLayers中(第48行)

嗨@Andreas赫尔佐格:
请问您是如何在c++接口函数中使用LSTM onnx模型的?也是一个用matlab实现的序列特性，有这样的示例代码可以参考一下，谢谢!

亲爱的Matlab团队：，

导出和加载LSTM模型现在运行良好，也可以使用C++接口进行评分。

我注意到一件小事，输出张量不是被称为网络中的最后一层，而是作为层名和最后计算机图形操作的组合。

所以我的最后一层被命名为“fc_2”(一个来自深度学习工具箱的标准名称)，但输出张量必须在c++接口中使用“fc_2_Add”来检索，这也是当你用Netron App加载onnx文件时显示的。

有必要这样命名吗?我们在模型描述中保存一个序列化的onnx文件，并将某个层的名称作为输出张量，以控制哪个计算图节点作为输出。因为对于某些类型，这并不一定需要是最后一层(例如使用自动编码器编码)。

那么，这是不是可以回到之前的行为，或者我们可以从层结构中读取，正确的张量名称应该是什么样的？

祝福你，谢谢你的努力。

安德烈亚斯

亲爱的Matlab团队：，

新版本（8月1日）似乎解决了我们在LSTM出口方面的问题。

使用python onnxruntime 0.5在github上测试给定的示例。

很多谢谢!

安德烈亚斯

亲爱的苏Ting,

关于编写与ONNX运行时兼容的LSTM的新版本有什么消息吗?

很抱歉给您带来了麻烦，但是我们需要这个功能块来为我们的客户交付模型。

最好的祝愿

安德烈亚斯

我能够将安装位置指向一个有足够空间来完成此操作的文件夹。matlabshared.金宝appsupportpkg.setSupportPackageRoot ()

谢谢。

我遇到了一个关于onnx安装的问题。甚至无法下载文件。我正在使用RHEL7.5。对这个问题有什么想法吗？

你好,
我正在尝试导出一个模型，以便在tensorflow中使用它。它基本上与此相同
https://de.mathworks.com/help/deeplearning/examples/cocktail-party-source-separation-using-deep-learning-networks.html
我得到警告:“警告:ONNX不支持层'BiasedSigmoidLayer'。金宝app导出到ONNX操作符'com.MathWorks.Placeholder'。“因为其中一层是定制的乙状体层。
我无法导入到tensorflow中获取错误
ValidationError: No Schema registered for Placeholder with domain_version of 1
==> Context: Bad node spec: input: "fc_1" output: "layer_1" name: "layer_1" op_type: "Placeholder" doc_string: "Placeholder operator" domain: "com.mathworks"
我能解决这个问题吗？
我Onnx莫德尔:https://drive.google.com/open?id=1c5ItcPoYU2xkmOZNiUgrIetLsixEewYK

谢谢提前

亲爱的苏Ting,

太好了!: D

最好的祝愿

安德烈亚斯

你好安德烈亚斯,
新版本很快就会发布。

它对yoloV2有效吗？

亲爱的苏Ting,

可以用LSTM解决该问题的新版本中的任何单词(参见github ticket)。我们希望使用onnxruntime将一些模型部署到应用程序中。

最好的祝愿

安德烈亚斯

亲爱的苏Ting,
exportONNXNetwork()导出的onnx模型与在opencv和Matlab中运行的结果不一样?我也在这里发布了我的问题:
https://ww2.mathworks.cn/matlabcentral/answers/464550-the-onnx-model-exported-by-exportonnxnetwork-is-not-the-same-as-the-result-of-running-in-opencv-an

嗨叮苏,
我注意到最近有一个转换器的更新，但lstm似乎仍然不能正常工作。我也在这里发布了我的问题:
https://de.mathworks.com/matlabcentral/answers/457176-onnx-export-yields-error-in-windows-ml?s_tid=prof_contriblnk

亲爱的苏Ting,
当前onnx版本是否支持导出目标检测网络，如Yolov2网络金宝app(export to Yolov2 .onnx)?

亲爱的苏Ting,

是的，这是我在Github上打开的问题。

https://github.com/microsoft/onnxruntime/issues/1016

最好的祝愿

安德烈亚斯

你好安德烈亚斯,
我们注意到一些由MATLAB ONNX Converter导出的LSTM模型不能很好地与ONNX Runtime一起工作，尽管它们可以被加载到其他框架中，因为ONNX Runtime严格遵循ONNX规格的形状要求。一个新的MATLAB ONNX转换器即将发布，它将与ONNX运行时更好地工作。

你好安德烈亚斯,
谢谢你的问题。以下链接中是否报道了相同的问题?
https://github.com/microsoft/onnxruntime/issues/1016
我们正在调查此事，很快会给你答复。

亲爱的Matlab团队：，

我们正在使用涡扇发动机示例数据导出lstm模型（基本上按照顺序到序列回归示例中的描述构建）。

在onnxruntime（从源代码0.4.0版本生成）中导入时，我们会收到一条错误消息：

Load model from temp.onx failed:Node:fc_2 Output:fc_2 [ShapeInferenceError] source and target dimensions number Mismatch。源目标= 3 = 2

我们可以在Netron中很好地加载onnx文件，并且有一个fc_2输出，其维度有点奇怪<1x1x1>。在预期的输出维度中会有混乱吗？

我们可以将onnx文件/Matlab-nnet发送给您以获得帮助吗。

非常感谢。

将模型从matlab导出到其他运行时引擎，除了一些简单的例子之外，是不起作用的。我看到NX网络层上输出的奇怪形状翻转，这会导致导入python框架或c#时失败。

当我导入模型到c++时，我没有相同的结果输出层在matlab中，你可以提供c++ opencv或tensorflow的例子，使层出来与matlab相同
例如，转换层

感谢王继航，在你的帮助下，我安装了这个工具。

Jihang你好，感谢你分享这些信息，不幸的是这并没有解决我的问题。

大家好，我在MathWorks技术支持团队的帮助下找到了它不起作用的原因。我只想在这里分享我的经验。基本上，我的路径上有一个函数隐藏了一个内置的MATLAB函数。我使用下面的代码重金宝app置了我的MATLAB路径：
>>恢复故障路径
> >重复toolboxcache
>> savepath %注意:此命令将覆盖我当前的路径设置。

之后，我从这个页面下载并重新安装了转换器应用程序，并重新运行了导出代码。问题解决:)希望这对你有帮助。

嗨Andreas，我刚刚使用了一个自定义CNN，并用WinMLRunner检查了它，不过我没有尝试任何预先训练过的模型。

嗨,盖伯瑞尔
你能告诉我你用的是哪个CNN吗?
正如之前提到的，我尝试了基本的googlenet，但我不能使用微软ML。
如果我能使用onnx文件交换，那将非常有帮助。
谢谢提前

嗨，Ting，非常感谢Opset的更新。然而，现在我得到了与Andreas对于LSTM网络相同的错误:“第一次输入没有排名2”。如果我在网络中有不止一个lstm层，错误消息以某种方式改变为:“第一个输入张量必须有秩3”，cnn似乎可以工作。

Andreas和Jihang你好，能联系我们的技术支持并发送模型给我们吗?金宝app

嗨，Ting，我在c#中遇到了同样的问题。我可以导出不同版本的网络。如果我试图加载模型到窗口。ml我得到一个“ShapeInferenceError”，第一个输入没有rank 2。使用Opset v6可以加载文件，但不能使用。我测试了googlenet，并试图将onnx模型与一个名为“Netron”的程序进行比较。我发现的区别是第一层“Sub”从[3x244x244]变成了[1x3x244x244]，但我不确定这是不是问题所在。第二件事是，在onnx v6中，Visual Studio可以自动生成模型类，但在v7或更高版本中则不行。它似乎不是公认的onnx模式。你能给一个建议，如何使用Matlab训练的模型在c# ?

Hi Ting，我在c#中加载ONNX模型时也遇到了同样的问题。我试着将模型保存到不同的Opset版本中，但没有一个能正常工作。请建议。

嗨,加布里埃尔,
我们最近增加了对ONNX Opset金宝app 7、8和9的支持。可以在导出过程中通过可选的输入参数'OpsetVersion'指定要使用哪个Opset。你应该能够下载它，如果你有一个R2018b MATLAB。

嗨Kennth,
我们看到了一个类似的问题，修复将很快发布。如果你能寄给我们你的MATLAB模型，让我们测试它，那就太好了。

如果可以将导出更新到版本7或8以允许与windows ml一起使用，那就太棒了。

exportONNXNetwork不能正常使用CNTK和Python。转换产生一个ValueError: Gemm:无效的形状，输入a和B预期是rank=2矩阵。

您好，是否有用于导出Faster R-CNN模型的代码或工具箱?正如我得到的错误提到的模型不是DAGnetwork。希望能在这里得到一些反馈或帮助

你们知道什么时候会增加对常量运算符的支持吗?金宝app

使用IMPORTONxNetwork时出错（第39行）
Node 'node_20':常量操作符还不支持。金宝app

我编写了这个代码:)它非常好。谢谢你！

嗨Trihn,
我们想知道关于importONNXNetwork()问题的更多细节。您以前安装过这个转换器的旧版本吗?

当我使用上面的例子时，函数importONNXNetwork()不起作用!