提问人:Alex999 提问时间:5/28/2014 最后编辑:John SaundersAlex999 更新时间:8/7/2020 访问量:26542
使用 StreamReader 和 XmlSerializer 的内存泄漏
Memory Leak using StreamReader and XmlSerializer
问:
在过去的几个小时里,我一直在谷歌上搜索并尝试不同的东西,但似乎无法深入了解这一点......
当我运行此代码时,内存使用量不断增长。
while (true)
{
try
{
foreach (string sym in stringlist)
{
StreamReader r = new StreamReader(@"C:\Program Files\" + sym + ".xml");
XmlSerializer xml = new XmlSerializer(typeof(XMLObj), new XmlRootAttribute("rootNode"));
XMLObj obj = (XMLObj)xml.Deserialize(r);
obj.Dispose();
r.Dispose();
r.Close();
}
}
catch(Exception ex)
{
Console.WriteLine(ex.ToString());
}
Thread.Sleep(1000);
Console.Clear();
}
XMLObj 是一个自定义对象
[Serializable()]
public class XMLObj: IDisposable
{
[XmlElement("block")]
public List<XMLnode> nodes{ get; set; }
public XMLObj() { }
public void Dispose()
{
nodes.ForEach(n => n.Dispose());
nodes= null;
GC.SuppressFinalize(this);
}
}
我试过添加 GC。收集();但这似乎什么也做不了。
答:
首先,即使抛出异常,也应该处理 StreamReader(XMLObj 也是如此)。使用语句。目前,在引发异常时不会释放。using
您不太可能发生内存泄漏。更有可能的是,运行时根本没有选择收集内存。甚至GC。收集不一定会导致内存被释放。
我在处理非常大的XML文件(多GB)时遇到过类似的情况。即使运行时会占用大部分可用内存,它也会在内存压力需要时释放它。
可以使用 Visual Studio 中的内存探查器来查看分配了哪些内存,以及它驻留在哪一代。
更新
@KaiEichinger的评论值得研究。它指示 XmlSerializer 可能正在为每个循环迭代创建一个新的缓存对象定义
XMLSerializer 构造函数为要使用反射序列化的类型创建临时程序集,并且由于代码生成成本很高,因此程序集将按类型缓存在内存中。但很多时候根名称会被更改,并且可以是动态的,并且不会缓存动态程序集。因此,每当调用上述代码行时,它每次都会加载新程序集,并将保留在内存中,直到卸载 AppDomain。
评论
我认为将构造函数移出循环并缓存其结果将修复它,此处解释XMLSerializer
评论
泄漏就在这里:
new XmlSerializer(typeof(XMLObj), new XmlRootAttribute("rootNode"))
XmlSerializer
使用程序集生成,并且无法收集程序集。它为最简单的构造函数方案(等)执行一些自动缓存/重用,但不适用于此方案。因此,您应该手动缓存它:new XmlSerializer(Type)
static readonly XmlSerializer mySerializer =
new XmlSerializer(typeof(XMLObj), new XmlRootAttribute("rootNode"))
并使用缓存的序列化程序实例。
评论
来自 MSDN:在此处输入链接描述
为了提高性能,XML 序列化基础结构动态生成程序集,以序列化和反序列化指定的类型。基础结构查找并重用这些程序集。仅当使用以下构造函数时,才会发生此行为:
XmlSerializer.XmlSerializer (类型)
XmlSerializer.XmlSerializer (类型, 字符串)
如果使用任何其他构造函数,则会生成同一程序集的多个版本,并且永远不会卸载,这会导致内存泄漏和性能不佳。最简单的解决方案是使用前面提到的两个构造函数之一。否则,必须将程序集缓存在 Hashtable 中,如以下示例所示。
=>因此,要修复它,您必须使用此构造函数而不是XmlSerializer xml = new XmlSerializer(typeof(XMLObj))
XmlSerializer xml = new XmlSerializer(typeof(XMLObj), new XmlRootAttribute("rootNode"));
并将根 XML 属性添加到 XMLObj 类中。
[Serializable()]
[XmlRoot("root")]
public class XMLObj: IDisposable
{
[XmlElement("block")]
public List<XMLnode> nodes{ get; set; }
public XMLObj() { }
public void Dispose()
{
nodes.ForEach(n => n.Dispose());
nodes= null;
GC.SuppressFinalize(this);
}
}
我正在使用一个“缓存”类来避免每次需要序列化某些内容时实例化 xmlserializer(还添加了一个 XmlCommentAttribute,用于向 xml 输出中的序列化属性添加注释),对我来说它的工作原理就像 sharm,希望能帮助某人:
public static class XmlSerializerCache
{
private static object Locker = new object();
private static Dictionary<string, XmlSerializer> SerializerCacheForUtils = new Dictionary<string, XmlSerializer>();
public static XmlSerializer GetSerializer<T>()
{
return GetSerializer<T>(null);
}
public static XmlSerializer GetSerializer<T>(Type[] ExtraTypes)
{
return GetSerializer(typeof(T), ExtraTypes);
}
public static XmlSerializer GetSerializer(Type MainTypeForSerialization)
{
return GetSerializer(MainTypeForSerialization, null);
}
public static XmlSerializer GetSerializer(Type MainTypeForSerialization, Type[] ExtraTypes)
{
string Signature = MainTypeForSerialization.FullName;
if (ExtraTypes != null)
{
foreach (Type Tp in ExtraTypes)
Signature += "-" + Tp.FullName;
}
XmlSerializer XmlEventSerializer;
if (SerializerCacheForUtils.ContainsKey(Signature))
XmlEventSerializer = SerializerCacheForUtils[Signature];
else
{
if (ExtraTypes == null)
XmlEventSerializer = new XmlSerializer(MainTypeForSerialization);
else
XmlEventSerializer = new XmlSerializer(MainTypeForSerialization, ExtraTypes);
SerializerCacheForUtils.Add(Signature, XmlEventSerializer);
}
return XmlEventSerializer;
}
public static T Deserialize<T>(XDocument XmlData)
{
return Deserialize<T>(XmlData, null);
}
public static T Deserialize<T>(XDocument XmlData, Type[] ExtraTypes)
{
lock (Locker)
{
T Result = default(T);
try
{
XmlReader XmlReader = XmlData.Root.CreateReader();
XmlSerializer Ser = GetSerializer<T>(ExtraTypes);
Result = (T)Ser.Deserialize(XmlReader);
XmlReader.Dispose();
return Result;
}
catch (Exception Ex)
{
throw new Exception("Could not deserialize to " + typeof(T).Name, Ex);
}
}
}
public static T Deserialize<T>(string XmlData)
{
return Deserialize<T>(XmlData, null);
}
public static T Deserialize<T>(string XmlData, Type[] ExtraTypes)
{
lock (Locker)
{
T Result = default(T);
try
{
using (MemoryStream Stream = new MemoryStream())
{
using (StreamWriter Writer = new StreamWriter(Stream))
{
Writer.Write(XmlData);
Writer.Flush();
Stream.Position = 0;
XmlSerializer Ser = GetSerializer<T>(ExtraTypes);
Result = (T)Ser.Deserialize(Stream);
Writer.Close();
}
}
return Result;
}
catch (Exception Ex)
{
throw new Exception("Could not deserialize to " + typeof(T).Name, Ex);
}
}
}
public static XDocument Serialize<T>(T Object)
{
return Serialize<T>(Object, null);
}
public static XDocument Serialize<T>(T Object, Type[] ExtraTypes)
{
lock (Locker)
{
XDocument Xml = null;
try
{
using (MemoryStream stream = new MemoryStream())
{
XmlSerializerNamespaces ns = new XmlSerializerNamespaces();
ns.Add("", "");
using (StreamReader Reader = new StreamReader(stream))
{
XmlSerializer Serializer = GetSerializer<T>(ExtraTypes);
var settings = new XmlWriterSettings { Indent = true };
using (var w = XmlWriter.Create(stream, settings))
{
Serializer.Serialize(w, Object, ns);
w.Flush();
stream.Position = 0;
}
Xml = XDocument.Load(Reader, LoadOptions.None);
foreach (XElement Ele in Xml.Root.Descendants())
{
PropertyInfo PI = typeof(T).GetProperty(Ele.Name.LocalName);
if (PI != null && PI.IsDefined(typeof(XmlCommentAttribute), false))
Xml.AddFirst(new XComment(PI.Name + ": " + PI.GetCustomAttributes(typeof(XmlCommentAttribute), false).Cast<XmlCommentAttribute>().Single().Value));
}
Reader.Close();
}
}
return Xml;
}
catch (Exception Ex)
{
throw new Exception("Could not serialize from " + typeof(T).Name + " to xml string", Ex);
}
}
}
}
[AttributeUsage(AttributeTargets.Property, AllowMultiple = false)]
public class XmlCommentAttribute : Attribute
{
public string Value { get; set; }
}
我最近在最新的 .NET Core 3.1 中遇到了同样的问题,缓存 XMLSerializer(此处建议)解决了问题。这种内存泄漏最糟糕的事情是无法从内存转储中清楚地定位,我尝试了 Jetbrains 的 dotMemory,根据分析转储的结果,一切似乎都正常,但应用程序使用的内存量(转储大小)和应用程序使用的内存量在 dotMemory 报告中显示显着不同。dotMemory 显示 APP 只使用了几 MB 的内存。我最初认为这个问题是由 WCF 引起的,当合约 (WSDL) 使用与 utf-8 不同的编码时,尤其是当合约在方法名称中包含点时,这真的很棘手 .Net Framework 不会有问题, 但 .Net Core 的工具是不同的。我不得不手动调整 WSDL 并添加一些 .Net Core 实现中缺少的类,以便为不同的编码工作。
评论
GC.Collect
XmlSerializer
using () { }