提问人:Jack Ha 提问时间:6/3/2009 最后编辑:cottontailJack Ha 更新时间:11/2/2023 访问量:2723483
如何检查 NaN 值
How to check for NaN values
答:
测试 NaN 的常用方法是查看它是否等于自身:
def isNaN(num):
return num != num
评论
np.isnan
math.isnan
使用 math.isnan
:
>>> import math
>>> x = float('nan')
>>> math.isnan(x)
True
评论
math.isnan
np.isnan()
import numpy
import math
numpy.isnan
float('nan') == float('nan')
False
或将数字与自身进行比较。NaN 始终是 != NaN,否则(例如,如果它是一个数字)比较应该成功。
评论
numpy.isnan(number)
告诉你是不是。NaN
评论
numpy.all(numpy.isnan(data_list))
如果您需要确定列表中的所有元素是否都是 nan,也很有用
all(map(math.isnan, [float("nan")]*5))
如果您卡在 <2.6 上,您没有 numpy,并且没有 IEEE 754 支持,则使用另一种方法:
def isNaN(x):
return str(x) == str(1e400*0)
使用 python < 2.6,我最终得到了
def isNaN(x):
return str(float(x)).lower() == 'nan'
这适用于Solaris 5.9机器上的python 2.5.1和Ubuntu 2.6.5上的python 10
评论
-1.#IND
好吧,我输入了这篇文章,因为我在该功能上遇到了一些问题:
math.isnan()
运行此代码时出现问题:
a = "hello"
math.isnan(a)
它引发了异常。 我的解决方案是再做一次检查:
def is_nan(x):
return isinstance(x, float) and math.isnan(x)
评论
def is_nan(x): try: return math.isnan(x) except: return False
我实际上只是遇到了这个问题,但对我来说,它正在检查 nan、-inf 或 inf。我刚刚用过
if float('-inf') < float(num) < float('inf'):
对于数字来说,这是真的,对于 nan 和 inf 来说都是 false,并且会为字符串或其他类型等内容引发异常(这可能是一件好事)。此外,这不需要导入任何库,如 math 或 numpy(numpy 太大了,它的大小是任何编译应用程序的两倍)。
评论
math.isfinite
直到 Python 3.2 才被引入,所以鉴于 2012 年发布的@DaveTheScientist的答案,它并不完全是“重新发明轮子”——解决方案仍然代表那些使用 Python 2 的人。
pd.eval
pd.eval(float('-inf') < float('nan') < float('inf'))
False
我正在从以字符串形式发送的 Web 服务接收数据。但是我的数据中也可能有其他类型的字符串,所以一个简单的字符串可能会引发异常。我使用了接受答案的以下变体:NaN
'Nan'
float(value)
def isnan(value):
try:
import math
return math.isnan(float(value))
except:
return False
要求:
isnan('hello') == False
isnan('NaN') == True
isnan(100) == False
isnan(float('nan')) = True
评论
try: int(value)
value
NaN
NaN
float('inf') * 0
NaN
NaN
int(value)
False
判断变量是 NaN 还是 None 的所有方法:
无类型
In [1]: from numpy import math
In [2]: a = None
In [3]: not a
Out[3]: True
In [4]: len(a or ()) == 0
Out[4]: True
In [5]: a == None
Out[5]: True
In [6]: a is None
Out[6]: True
In [7]: a != a
Out[7]: False
In [9]: math.isnan(a)
Traceback (most recent call last):
File "<ipython-input-9-6d4d8c26d370>", line 1, in <module>
math.isnan(a)
TypeError: a float is required
In [10]: len(a) == 0
Traceback (most recent call last):
File "<ipython-input-10-65b72372873e>", line 1, in <module>
len(a) == 0
TypeError: object of type 'NoneType' has no len()
NaN型
In [11]: b = float('nan')
In [12]: b
Out[12]: nan
In [13]: not b
Out[13]: False
In [14]: b != b
Out[14]: True
In [15]: math.isnan(b)
Out[15]: True
以下是使用以下方法的答案:
- 符合 IEEE 754 标准的 NaN 实现
- 即:python 的 NaN:, ...
float('nan')
numpy.nan
- 即:python 的 NaN:, ...
- 任何其他对象:字符串或其他对象(如果遇到,不会引发异常)
按照该标准实现的 NaN 是与其自身的不等式比较应返回 True 的唯一值:
def is_nan(x):
return (x != x)
还有一些例子:
import numpy as np
values = [float('nan'), np.nan, 55, "string", lambda x : x]
for value in values:
print(f"{repr(value):<8} : {is_nan(value)}")
输出:
nan : True
nan : True
55 : False
'string' : False
<function <lambda> at 0x000000000927BF28> : False
评论
numpy.nan
是一个常规的 Python 对象,就像 返回的 kind 一样。您在 NumPy 中遇到的大多数 NaN 都不会是对象。float
float('nan')
numpy.nan
numpy.nan
在 C 的底层库中自行定义其 NaN 值。它不包装 python 的 NaN。但现在,它们都符合 IEEE 754 标准,因为它们依赖于 C99 API。
float('nan') is float('nan')
np.nan is np.nan
) 也不是 np.float64('nan')。
np.nan
float('nan')
nan = float('nan')
nan is nan
np.float64('nan')
对于 float 类型的 nan
>>> import pandas as pd
>>> value = float(nan)
>>> type(value)
>>> <class 'float'>
>>> pd.isnull(value)
True
>>>
>>> value = 'nan'
>>> type(value)
>>> <class 'str'>
>>> pd.isnull(value)
False
对于 panda 中的字符串,取 pd.isnull:
if not pd.isnull(atext):
for word in nltk.word_tokenize(atext):
作为 NLTK 特征提取的函数
def act_features(atext):
features = {}
if not pd.isnull(atext):
for word in nltk.word_tokenize(atext):
if word not in default_stopwords:
features['cont({})'.format(word.lower())]=True
return features
如何从混合数据类型列表中删除 NaN(浮点)项
如果在可迭代对象中有混合类型,则以下为不使用 numpy 的解决方案:
from math import isnan
Z = ['a','b', float('NaN'), 'd', float('1.1024')]
[x for x in Z if not (
type(x) == float # let's drop all float values…
and isnan(x) # … but only if they are nan
)]
['a', 'b', 'd', 1.1024]
短路评估意味着不会对非“浮点”类型的值调用,因为无需评估右侧即可快速评估。isnan
False and (…)
False
这里有三种方法可以测试变量是否为“NaN”。
import pandas as pd
import numpy as np
import math
# For single variable all three libraries return single boolean
x1 = float("nan")
print(f"It's pd.isna: {pd.isna(x1)}")
print(f"It's np.isnan: {np.isnan(x1)}}")
print(f"It's math.isnan: {math.isnan(x1)}}")
输出:
It's pd.isna: True
It's np.isnan: True
It's math.isnan: True
评论
pd.isnan()
或?这就是问题:Dpd.isna()
if not np.isnan(x):
pd.isna('foo')
也是唯一可以处理字符串的。 并将导致 TypeError 异常。np.isnan('foo')
math.isnan('foo')
在 Python 3.6 中,检查字符串值 x math.isnan(x) 和 np.isnan(x) 会引发错误。 因此,如果我事先不知道它是一个数字,我无法检查给定的值是否为 NaN。 以下似乎可以解决这个问题
if str(x)=='nan' and type(x)!='str':
print ('NaN')
else:
print ('non NaN')
检查它是否等于自身(x != x
)似乎是最快的。
import pandas as pd
import numpy as np
import math
x = float('nan')
%timeit x != x
44.8 ns ± 0.152 ns per loop (mean ± std. dev. of 7 runs, 10000000 loops each)
%timeit math.isnan(x)
94.2 ns ± 0.955 ns per loop (mean ± std. dev. of 7 runs, 10000000 loops each)
%timeit pd.isna(x)
281 ns ± 5.48 ns per loop (mean ± std. dev. of 7 runs, 1000000 loops each)
%timeit np.isnan(x)
1.38 µs ± 15.7 ns per loop (mean ± std. dev. of 7 runs, 1000000 loops each)
评论
z = float('inf')
z != z
z=float('inf')
z==z
x=float('nan')
x==x
numpy
x != x
math.isnan(x)
%timeit
%%timeit x = float('nan')
x != x
%%timeit x = float('nan'); from math import isnan
isnan(x)
math.isnan
x != x
lambda
numpy
numpy.isnan
numpy
x != x
比较,以及它们处理不同类型对象的灵活性。pd.isna
math.isnan
np.isnan
下表显示了是否可以使用给定的方法检查对象类型:
+------------+-----+---------+------+--------+------+
| Method | NaN | numeric | None | string | list |
+------------+-----+---------+------+--------+------+
| pd.isna | yes | yes | yes | yes | yes |
| math.isnan | yes | yes | no | no | no |
| np.isnan | yes | yes | no | no | yes | <-- # will error on mixed type list
+------------+-----+---------+------+--------+------+
pd.isna
检查不同类型的缺失值的最灵活方法。
没有一个答案涵盖 的灵活性。虽然 和 将返回值,但您无法检查不同类型的对象,例如 或字符串。这两种方法都会返回错误,因此检查混合类型的列表会很麻烦。这虽然是灵活的,并且会为不同类型的类型返回正确的布尔值:pd.isna
math.isnan
np.isnan
True
NaN
None
pd.isna
In [1]: import pandas as pd
In [2]: import numpy as np
In [3]: missing_values = [3, None, np.NaN, pd.NA, pd.NaT, '10']
In [4]: pd.isna(missing_values)
Out[4]: array([False, True, True, True, True, False])
评论
如果要检查非 NaN 的值,则否定用于标记 NaN 的任何值;pandas 有自己的专用函数来标记非 NaN 值。
lst = [1, 2, float('nan')]
m1 = [e == e for e in lst] # [True, True, False]
m2 = [not math.isnan(e) for e in lst] # [True, True, False]
m3 = ~np.isnan(lst) # array([ True, True, False])
m4 = pd.notna(lst) # array([ True, True, False])
如果要筛选非 NaN 的值,这将特别有用。对于 ndarray/Series 对象,是矢量化的,因此也可以使用它。==
s = pd.Series(lst)
arr = np.array(lst)
x = s[s.notna()]
y = s[s==s] # `==` is vectorized
z = arr[~np.isnan(arr)] # array([1., 2.])
assert (x == y).all() and (x == z).all()
评论
isinstance(float("nan"), Number)