本文旨在解决在使用Dask或Pandas的`apply`方法结合`lambda`表达式时常见的`TypeError:
在使用Python的数据处理库(如Pandas或Dask)时,我们经常会利用Series.apply()或DataFrame.apply()方法对数据进行逐元素或逐行/列的操作。当结合lambda表达式定义这些操作时,一个常见的错误是TypeError:
这个错误通常发生在以下场景: 您定义了一个lambda函数,期望它接收多个参数,例如 lambda a, b, c, d, e, f, g: ...。然而,当您将此lambda函数传递给Series.apply()方法时,apply()的内部机制是遍历Series中的每一个元素,并将当前元素的值作为唯一一个参数传递给lambda函数。因此,如果您的lambda期望七个参数,但apply()只提供了一个,就会导致Python解释器抛出参数缺失的TypeError。
错误示例分析:
selected_data['new_label'] = selected_data['label'].apply(lambda a,b,c,d,e,f,g: 'DDoS' if a.startswith('DDoS') else 'Mirai' if b.startswith('Mirai') else 'Recon' if c.startswith('Recon' or 'Vulnerability') else 'Spoofing' if d.startswith('DNS' or 'MITM')
else 'Benign' if e.startswith('Benign') else 'Web' if f.startswith('Browser' or 'Backdoor' or 'XSS' or 'Uploading' or 'Sql' or 'Command') else 'BruteForce' if g.startswith('Dictionary') else 'other', meta=('new_label', 'object'))
selected_data = selected_data.compute()在上述代码中,selected_data['label'].apply(...)会逐一取出label列中的每个字符串值。当它将第一个字符串值(例如“DDoS/Attack-1”)传递给lambda函数时,lambda函数被定义为接收a,b,c,d,e,f,g七个参数。但实际上只接收到了一个参数(即“DDoS/Attack-1”),其余六个参数缺失,从而在Dask的compute()方法执行时(因为Dask是惰性计算),触发了TypeError。
解决此问题的关键在于两点:
正确定义lambda参数
由于apply()方法是逐元素操作,lambda函数只需要一个参数来接收当前元素的值。我们将这个参数命名为label(因为它来自label列),然后基于这个单一参数进行所有条件判断。
正确使用str.startswith()进行多前缀匹配
原始代码中存在类似 c.startswith('Recon' or 'Vulnerability') 的写法。在Python中,'Recon' or 'Vulnerability' 会被短路求值,结果是 'Recon'。这意味着它只会检查是否以“Recon”开头,而不会检查“Vulnerability”。正确的做法是将所有期望的前缀放入一个元组中,例如 label.startswith(('Recon', 'Vulnerability'))。
修正后的代码示例:
selected_data['new_label'] = selected_data['label'].apply(
lambda label: 'DDoS' if label.startswith('DDoS')
else 'Mirai' if label.startswith('Mirai')
else 'Recon' if label.startswith(('Recon', 'Vulnerability'))
else 'Spoofing' if label.startswith(('DNS', 'MITM'))
else 'Benign' if label.startswith('Benign')
else 'Web' if label.startswith(('Browser', 'Backdoor', 'XSS', 'Uploading', 'Sql', 'Command'))
else 'BruteForce' if label.startswith('Dictionary')
else 'other',
meta=('new_label', 'object') # Dask specific: provide meta for new column
)
# 触发Dask的计算
selected_data = selected_data.compute()
当有多个条件需要判断时,使用 if ... else if ... else ... 结构可以清晰地表达逻辑。确保每个 startswith 条件都正确地使用了字符串或元组作为参数。TypeError: