17370845950

特征工程是目标驱动、业务扎根、隔离严谨、可复现的系统性改造。需明确建模目标反向设计特征，区分缺失与异常的业务含义，合理编码高基数与非结构化字段，并严格时间隔离防止信息泄露。

特征工程不是“加几个统计量”或“把字符串转成数字”就完事，而是让数据真正适配模型学习目标的系统性改造。核心在于理解业务逻辑、识别数据噪声、暴露隐藏模式，并控制信息泄露风险。

明确建模目标，反向设计特征

特征的好坏不取决于复杂度，而取决于它是否服务于最终任务。比如预测用户7天内是否会流失，就不该直接用“历史总登录次数”，而应构造“过去3天登录频次衰减率”“最近一次操作距今小时数”“连续24小时无交互标记”等与流失强相关的时间敏感信号。

• 回归任务优先考虑变化率、滑动窗口统计（均值/方差/最大斜率）
• 分类任务侧重判别性分段（如将年龄切为“18–25活跃期”“35–45决策期”）和交叉特征（地域×设备类型×访问时段）
• 序列任务必须保留时序结构，避免全局标准化破坏相对关系

处理缺失与异常，拒绝“一刀切”填充

缺失值本身可能是重要信号。例如金融场景中“用户未填写年收入”，可能比填了“0元”更反映真实拒贷倾向。异常值也需区分是录入错误（需清洗）还是极端但合理行为（如大客户单笔采购千万，应保留并单独建模）。

• 对数值型缺失：按业务含义分组填充（如“未填写”用-999，“已知为零”用0）
• 对类别型缺失：新建“Unknown”类，而非简单众数填充
• 对异常值：用IQR或分位数阈值检测后，记录为二值标志特征（如is_outlier_amount）

编码高基数与非结构化字段，兼顾表达力与泛化性

邮箱域名、商品SKU、搜索关键词等高维稀疏字段，直接one-hot会爆炸。文本、日志、图像等非结构化数据，不能靠简单TF-IDF应付。

• 高基数类别：用目标编码（Target Encoding）+ 折叠平滑（Bayesian shrinkage），防止过拟合
• 文本字段：先做业务规则清洗（去广告词、提取品牌/功效词），再用Sentence-BERT生成语义向量，降维后接入主模型
• 多值字段（如用户兴趣标签列表）：转换为加权集合嵌入（Weighted Bag-of-Entities），权重可来自点击频次或停留时长

严格隔离训练/验证/测试特征，杜绝未来信息泄露

时间序列场景下，用全局均值填充测试集缺失值，等于把未来统计量“偷”进当前预测——模型上线必然崩。所有统计类特征（如用户平均订单额）必须基于截止到该样本时间点的历史数据计算。

• 特征生成代码必须带时间戳约束参数（如as_of_date），禁止使用df['amount'].mean()
• 离线特征存储按天分区，线上服务实时拼接“T-1日聚合特征 + 实时行为流”
• 验证时用时间交叉验证（TimeSeriesSplit），禁用随机k-fold

基本上就这些。特征工程没有银弹，但有清晰逻辑：目标驱动、业务扎根、隔离严谨、可复现。做得好，模型效果提升常超过调参本身。