标签：编码 Target weight Encoding df encoding 类别 name

翻译自 Kaggle Target Encoding

1. 简介

目标编码，是针对类别特征的。它是一种将类别特征编码为数字特征的方法，就像one-hot编码一样，不同之处在于，Target encoding使用标签来创建编码。这就是我们所说的监督特征工程。

2. 代码

# using target encoding
# Tutorial: https://www.kaggle.com/ryanholbrook/target-encoding
def target_encoding(name, df, m=1):
    df[name] = df[name].str.split(";")
    df = df.explode(name)
    overall = df["label"].mean()
    df = df.groupby(name).agg(
        freq=("label", "count"), 
        in_category=("label", np.mean)
    ).reset_index()
    df["weight"] = df["freq"] / (df["freq"] + m)
    df["score"] = df["weight"] * df["in_category"] + (1 - df["weight"]) * overall
    return df

3. 存在的问题以及解决方案

然而，Target Encoding会带来一些问题。首先是未知的类别。目标编码会产生过拟合的特殊风险，它们需要在独立的“编码”分离上进行训练。当您将编码加入到以后的拆分时，Pandas将为编码拆分中不存在的任何类别填充缺失的值。

其次是稀有的类，当一个类别在数据集中只出现几次时，对其的统计特征可能不是很准确，所以target encoding可能会导致过拟合

解决这些问题的方法是添加平滑，其思想是将类别间的平均数和总体的平均数混合，稀有类别在其类别平均值上权重较低，缺失类别获得总体的平均值。

encoding = weight * in_category + (1 - weight) * overall

weight是根据类别频率计算的在0到1之间的值。
一个比较简单的去确定这个weight的值的方法是计算m-estimate

weight = n / (n + m)

n是该类别在数据中出现的总次数，m是平滑因子，m值越大，总体估计的weight的权重也就越大。

目标编码适合:
1.高基数的特征，具有大量类别的特征编码起来可能很麻烦，onehot编码可能会生成太多的特征。目标编码用他和标签的关系来表征类别。

标签：编码,Target,weight,Encoding,df,encoding,类别,name
来源： https://blog.csdn.net/qq_30129009/article/details/121876430

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。