¿Qué significa ganancia de entropía?

Significa ganancia de información.

En el aprendizaje automático, la ganancia de información se utiliza para medir la importancia de las características en los problemas de clasificación. Se mide comparando la incertidumbre o el cambio de entropía del conjunto de datos antes y después de usar una determinada característica para dividirlo. Si una característica puede dividir el conjunto de datos en subconjuntos que son más puros, es decir, que tienen más muestras de la misma categoría, la característica tiene una mayor ganancia de información, lo que significa que tiene una capacidad más poderosa en las tareas de clasificación.