Zanieczyszczenie Giniego () – miara określająca jednorodność zbioru, wyrażona wzorem

,

gdzie jest prawdopodobieństwem wylosowania elementu należącego do klasy .

Przykładowo, zanieczyszczenie Giniego dla zbioru 6 elementów, z których 5 należy do jednej klasy, a 1 do drugiej klasy, wynosi 0,278.

Miara wynosi zero, gdy w danym zbiorze występują elementy tylko jednej klasy (zbiór jest idealnie czysty). Wartość maksymalną osiąga w przypadku, gdy liczności klas w zbiorze są równe. Maksymalna wartość wskaźnika dla zbioru zawierającego elementy należące do klas wynosi . Dla dwóch klas daje to wartość maksymalną .

Zanieczyszczenie Giniego stanowi alternatywę dla współczynnika entropii. Zazwyczaj wyznaczenie zanieczyszczenia Giniego jest mniej kosztowne obliczeniowo. Znajduje zastosowanie jako kryterium podziału w algorytmach budowy drzewa klasyfikacyjnego.

Przypisy

Kategoria:Teoria informacji