Kategorická krosentropia je stratová funkcia, ktorá sa používa v úlohách klasifikácie viacerých tried. Ide o úlohy, kde príklad môže patriť len do jednej z mnohých možných kategórií a model musí rozhodnúť, do ktorej z nich. Formálne je navrhnutý na kvantifikáciu rozdielu medzi dvoma rozdeleniami pravdepodobnosti.
Prečo používať krížovú entropiu namiesto MSE?
Po prvé, krížová entropia (alebo strata softmax, ale krížová entropia funguje lepšie) je na klasifikáciu lepším meradlom ako MSE, pretože hranica rozhodovania v klasifikačnej úlohe je veľká(v porovnaní s regresiou). … V prípade regresných problémov by ste takmer vždy použili MSE.
Aký je rozdiel medzi riedkou krížovou entropiou a kategorickou krížovou entropiou?
Jediný rozdiel medzi riedkou kategorickou krížovou entropiou a kategorickou krížovou entropiou je formát skutočných štítkov. Keď máme problém klasifikácie s jedným štítkom a viacerými triedami, štítky sa vzájomne vylučujú pre každý údaj, čo znamená, že každý údaj môže patriť len do jednej triedy.
Ako interpretujete stratu kategorickej krížovej entropie?
Krížová entropia sa zvyšuje, keď sa predpokladaná pravdepodobnosť vzorky líši od skutočnej hodnoty. Preto predpovedanie pravdepodobnosti 0,05, keď má skutočné označenie hodnotu 1, zvyšuje stratu krížovej entropie. označuje predpokladanú pravdepodobnosť medzi 0 a 1 pre danú vzorku.
Prečo je krížová entropia dobrá?
Celkovo môžeme vidieť, že krížová entropia je jednoducho spôsob merania pravdepodobnosti modelu. Krížová entropia je užitočná, pretože môže popísať, aká je pravdepodobnosť modelu a chybová funkcia každého dátového bodu. Môže sa tiež použiť na opísanie predpokladaného výsledku v porovnaní so skutočným výsledkom.
