Regularizátory umožňujú použiť sankcie na parametre vrstvy alebo aktivitu vrstvy počas optimalizácie. Tieto sankcie sa sčítavajú do stratovej funkcie, ktorú sieť optimalizuje. Regulačné pokuty sa uplatňujú na základe jednotlivých vrstiev.
Čo je regulátor aktivity?
regulátor aktivity funguje ako funkcia výstupu siete a väčšinou sa používa na regularizáciu skrytých jednotiek, zatiaľ čo weight_regularizer, ako už názov napovedá, pracuje na váhe (napr. ich rozklad).
Kedy by som mal použiť regulátor aktivity?
Ak chcete, aby výstupná funkcia prešla (alebo mala priesečník bližšie k) pôvodu, môžete použiť regulátor skreslenia. Ak chcete, aby bol výstup menší (alebo bližšie k 0), môžete použiť regulátor aktivity.
Ako sa používa Keras regularizer?
Ak chcete pridať regularizátor do vrstvy, jednoducho musíte preniesť preferovanú techniku regularizácie do argumentu kľúčového slova 'kernel_regularizer'. Metódy implementácie regularizácie Keras môžu poskytnúť parameter, ktorý predstavuje hodnotu hyperparametra regularizácie.
Čo je jadro a zaujatosť?
Dense class
Dense implementuje operáciu: výstup=aktivácia(bodka(vstup, jadro) + skreslenie), kde aktivácia je aktivačná funkcia po prvkoch odovzdaná ako aktivačný argument, jadro je matica váh vytvorená vrstvou askreslenie je vektor skreslenia vytvorený vrstvou (použiteľné iba v prípade, ak má use_bias hodnotu True).
