Čo je zlé na spätnej propagácii?

Čo je zlé na spätnej propagácii?
Čo je zlé na spätnej propagácii?
Anonim

V skratke, nemôžete robiť spätné šírenie, ak nemáte objektívnu funkciu. Nemôžete mať objektívnu funkciu, ak nemáte mieru medzi predpokladanou hodnotou a označenou hodnotou (aktuálne alebo tréningové údaje). Aby ste teda dosiahli „učenie bez dozoru“, možno vám chýba schopnosť vypočítať gradient.

Aké sú obmedzenia spätného šírenia?

Nevýhody algoritmu spätného šírenia:

Pri riešení konkrétneho problému sa spolieha na vstup. Citlivé na zložité/zašumené údaje. Na návrh siete potrebuje deriváty aktivačných funkcií.

Ako opravíte spätné šírenie?

Proces spätnej propagácie v hlbokej neurónovej sieti

  1. Zadajte hodnoty. X1=0,05. …
  2. Počiatočná hmotnosť. W1=0,15 w5=0,40. …
  3. Hodnoty odchýlky. b1=0,35 b2=0,60.
  4. Cieľové hodnoty. T1=0,01. …
  5. Preposlanie. Aby sme našli hodnotu H1, najprv vynásobíme vstupnú hodnotu z váh ako. …
  6. Spätný prechod na výstupnej vrstve. …
  7. Spätný prechod v skrytej vrstve.

Je spätná propagácia efektívna?

Spätná propagácia je efektívna, vďaka čomu je možné trénovať viacvrstvové siete obsahujúce veľa neurónov a zároveň aktualizovať váhy, aby sa minimalizovali straty.

Aký problém rieši backpropagation pri práci s neurónovými sieťami?

Pri montáži neurónovej siete backpropagation počíta gradientstratovú funkciu vzhľadom na váhy siete pre jeden príklad vstupu a výstupu a robí to efektívne, na rozdiel od naivného priameho výpočtu gradientu vzhľadom na každú váhu jednotlivo.

Odporúča: