oldingavaortgasiljishalgoritmi

PPTX 41 sahifa 461,4 KB Bepul yuklash

Sahifa ko'rinishi (5 sahifa)

Pastga aylantiring 👇
1 / 41
chuqur o‘qitish. chuqur oʻqitish algoritmlari. koʻp qatlamli perseptron oldinga va ortga siljish algoritmi. forward. backword kirish oldinga va ortga siljish algoritmi (inglizcha: forward and backward propagation) asosan sun'iy neyron tarmoqlari (neural networks) da ishlatiladi. bu algoritm modelni o‘rgatish (train) jarayonining yuragi hisoblanadi. forward va backward propagation — neyron tarmoqlarining asosiy mexanizmlaridan bo'lib, ular tarmoqni o'rgatish (trenirovka qilish) jarayonida qo'llaniladi. tarixi 1943 — warren mcculloch va walter pitts birinchi mantiqiy sun'iy neyron modelini yaratdi. bu model neyronni matematik nuqtai nazardan ifodalashga urinish bo‘lib, hozirgi forward propagationning nazariy asosi bo‘ldi. 1958 — frank rosenblatt perceptron modelini yaratdi. bu model oddiy neyron tarmoq edi va faqat oldinga siljish bilan ishlardi. tarixi 1974 — paul werbos o‘zining phd dissertatsiyasida "backpropagation" algoritmini neyron tarmoqlarga tadbiq qilish mumkinligini ko‘rsatdi. bu hali amalda keng ishlatilmagan, lekin muhim nazariy burilish edi. paul werbos neyron tarmoqlar va mashinali o'kitish sohasida muhim shaxslardan biri bo'lib, backpropagation (ortga tarqatish) algoritmini ilmiy …
2 / 41
r bilan birga backpropagation yana markaziy o‘ringa qaytdi. oldinga siljish algoritmi oldinga siljish algoritmi neyron tarmoqning kirishidan boshlab chiqishiga qadar har bir qatlamdagi neyronlarning aktivatsiyalarini hisoblab chiqadi. asosiy tushunchalar: kiruvchi ma'lumot – x og‘irliklar – w siljitish (bias) – b neyron chiqishi (aktivatsiya) – a aktivatsiya funksiyasi – (sigmoid, relu, tanh, va h.k.) oldinga siljish algoritmining ishlash prinsipi bu bosqichda kirish ma’lumotlari neyron tarmoq orqali qatlamma-qatlam o‘tadi va chiqish (output) hosil qilinadi. ishlash prinsipi: 1.kirish (x) neyron tarmoqqa kiritiladi. 2.har bir qatlamda quyidagi formula orqali z hisoblanadi: z=w⋅x+b bu yerda: w — og‘irliklar (weights), b — siljish (bias), x — avvalgi qatlamning chiqishi. oldinga siljish algoritmining ishlash prinsipi 3.so‘ngra aktivatsiya funksiyasi (σ) ishlatiladi: a=σ(z) masalan: sigmoid, relu, tanh va boshqalar. 4.oxirgi qatlamda bashorat (ŷ) olinadi. misollar yuz tanish (face recognition) vaziyat: tasavvur qiling, smartfoningizda yuz tanish orqali ekranni ochish funktsiyasi bor. siz telefonga qarab turgan paytda, neyron tarmoq sizning yuzingizni …
3 / 41
a haqiqiy natija orasidagi xatoni orqaga (chiqishdan kirishga) qarab tarqatib, har bir og‘irlik va bias uchun gradientlarni hisoblash algoritmi hisoblanadi. u xatolikni (yo‘qotishni) kamaytirish orqali neyron tarmoqning og‘irliklarini yangilaydi. 4 ta asosiy bosqichdan iborat: orqaga siljish (backward propagation) algoritmining ishlash prinsipi 1. oldinga siljish (forward propagation) bu bosqichda kirish ma’lumotlari tarmoq bo‘ylab harakatlanadi va chiqish (output) hosil qilinadi. har bir neyron quyidagicha hisoblanadi: z=w⋅x+b, a=σ(z) bu yerda: x -kirishlar, w- og‘irliklar, b- siljitish (bias), σ-aktivatsiya funksiyasi (masalan, sigmoid, relu), a- neyronning chiqishi. orqaga siljish (backward propagation) algoritmining ishlash prinsipi 2.yo‘qotish funksiyasi (loss function) haqiqiy qiymat va taxmin qilingan qiymat orasidagi farq yo‘qotish (loss) deb ataladi. masalan, kvadrat xatolik (mse) funksiyasi: l=1/2​(y− ŷ) 2 orqaga siljish (backward propagation) algoritmining ishlash prinsipi 3. xatolikni orqaga tarqatish (backward propagation) bu bosqichda chiqishdan kirishga qarab har bir qatlamdagi og‘irliklar uchun gradientlar hisoblanadi. gradientlar yo‘qotish funksiyasining og‘irliklar bo‘yicha hosilalaridir: orqaga siljish (backward propagation) algoritmining ishlash …
4 / 41
on: z = x₁·w₁ + x₂·w₂ + x₃·w₃ + b = 0.5·0.4 + 0.65·0.3 + 0.6·0.2 + 0.1 = 0.2 + 0.195 + 0.12 + 0.1 = 0.615 ŷ = sigmoid(0.615) ≈ 1 / (1 + e^(-0.615)) ≈ 0.649 tarmoq taxmini: 64.9% ehtimol bilan yurak xastaligi bor. ammo real natija y = 1 → xato bor. misollar backward propagation: loss funktsiyasi (mse): l = 0.5·(ŷ - y)² = 0.5·(0.649 - 1)² ≈ 0.0615 gradient: ∂l/∂ŷ = (ŷ - y) = -0.351 ∂ŷ/∂z = sigmoid’(z) = ŷ·(1 - ŷ) = 0.649·(1 - 0.649) ≈ 0.228 ∂l/∂z = -0.351 × 0.228 ≈ -0.08 misollar vaznlar uchun gradientlar: ∂l/∂w₁ = ∂l/∂z × x₁ = -0.08 × 0.5 = -0.04 ∂l/∂w₂ = -0.08 × 0.65 = -0.052 ∂l/∂w₃ = -0.08 × 0.6 = -0.048 ∂l/∂b = -0.08 misollar yangilangan vaznlar: w₁ = 0.4 - 0.1·(-0.04) = 0.404 w₂ = 0.3 - 0.1·(-0.052) = 0.3052 …
5 / 41
a m5 jee . @) x (=) (4) /docprops/thumbnail.jpeg oldinga va ortga siljish algoritmi. forward. backword pt

Ko'proq o'qimoqchimisiz?

Barcha 41 sahifani Telegram orqali bepul yuklab oling.

To'liq faylni yuklab olish

"oldingavaortgasiljishalgoritmi" haqida

chuqur o‘qitish. chuqur oʻqitish algoritmlari. koʻp qatlamli perseptron oldinga va ortga siljish algoritmi. forward. backword kirish oldinga va ortga siljish algoritmi (inglizcha: forward and backward propagation) asosan sun'iy neyron tarmoqlari (neural networks) da ishlatiladi. bu algoritm modelni o‘rgatish (train) jarayonining yuragi hisoblanadi. forward va backward propagation — neyron tarmoqlarining asosiy mexanizmlaridan bo'lib, ular tarmoqni o'rgatish (trenirovka qilish) jarayonida qo'llaniladi. tarixi 1943 — warren mcculloch va walter pitts birinchi mantiqiy sun'iy neyron modelini yaratdi. bu model neyronni matematik nuqtai nazardan ifodalashga urinish bo‘lib, hozirgi forward propagationning nazariy asosi bo‘ldi. 1958 — frank rosenblatt perceptron modelini yaratdi. bu model oddiy ne...

Bu fayl PPTX formatida 41 sahifadan iborat (461,4 KB). "oldingavaortgasiljishalgoritmi"ni yuklab olish uchun chap tomondagi Telegram tugmasini bosing.

Teglar: oldingavaortgasiljishalgoritmi PPTX 41 sahifa Bepul yuklash Telegram