faollashtirish funksiyalari. relu funksiyasi. softmax funksiyasi

PPTX 43 стр. 419,4 КБ Бесплатная загрузка

Предварительный просмотр (5 стр.)

Прокрутите вниз 👇
1 / 43
faollashtirish funksiyalari. relu funksiyasi. softmax funksiyasi faollashtirish funksiyalari. relu funksiyasi. softmax funksiyasi faollashtirish funksiyasi faollashtirish funksiyasi — bu sun’iy neyron tarmog‘idagi har bir neyronning chiqishini hisoblashda qo‘llaniladigan matematik funksiya. uning asosiy maqsadi — modelga chiziqli bo‘lmaganlik (non-linearity) qo‘shish. faollashtirish funksiyasi faollashtirish funktsiyalari neyron tarmoqlarga ma'lumotlarni chiziqli bo'lmagan tarzda o'zgartirish orqali ko'proq ma'lumot beruvchi xususiyat tavsiflarini yaratishga imkon beradi. faollashtirish funksiyasi - bu sun'iy neyron tarmoqlarda qo'llaniladigan funksiya bo'lib, u kichik kirishlar uchun kichik qiymatni va kirishlar chegaradan oshib ketganda kattaroq qiymatni chiqaradi. faollashtirish funksiyasi faollashtirish funktsiyasi neyronni faollashtirish kerakmi yoki yo'qligini hal qiladi. bu shuni anglatadiki, u neyronning tarmoqqa kirishi oddiy matematik operatsiyalar yordamida bashorat qilish jarayonida muhim yoki muhim emasligini hal qiladi. faollashtirish funksiyasi-nima? sun’iy neyron tarmog‘idagi har bir neyron kiruvchi ma’lumotlarni qabul qiladi, ularni vaznlar bilan ko‘paytiradi, yig‘adi va faollashtirish funksiyasi orqali chiqaradi. formula:a=f(wx+b) bu yerda: x- kirish ma’lumotlari (input) w- vaznlar (weights) b- ofset yoki bias f- …
2 / 43
: agar signal kuchli bo‘lsa → neyron faollashadi (chiqishi bor) agar kuchsiz bo‘lsa → neyron jim turadi (chiqishi 0 yoki kichik) faollashtirish funksiyasi asosiy vazifalari 2. chiziqsizlik (non-linearity) kiritish faollashtirish funksiyasi neyron tarmoqqa chiziqsiz xatti-harakat olib kiradi. bu esa modelga murakkab naqshlar va munosabatlarni o‘rganishga imkon beradi. agar faollashtirish funksiyasi chiziqli bo‘lsa (ya'ni, f(x) = x), tarmoq nechta qatlamli bo‘lsa ham bir xil natija beradi! faollashtirish funksiyasining asosiy vazifalari agar neyron tarmoqda faqat chiziqli funksiyalar ishlatilsa, u har qanday chuqur tarmoqni bitta oddiy chiziqli modelga aylantiradi. bu esa murakkab muammolarni (masalan, rasmni tanish, tilni tushunish) hal qila olmaydi. shuning uchun, faollashtirish funksiyasi yordamida modelga mantiqiy qarorlar qabul qilish, murakkab naqshlarni o‘rganish imkoniyati beriladi. faollashtirish funksiyasining asosiy roli neyronning chiqishini belgilash — har bir neyron kirish ma’lumotlarini vazn bilan ko‘paytiradi, yig‘adi, va so‘nggi natijani faollashtirish funksiyasi orqali o‘tkazadi. chiziqsizlik qo‘shish — real hayotdagi ko‘p masalalar chiziqli emas. model bunga moslashishi uchun …
3 / 43
urlikka erishdi, bu esa yo'qolib borayotgan gradient muammosini yumshatish orqali mashg'ulot vaqtini qisqartirishga imkon beradi. neyron tarmoqlarda faollashtirish funksiyalarining roli faollashtirish funktsiyalari neyron tarmoqda qaror qabul qilish birliklari sifatida xizmat qiladi. ular kiritilgan ma'lumotlarning vaznli yig'indisini oladi va natijani ishlab chiqarish uchun transformatsiyani qo'llaydi, so'ngra keyingi qatlamga o'tkaziladi. neyron tarmoqlarda faollashtirish funksiyalarining roli ushbu jarayon tarmoqqa bashorat qilish xatosi asosida og'irliklarni sozlash orqali ma'lumotlardan o'rganish imkonini beradi. faollashtirish funktsiyasini tanlash modelning ishlashiga sezilarli ta'sir ko'rsatishi mumkin, chunki u tarmoqning ma'lumotlardagi murakkab munosabatlarni qanchalik yaxshi ushlab turishini aniqlaydi. faollashtirish funksiya algoritmlari 1.sigmoid algoritmi sigmoid — bu klassik faollashtirish funksiyasi bo‘lib, kirish qiymatini [0, 1] oraliqda silliq va chiziqli bo‘lmagan chiqishga aylantiradi kirish: real son x chiqish: son [0, 1] oraliqda — bu neyronning faollashish darajasi sifatida talqin qilinadi. faollashtirish funksiya algoritmlari 2. tanh (hyperbolic tangent) algoritmi tanh — bu hyperbolic tangent funksiyasining qisqartmasi. u sigmoid funksiyasiga o‘xshaydi, ammo chiqish oralig’i farq …
4 / 43
larda (deep learningda) ishlatiladigan aktivatsiya funksiyasi bo‘lib, quyidagi formula bilan ifodalanadi: f(x)=max⁡(0,x) bu degani: agar x ≤ 0 bo‘lsa, u holda chiqish 0 bo‘ladi. agar x > 0 bo‘lsa, u holda chiqish x ning o‘zi bo‘ladi. relu funksiyasiga misol misol: yugurish bo‘yicha musobaqa va faqat finish chizig‘idan o‘tganlar hisobga olinadi tasavvur qiling, marafon musobaqasi bor va har bir ishtirokchining yugurgan masofasi o‘lchanadi. biroq tizim faqat finish chizig‘i (masalan, 42 km) dan o‘tgan yuguruvchilarni hisobga oladi. relu funksiyasiga misol f(x)=max(0,x−42) bu yerda: x — yugurilgan masofa (km), f(x) — finishdan ortiqcha bosib o‘tilgan masofa (muvoffaqiyat darajasi). relu funksiyasiga misol yugurilgan masofa (km) funksiya natijasi (relu usuli) 30 max⁡(0,30−42)=0 42 max⁡(0,42−42)=0 45 max⁡(0,45−42)=3 50 max⁡(0,50−42)=8 relu funksiyasiga misol 42 km gacha bo‘lganlar — hisoblanmaydi (nol). 42 km dan ortiq yugurganlar — ortiqcha bosib o‘tilgan qismi natija sifatida olinadi. bu xuddi neyronlarda bo‘lgani kabi: "yetarli bo‘lmagan signal" – nol, "kifoya bo‘lgan signal" – …
5 / 43
sani sezdi (masalan, odam yoki boshqa mashina). avtomobil qaror qabul qilishi kerak: to‘xtasinmi yoki yo‘qmi? lekin bu katta ehtimolga asoslangan. hamma holatda avtomobil darrov to‘xtamaydi — u vaziyatni tahlil qiladi: sigmoid funksiyasiga misol bu yerda: x — vaziyat xavfliligi (masalan, obyekt yaqinligi, tezligi, harakat yo‘nalishi), p — to‘xtash ehtimoli (sigmoid natijasi). sigmoid funksiyasiga misol vaziyat: x uzoqda odam (kam xavf) -4 yo‘l chetida velosipedchi 0 o‘rtacha yaqinlikdagi to‘sqinlik 2 oldida bola yugurib chiqdi 5 sigmoid funksiyasiga misol sigmoid p(x) : izoh : 0,018 to‘xtamaydi 0,5 noaniq, ehtimoliy to‘xtaydi 0,88 to‘xtashi mumkin 0,993 deyarli aniq to‘xtaydi sigmoid funksiyasiga misol nega bu sigmoidga mos misol xavf oshsa — ehtimol (to‘xtash ehtimoli) tez o‘sadi. past xavfda — ehtimol nolga yaqin bo‘ladi. o‘rtacha holatda — qaror noaniq bo‘ladi (aniq ha/yo‘q emas). bu inson miyasiga juda o‘xshash qaror olish usuli: “agar xavfli bo‘lsa, to‘xtayman… lekin xavf kam bo‘lsa, balki yo‘q.” sigmoid funksiyasiga misol xulosa sigmoid …

Хотите читать дальше?

Скачайте все 43 страниц бесплатно через Telegram.

Скачать полный файл

О "faollashtirish funksiyalari. relu funksiyasi. softmax funksiyasi"

faollashtirish funksiyalari. relu funksiyasi. softmax funksiyasi faollashtirish funksiyalari. relu funksiyasi. softmax funksiyasi faollashtirish funksiyasi faollashtirish funksiyasi — bu sun’iy neyron tarmog‘idagi har bir neyronning chiqishini hisoblashda qo‘llaniladigan matematik funksiya. uning asosiy maqsadi — modelga chiziqli bo‘lmaganlik (non-linearity) qo‘shish. faollashtirish funksiyasi faollashtirish funktsiyalari neyron tarmoqlarga ma'lumotlarni chiziqli bo'lmagan tarzda o'zgartirish orqali ko'proq ma'lumot beruvchi xususiyat tavsiflarini yaratishga imkon beradi. faollashtirish funksiyasi - bu sun'iy neyron tarmoqlarda qo'llaniladigan funksiya bo'lib, u kichik kirishlar uchun kichik qiymatni va kirishlar chegaradan oshib ketganda kattaroq qiymatni chiqaradi. faollashtirish funksiy...

Этот файл содержит 43 стр. в формате PPTX (419,4 КБ). Чтобы скачать "faollashtirish funksiyalari. relu funksiyasi. softmax funksiyasi", нажмите кнопку Telegram слева.

Теги: faollashtirish funksiyalari. re… PPTX 43 стр. Бесплатная загрузка Telegram