Bila hendak menggunakan regularisasi l1 dan l2?

Isi kandungan:

Bila hendak menggunakan regularisasi l1 dan l2?
Bila hendak menggunakan regularisasi l1 dan l2?
Anonim

Dari sudut pandangan praktikal, L1 cenderung mengecilkan pekali kepada sifar manakala L2 cenderung mengecutkan pekali secara sekata. Oleh itu, L1 berguna untuk pemilihan ciri, kerana kita boleh menggugurkan sebarang pembolehubah yang dikaitkan dengan pekali yang menuju ke sifar. L2, sebaliknya, berguna apabila anda mempunyai ciri kolinear/bergantung bersama.

Apakah kegunaan regularization Apakah itu regularization L1 dan L2?

Penaturan L1 memberikan output dalam pemberat binari dari 0 hingga 1 untuk ciri model dan digunakan untuk mengurangkan bilangan ciri dalam set data dimensi yang besar. Regularisasi L2 menyerakkan terma ralat dalam semua pemberat yang membawa kepada model akhir tersuai yang lebih tepat.

Apakah perbezaan antara penyelarasan L1 dan L2?

Perbezaan intuitif utama antara regularisasi L1 dan L2 ialah L1 regularization cuba menganggarkan median data manakala regularization L2 cuba menganggarkan min data untuk mengelakkan overfitting. … Nilai itu juga akan menjadi median taburan data secara matematik.

Apakah penyelarasan L1 dan L2 dalam pembelajaran mendalam?

L2 regularization juga dikenali sebagai pereputan berat kerana ia memaksa pemberat mereput ke arah sifar (tetapi bukan sifar tepat). Dalam L1, kami mempunyai: Dalam hal ini, kami menghukum nilai mutlak pemberat. Tidak seperti L2, pemberat mungkin dikurangkan kepada sifar di sini. Oleh itu, ia sangat berguna apabila kita cuba memampatkanmodel kami.

Bagaimanakah penyelarasan L1 dan L2 berfungsi?

Model regresi yang menggunakan teknik regularisasi L1 dipanggil Lasso Regression dan model yang menggunakan L2 dipanggil Ridge Regression. Perbezaan utama antara kedua-duanya ialah tempoh pen alti. Regresi rabung menambah "magnitud kuasa dua" pekali sebagai tempoh pen alti kepada fungsi kehilangan.

Disyorkan:

Artikel yang menarik
Adakah maklumat grafik perlu bertutur?
Baca lebih lanjut

Adakah maklumat grafik perlu bertutur?

2. Maklumat grafik anda mempunyai terlalu banyak teks. Sebab utama maklumat grafik begitu popular adalah kerana ia menyediakan versi konsep atau statistik yang visual dan mudah dihadam, jadi ia tidak sepatutnya terlalu bertele-tele. … Pastikan teks anda pendek, ringkas dan berkuasa.

Bilakah wordy meninggalkan titik kilat?
Baca lebih lanjut

Bilakah wordy meninggalkan titik kilat?

Ia adalah kemuncak naratif yang digerakkan pada penghujung musim ketiga. Jalan itu telah disengajakan. Apabila Wordy meninggalkan pasukan pada penghujung "The Better Man" (4.05) reaksi merangkumi pelbagai daripada suka, kepada kesedihan, kepada kesedihan, kepada kelegaan, kepada kemurungan, dan juga kebencian.

Apa yang perlu dilakukan dan diperbaiki?
Baca lebih lanjut

Apa yang perlu dilakukan dan diperbaiki?

Make Do and Mend ialah sebuah risalah yang dikeluarkan oleh Kementerian Penerangan British di tengah-tengah Perang Dunia II. Ia bertujuan untuk memberikan petua berguna kepada suri rumah tentang cara berjimat cermat dan bergaya semasa catuan yang teruk.