Categorical crossentropy ialah fungsi kehilangan yang digunakan dalam tugas pengelasan berbilang kelas. Ini adalah tugas yang contoh hanya boleh dimiliki oleh satu daripada banyak kategori yang mungkin, dan model mesti menentukan yang mana satu. Secara rasmi, ia reka bentuk untuk mengukur perbezaan antara dua taburan kebarangkalian.
Mengapa menggunakan entropi silang dan bukannya MSE?
Pertama, Cross-entropy (atau softmax loss, tetapi cross-entropy berfungsi lebih baik) ialah ukuran yang lebih baik daripada MSE untuk pengelasan, kerana sempadan keputusan dalam tugas pengelasan adalah besar(berbanding dengan regresi). … Untuk masalah regresi, anda hampir selalu menggunakan MSE.
Apakah perbezaan antara entropi silang jarang dan entropi silang kategori?
Satu-satunya perbezaan antara entropi silang kategori jarang dan entropi silang kategori ialah format label benar. Apabila kami mempunyai masalah klasifikasi berbilang kelas dengan label tunggal, label tersebut adalah saling eksklusif untuk setiap data, bermakna setiap kemasukan data hanya boleh dimiliki oleh satu kelas.
Bagaimanakah anda mentafsir kehilangan entropi silang kategori?
Entropi silang meningkat apabila kebarangkalian ramalan sampel menyimpang daripada nilai sebenar. Oleh itu, meramalkan kebarangkalian 0.05 apabila label sebenar mempunyai nilai 1 meningkatkan kehilangan entropi silang. menandakan kebarangkalian yang diramalkan antara 0 dan 1 untuk sampel itu.
Mengapa entropi silang bagus?
Secara keseluruhannya, seperti yang kita lihat, entropi silang hanyalah satu cara untuk mengukur kebarangkalian model. Entropi silang berguna kerana ia boleh menghuraikan kemungkinan model dan fungsi ralat setiap titik data. Ia juga boleh digunakan untuk menerangkan hasil ramalan berbanding hasil sebenar.
