Cross-Entropy Loss
Concept
دالة خسارة تُستخدم لتعظيم احتمالية رؤية النموذج لبيانات التدريب، وتعتبر مقياسًا شائعًا في تدريب النماذج اللغوية.
Mentioned in 2 videos
Save the 2 videos on Cross-Entropy Loss to your own pod.
Sign up free to keep building your knowledge base on Cross-Entropy Loss as more episodes are added.
Videos Mentioning Cross-Entropy Loss
Stanford CME295 Transformers & LLMs | Autumn 2026 | Lecture 4 - Reinforcement Learning with LLMs
Stanford Online
The loss function used in pre-training and supervised fine-tuning (SFT) stages of LLM training, penalizing deviations from the expected token.
Stanford CME 295 Transformers & LLMs | Fall 2026 | Lecture 3 - LLM training
Stanford Online
دالة خسارة تُستخدم لتعظيم احتمالية رؤية النموذج لبيانات التدريب، وتعتبر مقياسًا شائعًا في تدريب النماذج اللغوية.