homenormalizationlayer_norm

View code on Github

#

ස්ථරය සාමාන්යකරණය

මෙය ස්ථර සාමාන්යකරණය කිරීමේ PyTorch ක්රියාත්මක කිරීමයි.

කණ්ඩායම් සාමාන්යකරණයකිරීමේ සීමාවන්

• ඔබධාවන මාර්ග පවත්වා ගත යුතුය.
• RNsසඳහා උපක්රමශීලී. එක් එක් පියවර සඳහා ඔබට විවිධ සාමාන්යකරණයන් අවශ්යද?
• කුඩාකණ්ඩායම් ප්රමාණ සමඟ ක්රියා නොකරයි; විශාල එන්එල්පී ආකෘති සාමාන්යයෙන් කුඩා කණ්ඩායම් ප්රමාණවලින් පුහුණු කරනු ලැබේ.
• බෙදාහරින ලද පුහුණුවේදී උපාංග හරහා මාධ්යයන් සහ වෙනස්කම් ගණනය කිරීම අවශ්ය වේ.

ස්ථරයසාමාන්යකරණය

ස්ථරසාමාන්යකරණය යනු පුළුල් පරාසයක සැකසුම් මත ක්රියා කරන සරල සාමාන්යකරණ ක්රමයකි. ස්ථර සාමාන්යකරණය මඟින් යෙදවුම් අංග හරහා ශුන්ය මධ්යන්යය සහ ඒකක විචලතාව ඇති බවට පරිවර්තනය කරයි. කණ්ඩායම්සාමාන්යකරණය එක් එක් මූලද්රව්යය සඳහා ශුන්ය මධ්යන්යය සහ ඒකක විචලතාව නිවැරදි කරන බව සලකන්න. ස්ථරයසාමාන්යකරණය සියලු අංග හරහා එක් එක් කණ්ඩායම සඳහා එය කරන්නේ.

ස්ථරසාමාන්යකරණය සාමාන්යයෙන් එන්එල්පී කාර්යයන් සඳහා භාවිතා වේ.

ට්රාන්ස්ෆෝමර් ක්රියාත්මක කිරීම්බොහොමයක ස්ථර සාමාන්යකරණය අපි භාවිතා කර ඇත්තෙමු.

Trending Research Paperslabml.ai