Back to Annotated Deep Learning Paper Implementations

ට්රාන්ස්ෆෝමර්සඳහා උපයෝගිතා

docs/si/transformers/utils.html

latest915 B
Original Source

hometransformers

View code on Github

#

ට්රාන්ස්ෆෝමර්සඳහා උපයෝගිතා

10importtorch

#

අනාගත(පසුකාලීන) කාල පියවරයන්ගෙන් දත්ත වසං කිරීම සඳහා පසුකාලීන ආවරණ

13defsubsequent\_mask(seq\_len):

#

17mask=torch.tril(torch.ones(seq\_len,seq\_len)).to(torch.bool).unsqueeze(-1)18returnmask

#

21def\_subsequent\_mask():22fromlabml.loggerimportinspect23inspect(subsequent\_mask(10)[:,:,0])242526if\_\_name\_\_=='\_\_main\_\_':27\_subsequent\_mask()

Trending Research Paperslabml.ai