Kaip padidinti GPU naudojimą „PyTorch“?

Šiame tinklaraštyje mes sutelksime dėmesį į būdus, kuriais galite padidinti GPU panaudojimą „PyTorch“.

Kaip padidinti GPU naudojimą „PyTorch“?

Yra keletas metodų, kurie gali būti naudojami siekiant padidinti GPU panaudojimą ir užtikrinti, kad sudėtingiems mašininio mokymosi modeliams apdoroti būtų naudojami geriausi aparatinės įrangos ištekliai. Šios taktikos apima kodo redagavimą ir PyTorch funkcijų naudojimą. Toliau pateikiami keli svarbūs patarimai ir gudrybės:

• Įkeliami duomenys ir partijų dydžiai
• Mažiau atminties priklausomi modeliai
• PyTorch žaibas
• Koreguokite vykdymo laiko nustatymus sistemoje „Google Colab“.
• Išvalykite talpyklą optimizavimui

Įkeliami duomenys ir partijų dydžiai

„ Duomenų kroviklis “ PyTorch yra naudojamas apibrėžti duomenų, kurie turi būti įkeliami į procesorių kiekvieną kartą perduodant gilaus mokymosi modelį, specifikacijas. Didesnis ' partijos dydis “ duomenų reikės daugiau apdorojimo galios ir padidins turimo GPU išnaudojimą.

Toliau pateikta sintaksė, skirta duomenų įkėlimo programai su konkrečiu paketo dydžiu priskirti PyTorch tinkintam kintamajam:

Mažiau atminties priklausomi modeliai

Kiekvienam modelio architektūrai reikalingas skirtingas tūris atmintis “, kad veiktų optimaliu lygiu. Modeliai, kurie efektyviai naudoja mažiau atminties per laiko vienetą, gali dirbti su daug didesnių partijų dydžiais nei kiti.

PyTorch žaibas

„PyTorch“ turi sumažintą versiją, kuri yra „ PyTorch žaibas “. Jis optimizuotas žaibiškam veikimui, kaip matyti iš jo pavadinimo. „Lightning“ pagal numatytuosius nustatymus naudoja GPU ir siūlo daug greitesnį mašininio mokymosi modelių apdorojimą. Pagrindinis „Lightning“ pranašumas yra tai, kad nereikalaujama pagrindinio kodo, kuris gali trukdyti apdorojimui.

Importuokite reikiamas bibliotekas į PyTorch projektą naudodami toliau pateiktą sintaksę:

Koreguokite vykdymo laiko nustatymus sistemoje „Google Colab“.

„Google Colaboratory“ yra debesies IDE, suteikianti nemokamą GPU prieigą savo vartotojams kuriant „PyTorch“ modelius. Pagal numatytuosius nustatymus „Colab“ projektai vykdomi CPU, bet nustatymus galima keisti.

Atidarykite „Colab“ bloknotą, eikite į „ Vykdymo laikas “ parinktį meniu juostoje ir slinkite žemyn iki „ Pakeiskite vykdymo laiko nustatymus “:

Tada pasirinkite 'T4 GPU' parinktį ir spustelėkite „ Sutaupyti “, kad pritaikytumėte pakeitimus, kad būtų naudojamas GPU:

Išvalykite talpyklą optimizavimui

„PyTorch“ leidžia savo vartotojams išvalyti atminties talpyklą, kad būtų galima atlaisvinti vietos naujiems procesams vykdyti. „ Talpykla “ saugo duomenis ir informaciją apie vykdomus modelius, kad būtų galima sutaupyti laiko, kuris bus sugaištas perkraunant šiuos modelius. Išvalius talpyklą naudotojai turi daugiau vietos paleisti naujus modelius.

Toliau pateikiama komanda išvalyti GPU talpyklą:

Šie patarimai naudojami siekiant optimizuoti mašininio mokymosi modelių veikimą su GPU programoje PyTorch.

Pro-Tip

„Google Colab“ leidžia savo naudotojams pasiekti išsamią informaciją apie GPU naudojimą „ nvidia “ norėdami gauti informacijos apie tai, kur naudojami aparatūros ištekliai. Toliau pateikiama komanda, skirta parodyti GPU naudojimo informaciją:

Sėkmė! Mes ką tik parodėme keletą būdų, kaip padidinti GPU panaudojimą „PyTorch“.

Išvada

Padidinkite „PyTorch“ GPU naudojimą ištrindami talpyklą, naudodami „PyTorch Lightning“, koreguodami vykdymo laiką, naudodami efektyvius modelius ir optimalius paketų dydžius. Šie metodai labai padeda užtikrinti, kad giluminio mokymosi modeliai veiktų geriausiai ir iš turimų duomenų būtų galima padaryti pagrįstas išvadas ir išvadas. Mes parodėme būdus, kaip padidinti GPU panaudojimą.