Natūralios kalbos apdorojimo sistemoje Transformatoriai siūlo įvairius sprendimus sudėtingoms užduotims, tokioms kaip kompiuterinis matymas, vaizdų klasifikavimas, teksto klasifikavimas, garso konvertavimas ir kt. Viena iš Transformer bibliotekos funkcijų yra konvejerio () funkcija, naudojama daugeliui atlikti sudėtingos užduotys, tokios kaip modelių atsisiuntimas, modelių patikslinimas, išvadų užduočių atlikimas ir kt.
Šiame straipsnyje parodoma, kaip naudoti vamzdynus dideliuose modeliuose naudojant „Transformatorių“ pagreitinimo biblioteką.
Kaip naudoti vamzdyną dideliuose modeliuose su transformatoriumi „Accelerate“?
Didelių modelių atsisiuntimas reikalauja ne tik daug išteklių, bet ir laiko. Yra keletas modelių, kurie mokomi naudojant didžiulius duomenų kiekius. Tokie modeliai negali būti lengvai atsisiunčiami ir visada kyla pavojus, kad atsisiuntimas gali nepavykti arba įvyks bet kokia klaida.
Hugging Face pristatė „Accelerate“ biblioteką, kuri leidžia vartotojams lengvai atsisiųsti šiuos didžiulius modelius. Čia yra nuoseklus vadovas, kaip naudoti dujotiekį dideliuose modeliuose su „Accelerate“ biblioteka „Transformatoriuose“.
1 veiksmas: įdiekite „Accelerate Library“.
Norėdami pradėti naudotis „Accelerate“ biblioteka, pirmiausia turime ją įdiegti. Šiuo tikslu pateikite šią komandą:
! pip diegti paspartinti
2 veiksmas: įdiekite transformatorius
Tada mes įdiegsime Transformatoriaus biblioteką naudodami šią komandą:
! pip diegti transformatoriai
3 veiksmas: importuokite bibliotekas
Dabar importuosime visas svarbias bibliotekas. Čia mes panaudojome „facebook/opt-1.3b“ modelis, kuris patenka į kategoriją „Dideli modeliai“ . The device_map= 'automatinis' naudojamas, kai atsisiunčiamas modelis yra didelis ir jam reikia daugiau nei vieno GPU. Taigi 'paspartinti' automatiškai nustatys, kaip įkelti ir saugoti šiuos didžiulius modelius:
importo žibintuvėlisiš transformatorių importo vamzdyno
išvestis = vamzdynas ( modelis = „facebook/opt-1.3b“ , įrenginio_žemėlapis = 'automatinis' )
Visas modelis buvo atsisiųstas „57 sekundės“:
Tai viskas iš šio vadovo. Taip pat yra šio kodo nuoroda į „Google Colab“. .
Išvada
Norėdami naudoti „Accelerate“ biblioteką, įdiekite ją naudodami „!pip diegimo pagreitis“ komandą ir pateikite didelio modelio nuorodą su konvejerine() funkcija. Ši biblioteka yra veiksminga norint atsisiųsti didžiulius mašininio mokymosi modelius. Šiame straipsnyje išsamiai parodyta, kaip naudoti konvejerius dideliuose modeliuose naudojant „Transformatorių“ biblioteką „Accelerate“.