Patirtis yra gyvybiškai svarbi ugdant įgūdžius, būtinus giliam mokymuisi pritaikyti naujoms problemoms. Greitas GPU reiškia greitą praktinės patirties įgijimą iš karto gaunant grįžtamąjį ryšį. GPU yra keli branduoliai, skirti lygiagrečiam skaičiavimui. Jie taip pat apima didelį atminties pralaidumą, kad būtų galima lengvai valdyti šią informaciją.
| Populiariausias mūsų pasirinkimas, norint geriausiai mokytis giliai mokytis, yra „Nvidia Geforce RTX 2080 Founders Edition“. Pirkite dabar „Amazon“ už 1 940 USD |
 |
Turėdami tai omenyje, siekiame atsakyti į klausimą „Kokia yra geriausia grafikos plokštė dirbtiniam intelektui, mašininiam mokymuisi ir giliam mokymuisi? peržiūrėję kelias šiuo metu 2021 m. esančias vaizdo plokštes. Peržiūrėtos kortelės:
- AMD RX Vega 64
- „NVIDIA Tesla V100“
- „Nvidia Quadro RTX 8000“
- „GeForce RTX 2080 Ti“
- „NVIDIA Titan RTX“
Žemiau pateikiami rezultatai:
AMD RX Vega 64
„Radeon RX Vega 64“
funkcijos
- Išleidimo data: 2017 m. Rugpjūčio 14 d
- Vega architektūra
- „PCI Express“ sąsaja
- Laikrodžio greitis: 1247 MHz
- Srauto procesoriai: 4096
- VRAM: 8 GB
- Atminties pralaidumas: 484 GB/s
Apžvalga
Jei jums nepatinka NVIDIA GPU arba jūsų biudžetas neleidžia išleisti daugiau nei 500 USD vaizdo plokštės, AMD turi protingą alternatyvą. AMD „RS Vega 64“, kuriame yra pakankamai RAM, greitas atminties pralaidumas ir daugiau nei pakankamai srauto procesorių, yra labai sunku ignoruoti.
„Vega“ architektūra yra ankstesnių RX kortelių atnaujinimas. Našumo požiūriu šis modelis yra artimas „GeForce RTX 1080 Ti“, nes abu šie modeliai turi panašią VRAM. Be to, „Vega“ palaiko vietinį pusiau tikslumą (FP16). ROCm ir TensorFlow veikia, tačiau programinė įranga nėra tokia subrendusi kaip NVIDIA vaizdo plokštėse.
Apskritai, „Vega 64“ yra tinkamas GPU giliam mokymuisi ir AI. Šis modelis kainuoja gerokai mažiau nei 500 USD ir puikiai tinka pradedantiesiems. Tačiau profesionalioms programoms rekomenduojame pasirinkti NVIDIA kortelę.
Išsami informacija apie „AMD RX Vega 64“ „Amazon“
„NVIDIA Tesla V100“
„Tesla V100“
Funkcijos:
- Išleidimo data: 2017 m. Gruodžio 7 d
- „NVIDIA Volta“ architektūra
- PCI-E sąsaja
- 112 TFLOPS Tensor Performance
- 640 tenzorių spalvų
- 5120 „NVIDIA CUDA®“ spalvos
- VRAM: 16 GB
- Atminties pralaidumas: 900 GB/s
- Skaičiuoti API: CUDA, DirectCompute, OpenCL ™, OpenACC®
Apžvalga:
„NVIDIA Tesla V100“ yra nuostabi ir viena geriausių grafikos plokščių dirbtiniam intelektui, mašinų mokymuisi ir giliam mokymuisi. Ši kortelė yra visiškai optimizuota ir supakuota su visomis gėrybėmis, kurių gali prireikti šiam tikslui.
„Tesla V100“ yra 16 GB ir 32 GB atminties konfigūracijų. Turėdami daug VRAM, dirbtinio intelekto pagreičio, didelį atminties pralaidumą ir specializuotus tenzoriaus branduolius giliam mokymuisi, galite būti tikri, kad kiekvienas jūsų treniruočių modelis veiks sklandžiai - ir per trumpesnį laiką. Konkrečiai kalbant, „Tesla V100“ gali suteikti 125TFLOPS gilaus mokymosi našumo tiek mokymui, tiek išvadoms [3], o tai įmanoma dėl NVIDIA „Volta“ architektūros.
„NVIDIA Tesla V100“ informacija: „Amazon“ , ( 1 )
„Nvidia Quadro RTX 8000“
„Nvidia Quadro Rtx 8000“
Funkcijos:
- Išleidimo data: 2018 m. Rugpjūčio mėn
- Turingo architektūra
- 576 Tenzorinės spalvos
- CUDA spalvos: 4 608
- VRAM: 48 GB
- Atminties pralaidumas: 672 GB/s
- 16.3 TFLOPS
- Sistemos sąsaja: PCI-Express
Apžvalga:
„Quadro RTX 8000“, sukurta specialiai giliam mokymosi matricos aritmetikai ir skaičiavimams, yra aukščiausios klasės vaizdo plokštė. Kadangi šioje kortelėje yra didelė VRAM talpa (48 GB), šis modelis rekomenduojamas tyrinėti ypač didelius skaičiavimo modelius. Naudojant kartu su „NVLink“, talpa gali būti padidinta iki 96 GB VRAM. Kas yra daug!
72 RT ir 576 „Tensor“ branduolių derinys pagerina darbo eigą ir užtikrina daugiau nei 130 TFLOPS našumo. Palyginti su brangiausia mūsų sąraše esančia vaizdo plokšte - „Tesla V100“ - šis modelis potencialiai siūlo 50 procentų daugiau atminties ir vis tiek sugeba pigiau. Net ir įdiegtoje atmintyje šis modelis pasižymi išskirtinėmis charakteristikomis dirbdamas su didesniais paketų dydžiais su vienu GPU.
Vėlgi, kaip ir „Tesla V100“, šį modelį riboja tik jūsų kainos stogas. Tai reiškia, kad jei norite investuoti į ateitį ir į aukštos kokybės kompiuteriją, įsigykite RTX 8000. Kas žino, galite vadovauti AI tyrimams. „Tesla V100“ yra paremta Turingo architektūra, kur V100 - „Volta“ architektūra, todėl „Nvidia Quadro RTX 8000“ galima laikyti šiek tiek modernesniu ir šiek tiek galingesniu nei „V100“.
„Nvidia Quadro RTX 8000“ informacija: „Amazon“
„GeForce RTX 2080 Ti“
„Geforce RTX 2080 Founders Edition“
Funkcijos:
- Išleidimo data: 2018 m. Rugsėjo 20 d
- Turingo GPU architektūra ir RTX platforma
- Laikrodžio greitis: 1350 MHz
- CUDA spalvos: 4352
- 11 GB naujos kartos itin greitos GDDR6 atminties
- Atminties pralaidumas: 616 GB/s
- Galia: 260W
Apžvalga:
„GeForce RTX 2080 Ti“ yra biudžeto variantas, idealiai tinkantis nedidelio masto modeliavimo krūviams, o ne didelio masto mokymams. Taip yra todėl, kad kortelėje yra mažesnė GPU atmintis (tik 11 GB). Šio modelio apribojimai tampa akivaizdesni, kai mokoma kai kurių šiuolaikinių NLP modelių. Tačiau tai nereiškia, kad ši kortelė negali konkuruoti. RTX 2080 pūstuvo konstrukcija leidžia kur kas tankesnes sistemos konfigūracijas - iki keturių GPU vienoje darbo vietoje. Be to, šis modelis treniruoja neuroninius tinklus 80 procentų „Tesla V100“ greičiu. Remiantis „LambdaLabs“ gilaus mokymosi našumo kriterijais, palyginti su „Tesla V100“, RTX 2080 yra 73% FP2 greitis ir 55% FP16 greitis.
Tuo tarpu šis modelis kainuoja beveik 7 kartus pigiau nei „Tesla V100“. Tiek kainos, tiek našumo požiūriu „GeForce RTX 2080 Ti“ yra puikus GPU giliam mokymuisi ir AI kūrimui.
„GeForce RTX 2080 Ti“ informacija: „Amazon“
„NVIDIA Titan RTX“
„NVIDIA Titan RTX“ grafika
Funkcijos:
- Išleidimo data: 2018 m. Gruodžio 18 d
- Pagamintas naudojant NVIDIA Turing ™ architektūrą, sukurtą dirbtiniam intelektui
- 576 įtempimo branduoliai AI pagreičiui
- 130 teraFLOPS (TFLOPS) giliam mokymuisi
- CUDA spalvos: 4608
- VRAM: 24 GB
- Atminties pralaidumas: 672 GB/s
- Rekomenduojamas maitinimo šaltinis 650 vatų
Apžvalga:
„NVIDIA Titan RTX“ yra dar vienas vidutinės klasės GPU, naudojamas sudėtingoms gilaus mokymosi operacijoms. Šio modelio 24 GB VRAM pakanka darbui su dauguma partijų. Tačiau, jei norite mokyti didesnius modelius, suporuokite šią kortelę su „NVLink“ tiltu, kad galėtumėte efektyviai turėti 48 GB VRAM. Šios sumos pakaktų net ir dideliems transformatoriniams NLP modeliams. Be to, „Titan RTX“ leidžia mokyti modelius (pvz., FP 16 kartu su FP32 kaupimu). Dėl to šis modelis veikia maždaug 15-20 procentų greičiau operacijose, kuriose naudojamos „Tensor Core“.
Vienas „NVIDIA Titan RTX“ apribojimas yra dviejų ventiliatorių dizainas. Tai trukdo sudėtingesnėms sistemos konfigūracijoms, nes jos negalima supakuoti į darbo vietą be esminių aušinimo mechanizmo pakeitimų, o tai nerekomenduojama.
Apskritai, „Titan“ yra puikus universalus GPU, skirtas beveik bet kokioms gilaus mokymosi užduotims. Palyginti su kitomis bendrosios paskirties vaizdo plokštėmis, tai tikrai brangu. Štai kodėl šis modelis nerekomenduojamas žaidėjams. Nepaisant to, tyrėjai, naudojantys sudėtingus gilaus mokymosi modelius, greičiausiai įvertintų papildomą VRAM ir našumo padidėjimą. „Titan RTX“ kaina yra žymiai mažesnė už aukščiau pateiktą „V100“ ir būtų geras pasirinkimas, jei jūsų biudžetas neleidžia „V100“ kainoms mokytis giliai arba jūsų darbo krūviui nereikia daugiau nei „Titan RTX“ ( pamatyti įdomius etalonus )
Išsami informacija apie „NVIDIA Titan RTX“: „Amazon“
Geriausios grafikos plokštės pasirinkimas dirbtiniam intelektui, mašininiam mokymuisi ir giliam mokymuisi
PG, mašininis mokymasis ir gilaus mokymosi užduotys apdoroja krūvas duomenų. Šios užduotys gali būti labai sudėtingos jūsų aparatinei įrangai. Žemiau pateikiamos funkcijos, į kurias reikia atsižvelgti prieš perkant GPU.
Spalvos
Kaip paprasta taisyklė, kuo daugiau branduolių, tuo didesnis jūsų sistemos našumas. Taip pat reikėtų atsižvelgti į branduolių skaičių, ypač jei dirbate su dideliu duomenų kiekiu. NVIDIA savo branduolius pavadino CUDA, o AMD jų branduolius vadina srauto procesoriais. Pasirinkite didžiausią jūsų biudžeto leidžiamų apdorojimo branduolių skaičių.
Apdorojimo galia
GPU apdorojimo galia priklauso nuo branduolių skaičiaus sistemos viduje, padauginto iš laikrodžio greičio, kuriuo veikiate branduolius. Kuo didesnis greitis ir didesnis branduolių skaičius, tuo didesnė bus apdorojimo galia, kuria jūsų GPU gali apskaičiuoti duomenis. Tai taip pat lemia, kaip greitai jūsų sistema atliks užduotį.
VRAM
Vaizdo RAM arba VRAM yra duomenų, kuriuos jūsų sistema gali apdoroti vienu metu, matas. Didesnis VRAM yra gyvybiškai svarbus, jei dirbate su įvairiais „Computer Vision“ modeliais arba dalyvaujate bet kokiuose „CV Kaggle“ konkursuose. VRAM nėra toks svarbus NLP arba dirbant su kitais kategoriniais duomenimis.
Atminties pralaidumas
Atminties pralaidumas yra duomenų nuskaitymo ar atminties atminties greitis. Paprasčiau tariant, tai yra VRAM greitis. Matuojant GB/s, daugiau atminties pralaidumo reiškia, kad kortelė gali surinkti daugiau duomenų per trumpesnį laiką, o tai reiškia greitesnį veikimą.
Aušinimas
GPU temperatūra gali būti didelė kliūtis, kai kalbama apie našumą. Šiuolaikiniai GPU padidina greitį iki maksimalaus, kai veikia algoritmas. Bet kai tik pasiekiama tam tikra temperatūros riba, GPU sumažina apdorojimo greitį, kad apsaugotų nuo perkaitimo.
Pūstuvo ventiliatoriaus konstrukcija, skirta oro aušintuvams, išstumia orą už sistemos ribų, o ne ventiliatoriai įsiurbia orą. Architektūroje, kai vienas šalia kito yra keli GPU, ne ventiliatoriai labiau įkaista. Jei aušinimą oru naudojate nustatydami 3–4 GPU, venkite ventiliatorių be pūstuvų.
Vandens aušinimas yra dar viena galimybė. Nors šis metodas yra brangus, jis yra daug tylesnis ir užtikrina, kad net ir pačios skaniausios GPU sąrankos veikimo metu išliks kietos.
Išvada
Daugumai vartotojų, kurie nori giliai mokytis, „RTX 2080 Ti“ arba „Titan RTX“ suteiks didžiausią sprogimą. Vienintelis RTX 2080 Ti trūkumas yra ribotas 11 GB VRAM dydis. Mokymas naudojant didesnius partijų dydžius leidžia modeliams treniruotis greičiau ir daug tiksliau, sutaupant daug vartotojo laiko. Tai įmanoma tik tada, kai turite „Quadro“ GPU arba „TITAN RTX“. Naudojant pusę tikslumo (FP16), modeliai gali tilpti į GPU, kurių VRAM dydis yra nepakankamas [2]. Tačiau labiau pažengusiems vartotojams turėtumėte investuoti į „Tesla V100“. Tai yra mūsų geriausias pasirinkimas, norint sukurti geriausią grafikos plokštę dirbtiniam intelektui, mašinų mokymuisi ir giliam mokymuisi. Tai viskas šiam straipsniui. Tikimės, kad jums patiko. Iki kito karto!