Sintaksė:
Kadangi esame susipažinę su ChatGPT, žinome, kad ši platforma priklauso atvirojo AI bendruomenei ir joje pateikiami įrankiai, architektūros, API ir keletas sistemų, kurias galime panaudoti diegdami savo programas ir natūralios kalbos apdorojimo modelius. Open AI siūlo API, per kurias galime naudoti bet kokius iš anksto paruoštus AI ir NLP modelius iš Open AI platformos ir galime priversti juos veikti mūsų programoms, pavyzdžiui, teikti prognozes apie duomenis realiuoju laiku. Be to, GPT4All taip pat suteikia vartotojams galimybę integruoti iš anksto paruoštus AI modelius su skirtingomis programomis.
„GPT4All“ modelis yra apmokytas naudojant ribotus duomenis, palyginti su „ChatGPT“. Jis taip pat turi tam tikrų našumo apribojimų, palyginti su „ChatGPT“, tačiau jis leidžia vartotojui naudoti savo privatų GPT vietinėje aparatinėje įrangoje ir tam nereikia jokių tinklo jungčių. Šio straipsnio pagalba sužinosime, kaip galime naudoti GPT4All modelius Python scenarijuje, nes GPT4All turi oficialius susiejimus su Python, o tai reiškia, kad GPT4All modelius galime naudoti ir integruoti naudodami Python scenarijų.
Norint įdiegti „GPT4All“, skirtą „Python IDE“, reikia internetinės komandos. Tada galime integruoti tiek AI modelių, kiek ir mūsų programų. Komanda įdiegti šį GPT4All Python yra tokia, kaip parodyta toliau:
$ pip įdiegti gpt4all
1 pavyzdys:
Norėdami pradėti nuo šio pavyzdžio, turime atsisiųsti ir įdiegti Python savo sistemose. Rekomenduojamos „Python“ versijos yra „3.7 versija“ arba tos, kurios buvo išleistos po šios versijos. Kitas būdas dirbti su Python, siekiant išvengti ilgo „Python“ sąrankos diegimo mūsų sistemose proceso, yra „Google Colab“, kuri yra debesies pagrindu sukurta Python aplinka. Šią aplinką galime paleisti bet kurioje žiniatinklio naršyklėje ir kurti AI bei mašininio mokymosi modelius. Pavyzdžiai, kuriuos įgyvendinsime čia, yra vykdomi „Google Colab“.
Šiame pavyzdyje aprašomas GPT4All diegimo „Python“ metodas ir iš anksto paruoštų modelių naudojimas. Pirmiausia įdiegiame GPT4All. Tam vykdoma anksčiau minėta komanda. Vykdant komandą, GPT4All kartu su paketais ir sistemomis atsisiunčiama ir įdiegiama.
Dabar judame į priekį. Iš GPT4All importuojame „GPT4All“. Taip prie projekto pridedami visi iš anksto paruošti GPT4All modeliai. Dabar galime naudoti bet kurį vieną modelį ir priversti jį atlikti mūsų programos prognozes. Kai importuosime paketą GPT4All, dabar laikas iškviesti šią funkciją ir naudoti GPT4All modelį, kuris suteikia „pokalbio užbaigimo“ išvestį.
Kitaip tariant, jei ko nors paklausiame to modelio įvestyje, jis grąžina tai išvestyje. Čia naudojamas modelis yra „ggml-gpt4all-j-v1.3-groovy“. Šie modeliai jau saugomi GPT4All talpykloje. Šiuos modelius galime gauti iš šios nuorodos “ https://github.com/nomic-ai/gpt4all/tree/main/gpt4all-chat “, kad galėtumėte atsisiųsti rankiniu būdu. Jei modelis jau yra GPT4All talpykloje, tiesiog iškviečiame modelio pavadinimą ir nurodome jį kaip įvesties parametrus funkcijai „GPT4All()“. Jei sėkmingai atsisiuntėme rankiniu būdu, mes perduodame kelią į aplanką, kuriame yra modelis. Kadangi šis modelis skirtas pranešimui užbaigti, šio modelio sintaksė pateikiama taip:
$ Chat_completion (pranešimai)Pranešimai yra žodyno sąrašas ir kiekviename žodyne turi būti „role“ raktas su vartotojo, sistemos ar asistento reikšme ir „rakto“ turinys, kurio reikšmė yra eilutė. Šiame pavyzdyje turinį nurodome kaip „pavadinkite tris spalvas“, o vaidmens raktą – kaip „naudotojas“.
$modelis= GPT4All('ggml-gpt4all-j-v1.3-groovy')$messages = [{'role': 'user', 'content': 'Pavadinkite 3 gėles'}]
Po šios specifikacijos modeliu vadiname funkciją „chat_completion()“. To kodas rodomas šioje išvestyje:
$ !pip įdiegti gpt4alliš gpt4all importuoti GPT4All
modelis = GPT4All('ggml-gpt4all-j-v1.3-groovy')
messages = [{'role': 'vartotojas', 'turinys': 'Pavadinkite tris spalvas'}]
model.chat_completion(pranešimai)
Atlikus šį pavyzdį, modelis grąžina tris spalvas kaip atsaką į įvestį.
2 pavyzdys:
Pateikiame kitą pavyzdį, kuriame atrandame kitą GPT4All naudojimo Python metodą. Tai galima padaryti naudojant oficialius Python sąsajas, kurias teikia „Nomic“, kuri yra atvirojo kodo AI bendruomenė, ir ji paleidžia GPT4All. Naudodami šią komandą integruojame „nomic“ į savo Python konsolę:
$ pip įdiegti nomicKai tai įdiegiama, importuojame GPT4All iš „nomic.gpt4all“. Importavę GPT4All, inicijuojame GPT4All naudodami funkciją „open ()“. Tada iškviečiame funkciją „prompt()“ ir perduodame raginimą šiai funkcijai. Tada sugeneruojamas greitas atsakymas, remiantis raginimu, kurį pateikėme kaip įvestį raginimo modeliui.
!pip install nomiciš nomic.gpt4all importuoti GPT4All
# Inicijuokite GPT4All modelį
inicijuoti = GPT4All()
inicijuoti.open()
# Sugeneruojamas atsakymas pagal raginimą
model_response = inici.prompt('parašykite trumpą istoriją apie kompiuterį)
# rodomas sugeneruotas atsakymas
spausdinti (model_response)
Išvestyje rodomas greitas atsakas iš modelio, kurį sukūrėme naudodami iš anksto paruoštą GPT4All modelį Python. Jei norime daugiau sužinoti apie modelius ir kaip galime naudoti šiuos modelius atsakymams generuoti, arba paprastais žodžiais tariant, jei norime įgyti žinių apie sintaksę, kad galėtume generuoti atsakymus iš šių modelių, galime gauti daugiau pagalbos iš GPT4 Visa techninės dokumentacijos informacija.
Išvada
GPT4All vis dar siekia pasiekti našumo tikslumą. Ją valdo nomic AI platforma, kurios tikslas – teikti dirbtinai intelektualius pokalbių robotus savo vartotojams vartotojui skirtuose CPU, nes GPT4All veikia be jokio tinklo ryšio ir GPU. Šis straipsnis parodo, kaip tinkamai naudoti PyGPT4All Python aplinkoje ir sukurti sąveiką tarp mūsų programų ir iš anksto paruoštų GPT4All AI modelių. Šiame vadove aptarėme du skirtingus GPT4All diegimo Python metodus.