Kaip paleisti LLMChains „LangChain“?

„LangChain“ yra sistema, leidžianti kūrėjams kurti didelius kalbos modelius arba pokalbių modelius, kuriuos žmonės gali naudoti informacijai išgauti. Šiuos modelius galima naudoti bendraujant natūraliomis kalbomis, supratus komandas atitinkamai generuoti tekstus. LLM arba pokalbių robotai naudoja grandines, kad galėtų bendrauti su žmonėmis, išsaugodami ankstesnius pranešimus kaip stebėjimus, kad gautų pokalbio kontekstą.

Šis vadovas parodys LLMChain paleidimo procesą „LangChain“.

Kaip paleisti LLMChains „LangChain“?

„LangChain“ teikia funkcijas arba priklausomybes kuriant LLMChains naudojant LLM / pokalbių robotus ir raginimo šablonus. Norėdami sužinoti, kaip kurti ir paleisti LLMChains LangChain, tiesiog vadovaukitės toliau pateiktais nuosekliais nurodymais:

1 veiksmas: įdiekite paketus

Pirmiausia pradėkite procesą įdiegdami „LangChain“ modulį, kad gautumėte jo priklausomybes kuriant ir paleidžiant LLMChains:

pip įdiegti langchain

Įdiekite OpenAI sistemą naudodami pip komandą, kad bibliotekos naudotų OpenAI() funkciją kurdamos LLM:

pip install openai

Sumontavus modulius, tiesiog sutvarkyti aplinką kintamieji naudojant API raktą iš OpenAI paskyros:

importuoti tu

importuoti gauti pasą

tu . maždaug [ „OPENAI_API_KEY“ ] = gauti pasą . gauti pasą ( 'OpenAI API raktas:' )

2 veiksmas: importuokite bibliotekas

Kai sąranka bus baigta ir visi reikalingi paketai bus įdiegti, importuokite reikiamas bibliotekas, kad sukurtumėte raginimo šabloną. Po to tiesiog sukurkite LLM naudodami OpenAI() metodą ir sukonfigūruokite LLMChain naudodami LLM ir raginimo šabloną:

iš langchain importuoti PromptTemplate

iš langchain importuoti OpenAI

iš langchain importuoti LLMCchain

prompt_template = 'Suteikite man gerą pavadinimą verslui, kuris gamina {product}?'

llm = OpenAI ( temperatūros = 0 )

llm_chain = LLMCchain (

llm = llm ,

paraginti = PromptTemplate. from_template ( prompt_template )

)

llm_chain ( 'spalvingi drabužiai' )

3 veiksmas: paleisti grandines

Gaukite įvesties sąrašą su įvairiais įmonės gaminamais produktais ir vykdykite grandinę, kad sąrašas būtų rodomas ekrane:

įvesties_sąrašas = [
{ 'produktas' : 'kojinės' } ,
{ 'produktas' : 'kompiuteris' } ,
{ 'produktas' : 'avalynė' }
]

llm_chain. taikyti ( įvesties_sąrašas )

Paleiskite generavimo () metodą naudodami įvesties_sąrašas su LLMChains, kad gautumėte išvestį, susijusį su modelio sugeneruotu pokalbiu:

llm_chain. generuoti ( įvesties_sąrašas )

4 veiksmas: vienos įvesties naudojimas

Pridėkite kitą produktą, kad paleistumėte LLMChains naudodami tik vieną įvestį, tada numatykite, kad LLMChain generuos išvestį:

llm_chain. numatyti ( produktas = 'spalvingos kojinės' )

5 veiksmas: kelių įėjimų naudojimas

Dabar prieš paleisdami grandinę sukurkite šabloną, kad galėtumėte naudoti kelis įvestis, kad pateiktumėte komandą modeliui:

šabloną = '''Pasakyk man {būdvardis} pokštą apie {temą}.'''
paraginti = PromptTemplate ( šabloną = šabloną , įvesties_kintamieji = [ 'būdvardis' , 'tema' ] )
llm_chain = LLMCchain ( paraginti = paraginti , llm = OpenAI ( temperatūros = 0 ) )

llm_chain. numatyti ( būdvardis = 'liūdnas' , tema = 'antys' )

6 veiksmas: naudokite išvesties analizatorių

Šiame veiksme naudojamas išvesties analizavimo metodas, kad paleistumėte LLMChain, kad gautumėte išvestį pagal raginimą:

iš langchain. išvesties_analizatoriai importuoti CommaSeparatedListOutputParser

išvesties_analizatorius = CommaSeparatedListOutputParser ( )

šabloną = '''Išvardykite visas vaivorykštės spalvas''

paraginti = PromptTemplate ( šabloną = šabloną , įvesties_kintamieji = [ ] , išvesties_analizatorius = išvesties_analizatorius )

llm_chain = LLMCchain ( paraginti = paraginti , llm = llm )

llm_chain. numatyti ( )

Naudojant metodą parse () norint gauti išvestį, bus sukurtas kableliais atskirtas visų vaivorykštės spalvų sąrašas:

llm_chain. numatyti_ir_analizuoti ( )

7 veiksmas: inicijavimas iš stygų

Šis veiksmas paaiškina, kaip eilutę naudoti kaip raginimą paleisti LLMChain naudojant LLM modelį ir šabloną:

šabloną = '''Pasakyk man {būdvardis} anekdotą apie {subject}'''

llm_chain = LLMCchain. iš_stygos ( llm = llm , šabloną = šabloną )

Pateikite kintamųjų reikšmes eilutėje, kad gautumėte išvestį iš modelio paleisdami LLMChain:

llm_chain. numatyti ( būdvardis = 'liūdnas' , tema = 'antys' )

Tai viskas apie LLMChains paleidimą naudojant „LangChain“ sistemą.

Išvada

Norėdami sukurti ir paleisti LLMChains LangChain, įdiekite tokias būtinas sąlygas kaip paketai ir nustatykite aplinką naudodami OpenAI API raktą. Po to importuokite reikiamas bibliotekas, kad sukonfigūruotumėte raginimo šabloną ir modelį, skirtą LLMChain paleisti naudojant LangChain priklausomybes. Vartotojas gali naudoti išvesties analizatorius ir eilučių komandas paleisti LLMChains, kaip parodyta vadove. Šiame vadove išsamiai aprašytas visas „LLMChains“ paleidimo „LangChain“ procesas.

Kaip paleisti LLMChains „LangChain“?