Šis įrašas iliustruoja išvesties analizatoriaus funkcijų ir klasių naudojimo per „LangChain“ sistemą metodą.
Kaip naudoti išvesties analizatorių per „LangChain“?
Išvesties analizatoriai yra išėjimai ir klasės, kurios gali padėti gauti struktūrizuotą modelio išvestį. Norėdami išmokti išvesties analizatorių naudojimo LangChain procesą, tiesiog atlikite nurodytus veiksmus:
1 veiksmas: įdiekite modulius
Pirmiausia pradėkite išvesties analizatorių naudojimo procesą, įdiegdami LangChain modulį su jo priklausomybėmis, kad atliktumėte procesą:
pip diegti langchain
Po to įdiekite OpenAI modulį, kad galėtumėte naudoti jo bibliotekas, tokias kaip OpenAI ir ChatOpenAI:
pip diegti openai
Dabar nustatykite aplinka OpenAI naudojant API raktą iš OpenAI paskyros:
importuoti mus
importuoti getpass
os.aplinka [ „OPENAI_API_KEY“ ] = getpass.getpass ( „OpenAI API raktas“: )
2 veiksmas: importuokite bibliotekas
Kitas žingsnis yra importuoti bibliotekas iš „LangChain“, kad sistemoje būtų naudojami išvesties analizatoriai:
iš langchain.prompts importuoti HumanMessagePromptTemplate
iš pydantic importo lauko
iš langchain.prompts importuoti ChatPromptTemplate
iš langchain.output_parsers importuoja PydanticOutputParser
iš pydantic importo BaseModel
iš pydantic importo validatoriaus
iš langchain.chat_models importuoti ChatOpenAI
iš langchain.llms importuoti OpenAI
įvedus importavimo sąrašą
3 veiksmas: sukurkite duomenų struktūrą
Išvesties struktūros kūrimas yra gyvybiškai svarbus išvesties analizatorių taikymas didelių kalbų modeliuose. Prieš pereinant prie modelių duomenų struktūros, reikia apibrėžti modelio pavadinimą, kurį naudojame, kad gautume struktūrinę išvestį iš išvesties analizatorių:
temperatūra = 0,0
modelis = OpenAI ( Modelio vardas =modelio_pavadinimas, temperatūros = temperatūra )
Dabar naudokite Joke klasę, kurioje yra BaseModel, kad sukonfigūruotumėte išvesties struktūrą ir gautumėte pokštą iš modelio. Po to vartotojas gali lengvai pridėti pasirinktinę patvirtinimo logiką naudodamas pydantic klasę, kuri gali paprašyti vartotojo pateikti geresnės formos užklausą / raginimą:
klasės pokštas ( Bazinis modelis ) :sąranka: str = laukas ( apibūdinimas = 'užklausa parodyti pokštą' )
punchline: str = laukas ( apibūdinimas = 'atsakyti į užklausą su pokštu' )
#Užklausos loginis patvirtinimas, nes modelis turi tinkamai ją suprasti
@ tikrintuvas ( 'sąranka' )
def question_ends_with_question_mark ( cls, laukas ) :
jeigu lauke [ - 1 ] ! = '?' :
padidinti ValueError ( 'Blogai suformuotas klausimas!' )
grąžinti lauke
4 veiksmas: raginimo šablono nustatymas
Konfigūruokite analizatoriaus kintamąjį, kuriame yra PydanticOutputParser() metodas su jo parametrais:
Sukonfigūravę analizatorių, tiesiog apibrėžkite raginimo kintamąjį naudodami metodą PromptTemplate() su užklausos / raginimo struktūra:
prompt = PromptTemplate (šabloną = 'Atsakykite į vartotojo užklausą. \n {format_instructions} \n {query} \n “ ,
įvesties_kintamieji = [ 'užklausa' ] ,
daliniai_kintamieji = { 'formato_instrukcijos' : parser.get_format_instructions ( ) }
)
5 veiksmas: išbandykite išvesties analizatorių
Sukonfigūravę visus reikalavimus, sukurkite kintamąjį, kuris priskiriamas naudojant užklausą, tada iškvieskite format_prompt() metodą:
_input = prompt.format_prompt ( užklausą =pokšto_užklausa )
Dabar iškvieskite funkciją model(), kad apibrėžtumėte išvesties kintamąjį:
produkcija = modelis ( _input.to_string ( ) )Užbaikite testavimo procesą iškviesdami metodą parser () su išvesties kintamuoju kaip parametru:
analizatorius.parse ( išvestis ) 
Tai viskas apie išvesties analizatoriaus naudojimo procesą „LangChain“.
Išvada
Norėdami naudoti išvesties analizatorių LangChain, įdiekite modulius ir nustatykite OpenAI aplinką naudodami API raktą. Po to apibrėžkite modelį ir sukonfigūruokite išvesties duomenų struktūrą su vartotojo pateiktos užklausos loginiu patvirtinimu. Kai duomenų struktūra sukonfigūruota, tiesiog nustatykite raginimo šabloną ir išbandykite išvesties analizatorių, kad gautumėte rezultatą iš modelio. Šis vadovas iliustruoja išvesties analizatoriaus naudojimo procesą „LangChain“ sistemoje.