note
文章目录
一、介绍
总的来说,有六大核心模块:
二、的应用 1. 集成LLM
# !/usr/bin/python# -*- coding: utf-8 -*-import osfrom langchain.schema import HumanMessagefrom langchain.chat_models import ChatOpenAIfrom langchain.llms import OpenAIfrom langchain import PromptTemplatefrom langchain.chains import LLMChainfrom langchain import PromptTemplate, FewShotPromptTemplateos.environ["OPENAI_API_KEY"] = "..."os.environ['HUGGINGFACEHUB_API_TOKEN'] = '...'# # llm initialization,LangChain集成LLM模型# pip -q install openai langchain huggingface_hub# llm = ChatOpenAI(model_name="gpt-3.5-turbo", temperature=0)## while True:#human_input = input("(human): ")#human_input = [HumanMessage(content=human_input)]#ai_output = llm(human_input)#print(f"(ai): {ai_output.content}")# 1. model testllm = OpenAI(model_name='text-davinci-003',temperature=0.9,max_tokens=1024)text = "老鼠生病了能吃老鼠药吗?"print(llm(text)) # 不能 。老鼠药只能用于驱除和杀死老鼠,不能用于治疗老鼠疾病 。如果老鼠生病了,需要求助专业兽医进行治疗 。
2. 创建
# 2. prompt generationrestaurant_template = """我想让你成为一个给新开餐馆命名的顾问 。给我返回一个餐馆名字的名单. 每个餐馆名字要简单, 朗朗上口且容易记住. 它应该和你命名的餐馆类型有关.关于{restaurant_desription} 这家餐馆好听名字有哪些?"""# 创建一个prompt模板prompt_template = PromptTemplate(input_variables=["restaurant_desription"],template=restaurant_template)description = "一家以婚纱摄影为主题的汉堡店"description_02 = "一家拉面店,营业员都穿着汉服"description_03 = "一家能看到海景的烤肉店"# 查看模板生成的生成的内容 。print(prompt_template.format(restaurant_desription=description))# 应用prompt模板chain = LLMChain(llm = llm, prompt = prompt_template)print(chain.run("一家以婚纱摄影为主题的汉堡店"))1. 海洋蔚蓝婚纱汉堡2. 白马婚礼汉堡3. 幸福煎饼汉堡4. 唯美烤肉汉堡5. 爱情芝士汉堡6. 天使之翼汉堡7. 星期五婚礼汉堡8. 情侣奇妙汉堡9. 时尚恋人汉堡10. 魅力婚礼汉堡
3. 短语模板
# 3. 短语模板# 首先创建一个短语示例,该示例包含两组输入和输出,每输入一个词语,LLM就会输出一个对应的反义词examples = [{"输入": "高兴", "输出": "悲伤"},{"输入": "高大", "输出": "低矮"},]#创建一个prompt模板,example_prompt = PromptTemplate(input_variables=["输入", "输出"],template="\n输入: {输入}\n输出: {输出}\n",)# 最后我们创建一个短语prompt模板对象few_shot_prompt = FewShotPromptTemplate(# 这些是我们要插入到prompt中的示例examples=examples,# 将示例插入prompt时,格式化示例的方式 。example_prompt=example_prompt,# 输入变量是用户直接输入的变量input_variables=["input"],# 前缀变量prefix="给出每个输入词语的反义词",# 后缀变量suffix="输入: {input}\n输出:",# 用来连接前缀、示例和后缀的字符串 。example_separator="\n",)# 测试一下短语模板对象print(few_shot_prompt.format(input="快乐"))# 在LLM中应用短语模板from langchain.chains import LLMChainchain = LLMChain(llm=llm, prompt=few_shot_prompt)chain.run("善良")Out[14]: ' 恶毒'chain.run("肥仔")Out[15]: ' 瘦子'
![构建LLM应用 【LLM】LangChain基础使用](http://img.gansulong.com/230629/10191023Z-0.gif)
文章插图
[1] 用构建大语言模型应用
[2]
[3] 官方文档:
【构建LLM应用【LLM】LangChain基础使用】[4] 与大型语言模型(LLMs)应用基础教程:模板
- 什么是逆向工程?特点是?应用领域有哪些?
- 人类最伟大、最基础、最不可替代、应用最广泛的科学发明是什么? 科技生活中国之最
- Epic推出免费3D扫描应用《RealityScan》
- 5G的应用,将为物联网发展带来哪些新机遇?
- 5G网络的应用,给物联网的发展带来了哪些机遇?
- 秦始皇陵迷之地宫:受高人指点构建江河湖海
- 联想持续发力AIoT智能物联,构建新基建时代下的行业新引擎
- 构建开源供应链安全的软件物料清单(SBOM)
- 机器视觉及其应用发展
- Spring Cloud应用接入华为云微服务CSE