概念四大支柱Langchain、langGraph、deep agent、langsmithAgentLLMPlanningToolsMemoryActionAnaConda主要用来简化数据科学和机器学习的环境搭建 。它集成了 Python 解释器、常用科学计算包以及包管理工具# 切换python环境conda activate lanchain1.2# 安装ChatOpenAI依赖包pipinstalllangchain-openai pipinstalllangchain-deepseek# 用于管理环境的包pipinstallpython-dotenvRAG检索增强生成开发大模型的知识冻结训练的知识时效问题和大模型幻觉一本正经的胡说八道就是幻觉提升回答准确率。大模型应用开发的场景纯PromptAgent Function CallingRAG智能客户用的比较多Embeddings、向量数据库、向量搜索Fine-tuning精调/微调pip install -r通过专用API调用调用大模型最重要的几个参数 base_url、model_name、api_key放在env文件中deepseekdeepseek官方文档importosfromurllibimportresponsefromdotenvimportload_dotenvfromlangchain_deepseekimportChatDeepSeek# 读取.env配置文件load_dotenv(overrideTrue)# 默认ChatDeepSeek的api_key、api_base就是这两个key值也可以不显式加载DEEPSEEK_API_KEYos.getenv(DEEPSEEK_API_KEY)DEEPSEEK_BASE_URLos.getenv(DEEPSEEK_BASE_URL)MODEL_NAMEos.getenv(MODEL_NAME)# 模型初始化llm_deepseekChatDeepSeek(modelMODEL_NAME,api_keyDEEPSEEK_API_KEY,api_baseDEEPSEEK_BASE_URL,)# 模型调用responsellm_deepseek.invoke(请用一句话介绍你自己)print(response)智谱GLM官网fromlangchain_community.chat_modelsimportChatZhipuAIimportosfromdotenvimportload_dotenv# 读取.env配置文件load_dotenv(overrideTrue)# ZHIPUAI_API_KEY os.getenv(ZHIPUAI_API_KEY)# ZHIPUAI_BASE_URL os.getenv(ZHIPUAI_BASE_URL)ZHIPUAI_MODEL_NAMEos.getenv(ZHIPUAI_MODEL_NAME)# 模型初始化llm_zhipuChatZhipuAI(modelZHIPUAI_MODEL_NAME,# api_keyZHIPUAI_API_KEY,# api_baseZHIPUAI_BASE_URL,)# 模型调用responsellm_zhipu.invoke(请用一句话介绍你自己)print(response)兼容的解法使用ChatOpenAIfromlangchain_openai.chat_models.baseimportChatOpenAI# 读取.env配置文件load_dotenv(overrideTrue)DEEPSEEK_API_KEYos.getenv(DEEPSEEK_API_KEY)# 如果是智谱的话应该配置https://open.bigmodel.cn/api/paas/v4DEEPSEEK_BASE_URLos.getenv(DEEPSEEK_BASE_URL)modelChatOpenAI(modeldeepseek-v4-flash,api_keyDEEPSEEK_API_KEY,base_urlDEEPSEEK_BASE_URL,)print(model.invoke(今天是几月几日))中转平台OpenRouterfromlangchain_openrouter.chat_modelsimportChatOpenRouterimportosfromdotenvimportload_dotenv# 读取.env配置文件load_dotenv(overrideTrue)OPENROUTER_API_KEYos.getenv(OPENROUTER_API_KEY)OPENROUTER_API_BASEos.getenv(OPENROUTER_API_BASE)modelChatOpenRouter(modelinclusionai/ling-3.0-flash-sante:free,api_keyOPENROUTER_API_KEY,base_urlOPENROUTER_API_BASE,)print(model.invoke(如果你有一万元你会做什么))CloseAI# 使用CloseAIfromlangchain_openai.chat_models.baseimportChatOpenAIfromdotenvimportload_dotenvimportos# 读取.env配置文件load_dotenv(overrideTrue)CLOSEAI_API_KEYos.getenv(CLOSEAI_API_KEY)# 如果是智谱的话应该配置https://open.bigmodel.cn/api/paas/v4CLOSEAI_BASE_URLos.getenv(CLOSEAI_BASE_URL)modelChatOpenAI(modelgpt-6-astra,api_keyCLOSEAI_API_KEY,base_urlCLOSEAI_BASE_URL,)print(model.invoke(一句话介绍你自己))使用LangChain的统一方式init_chat_model()参数参数类型说明默认值modelstr使用的特定提供商的模型名称(必需)。 比如openai:gpt-4o、groq:gemma2-9b-it无model_providerstr模型提供商名称无api_keystrAPI 密钥。如果不提供会从环境变量中读取如 DEEPSEEK_API_KEYNonebase_urlstr大模型供应商API请求地址。Nonetemperaturefloat控制输出随机性范围 0.0-2.0温度越高输出越随机。 - 0.0 最确定性输出几乎不变 - 1.0 平衡创造性和一致性 - 2.0 最随机最有创造性0.7max_tokensint限制模型输出的最大 token 数量Nonetimeoutfloat超时时间秒超时未响应请求会被取消。Nonemax_retriesint请求失败如网络问题、速率限制时的最大重试次数6常用的重要参数temperature参数的使用场景区间是0.0-2.0值越小越没有创意性0.0-0.3:需要一致性、准确性的任务数学计算、数据提取、分类、代码生成0.5-0.7平衡创造性和一致性聊天、问答0.8-1.5创造性任务写作、头脑风暴1.5-2.0高度创造性诗歌、故事写作可能会有幻觉问题max_tokens本地部署模型的部署与调用Ollama去官网下载并安装Ollama安装模型# 下载、运行模型的指令ollama run deepseek-r1:1.5b# 结束模型/bye# 查看已有模型ollama list使用本地ollama中的模型进行初始化fromlangchain_ollamaimportChatOllama modelChatOllama(modeldeepseek-r1:1.5b,base_urlhttp://localhost:11434,)print(model.invoke(一句话介绍你自己))# 使用init_chat_modelmodel2init_chat_model(modeldeepseek-r1:1.5b,model_providerollama,base_urlhttp://localhost:11434)print(model.invoke(一句话介绍你自己))vLLM模型的调用invoke阻塞式一次性返回完整结果问答、批量处理任务无需实时反馈的场景参数inputconfigstream流式输出实时返回每个token适合聊天机器人、长文本生成、需提升用户交互体验的场景batch批量处理多个输入高并发场景需要同时处理多个请求异步方法ainvoke非阻塞式提高系统吞吐量高并发Web应用、IO密集型任务astreamabatch