从Ollama到OpenAI:llmcord支持的10+主流LLM平台全解析

从Ollama到OpenAI:llmcord支持的10+主流LLM平台全解析

【免费下载链接】discord-llm-chatbotMake Discord your LLM frontend - Supports any OpenAI compatible API (OpenRouter, Ollama and more)项目地址: https://gitcode.com/gh_mirrors/di/discord-llm-chatbot

llmcord是一款将Discord转变为协作式LLM前端的工具,它几乎可以与任何远程或本地托管的LLM协同工作。通过llmcord,用户能够在Discord平台上与朋友轻松交流并使用各种主流LLM模型。

🚀 多样化LLM平台支持概览

llmcord支持众多主流的LLM平台,无论是远程模型还是本地运行的模型,都能轻松集成,满足不同用户的多样化需求。

🌐 远程LLM平台

OpenRouter

OpenRouter中,相关配置如下:

openrouter: base_url: https://openrouter.ai/api/v1 api_key_env: OPENROUTER_API_KEY
OpenAI

作为LLM领域的知名平台,OpenAI的模型在llmcord中也得到了很好的支持。其配置示例为:

openai: base_url: https://api.openai.com/v1 api_key_env: OPENAI_API_KEY
xAI

xAI的模型同样可以集成到llmcord中,配置方式简单便捷:

x-ai: base_url: https://api.x.ai/v1 api_key_env: X_AI_API_KEY
Google

借助Google的模型,用户能在llmcord中获得更多样化的AI能力。配置如下:

google: base_url: https://generativelanguage.googleapis.com/v1beta/openai api_key_env: GEMINI_API_KEY
Azure OpenAI

对于使用Azure服务的用户,llmcord也提供了支持。在config.yaml中有详细的配置示例:

azure-openai: base_url: https://<resource name>.openai.azure.com/openai/deployments/<deployment name> api_key_env: AZURE_OPENAI_API_KEY extra_query: api-version: 2024-12-01-preview

🏠 本地LLM平台

LM Studio

LM Studio允许用户在本地运行模型,llmcord通过如下配置即可与之连接:

lmstudio: base_url: http://localhost:1234/v1
Ollama

Ollama是一款流行的本地LLM运行工具,在llmcord中的配置十分简单:

ollama: base_url: http://localhost:11434/v1
vLLM

vLLM作为高效的LLM服务库,也能与llmcord无缝集成,配置如下:

vllm: base_url: http://localhost:8000/v1

🔄 便捷的模型切换功能

llmcord提供了通过/model命令进行模型切换的功能,让用户可以根据不同的需求快速切换到合适的模型。只需在Discord中输入/model命令,即可从已配置的模型列表中选择所需模型。

📝 模型配置方法

在config.yaml文件中,用户可以方便地配置各种模型。模型配置采用<provider>/<model>: <parameters>的格式,例如:

models: openai/gpt-5.5: reasoning_effort: high verbosity: medium openrouter/~anthropic/claude-opus-latest: tools: - type: openrouter:web_search - type: openrouter:web_fetch ollama/llama4:

列表中的第一个模型将在启动时成为默认模型。

📥 开始使用llmcord

克隆仓库

首先,克隆llmcord仓库:

git clone https://gitcode.com/gh_mirrors/di/discord-llm-chatbot cd discord-llm-chatbot

配置config.yaml

根据前面介绍的各平台配置方法,在config.yaml中设置好所需的LLM平台和模型信息。

运行bot

可以选择不使用Docker运行:

python -m pip install -U -r requirements.txt python llmcord.py

或者使用Docker运行:

docker compose up

通过以上步骤,你就可以在Discord中体验llmcord带来的多样化LLM服务了,与朋友一起畅享AI对话的乐趣!

【免费下载链接】discord-llm-chatbotMake Discord your LLM frontend - Supports any OpenAI compatible API (OpenRouter, Ollama and more)项目地址: https://gitcode.com/gh_mirrors/di/discord-llm-chatbot

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考