opensource-llm-models

开源大模型综合技能

一、模型全景

国内开源 (China)

国际开源 (Global)

二、选型指南

按场景推荐

按部署方式

本地部署 (单GPU):
  Phi-4 (14B) → Gemma 3 (12B) → Qwen3 (7B) → Mistral (7B)

本地部署 (多GPU/显存):
  DeepSeek R1 (671B quant) → Llama 4 (70B) → Mixtral (8x22B) → Qwen3 (72B)

API调用:
  DeepSeek (最便宜) → Qwen (阿里云) → ChatGLM (智谱) → Yi (零一)

三、API 调用模板

DeepSeek

import openai
client = openai.OpenAI(
    api_key="sk-xxx",
    base_url="https://api.deepseek.com/v1",
)
response = client.chat.completions.create(
    model="deepseek-chat",
    messages=[{"role": "user", "content": "你好"}],
    temperature=0.7,
)

Qwen (阿里云)

from openai import OpenAI
client = OpenAI(
    api_key="sk-xxx",
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)
response = client.chat.completions.create(
    model="qwen3-72b-instruct",
    messages=[{"role": "user", "content": "你好"}],
)

ChatGLM (智谱)

from zhipuai import ZhipuAI
client = ZhipuAI(api_key="xxx")
response = client.chat.completions.create(
    model="glm-4-plus",
    messages=[{"role": "user", "content": "你好"}],
)

统一路由 (多模型切换)

# 使用 openclaw-aisa-llm-router 或 asia-llm-router-skills
# 一个API Key 切换70+模型
ROUTER_BASE = "https://api.aisa.com/v1"

client = OpenAI(
    api_key="sk-xxx",
    base_url=ROUTER_BASE,
)

# 根据任务切换模型
def pick_model(task_type: str) -> str:
    models = {
        "reasoning": "deepseek-r1",
        "chat": "qwen3-72b-instruct",
        "code": "deepseek-chat",
        "vision": "qwen3-vl",
        "agent": "kimi-k3",
        "cheap": "deepseek-chat",
    }
    return models.get(task_type, "qwen3-72b-instruct")

四、本地部署

Ollama (推荐)

# 安装
ollama pull deepseek-r1
ollama pull qwen3:72b
ollama pull llama4
ollama pull mistral
ollama pull phi-4
ollama pull gemma3

# 运行
ollama run deepseek-r1

LM Studio (Windows)

# 下载GGUF模型
# 支持: DeepSeek R1, Qwen3, Llama 4, Mistral, Phi-4, Gemma 3
# 本地API: http://localhost:1234/v1

llama.cpp

# 编译
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp && cmake -B build && cmake --build build --config Release

# 运行
./build/bin/llama-cli -m model.gguf -p "你好" -n 512

五、模型路由策略

成本优先

# 简单任务 → 便宜模型
# 复杂任务 → 强模型
# 推理任务 → DeepSeek R1
# 多模态任务 → Qwen3-VL

质量优先

# 中文 → Qwen3-72B
# 英文 → Llama 4-70B
# 代码 → DeepSeek V3
# 推理 → DeepSeek R1
# Agent → Kimi K3

速度优先

# DeepSeek V3 (Flash) → 极快
# Qwen3-7B → 本地快
# Phi-4 → 端侧快
# Mistral 7B → 轻量快

六、最佳实践

1. 模型选择四步法

1. 确定任务类型（推理/代码/创作/分析/Agent）
2. 确定部署约束（API/本地/端侧）
3. 确定成本预算（免费/低成本/高成本）
4. 匹配最优模型

2. 降本策略

• 简单任务用便宜模型（DeepSeek Chat）
• 批量任务用路由缓存
• 本地部署长尾任务
• 使用量化模型（GGUF q4/q8）

3. 质量提升

• 推理用 DeepSeek R1（思维链）
• 中文用 Qwen3（中文理解最好）
• 代码用 DeepSeek Coder（代码评测第一）
• Agent用 Kimi K3（原生子Agent架构）

4. 模型切换时机

• 普通问答 → DeepSeek Chat / Qwen3
• 复杂推理 → DeepSeek R1
• 代码生成 → DeepSeek Coder / Mistral Codestral
• 多模态 → Qwen3-VL / Llama 4
• 长文档 → MiniMax / Yi
• Agent任务 → Kimi K3 / Qwen3

七、参考资源

国内模型

• DeepSeek: https://platform.deepseek.com
• Qwen: https://help.aliyun.com/zh/model-studio
• ChatGLM: https://open.bigmodel.cn
• Yi: https://platform.lingyiwanwu.com
• MiniMax: https://platform.minimaxi.com
• Baichuan: https://platform.baichuan-ai.com
• Kimi: https://platform.moonshot.cn

国际模型

• Llama: https://llama.meta.com
• Mistral: https://console.mistral.ai
• Gemma: https://ai.google.dev/gemma
• Phi: https://azure.microsoft.com/en-us/products/phi
• Falcon: https://huggingface.co/tiiuae
• Granite: https://huggingface.co/ibm-granite
• DBRX: https://www.databricks.com/blog/introducing-dbrx

部署资源

• Ollama: https://ollama.com
• LM Studio: https://lmstudio.ai
• llama.cpp: https://github.com/ggerganov/llama.cpp
• Hugging Face: https://huggingface.co/models
• OpenRouter: https://openrouter.ai