以 AI 机器人身份加入视频会议,提供语音、虚拟形象与屏幕共享四种模式。
编程
Hardware LLM Optimizer v2 (llmfit)
试用AI硬件LLM推荐工具 - 基于llmfit内核。自动检测CPU/GPU/RAM/VRAM → 智能推荐最适合的大模型 + 量化方案 + 速度估算。支持100+模型库,内置TUI界面和硬件模拟。
它能做什么
Hardware LLM Optimizer v2.0 基于 llmfit 的智能硬件LLM推荐工具
技能文档
Hardware LLM Optimizer v2.0
基于 llmfit 的智能硬件LLM推荐工具
安装状态
llmfit 已安装在: /usr/local/bin/llmfit
快速使用
当用户问"能跑什么大模型"、"推荐LLM"、"硬件检测"时使用:
1. 查看推荐模型
llmfit recommend
2. 查看所有推荐(JSON格式,便于解析)
llmfit recommend --json
3. 按用途筛选
llmfit recommend --use-case coding
llmfit recommend --use-case chat
llmfit recommend --use-case general
llmfit recommend --use-case embedding
4. 硬件模拟(模拟不同配置)
# 模拟 16GB 显存
llmfit recommend --memory 16G
# 模拟 32GB 显存 + 64GB RAM
llmfit recommend --memory 32G --ram 64G
5. 交互式TUI(需要终端)
llmfit
输出字段说明
| 字段 | 含义 |
|---|---|
name | 模型名称 |
parameter_count | 参数量 |
best_quant | 推荐量化方案 |
score | 综合评分(越高越好) |
estimated_tps | 预估速度(tok/s) |
memory_required_gb | 所需显存 |
run_mode | 运行模式(GPU/CPU/MoE) |
fit_level | 匹配度(Perfect/Good/Marginal) |
量化方案参考
| 量化 | 质量 | 速度 | 适用场景 |
|---|---|---|---|
| FP16 | 最高 | 最慢 | 大显存GPU |
| Q8_0 | 很高 | 较快 | 中等显存 |
| Q6_K | 高 | 快 | 6-8GB显存 |
| Q4_K_M | 中高 | 最快 | 4-6GB显存 |
| Q2_K | 中 | 最快 | <4GB显存 |
本地运行命令
安装Ollama模型
ollama run
使用llama.cpp
# 下载GGUF后
./llama.cpp -m --rompt
最低配置参考(来自llmfit)
| 显存 | 推荐模型 | 量化 |
|---|---|---|
| 2GB | Phi-3-mini, Gemma-2B | Q4 |
| 4GB | Llama3-8B, Qwen-7B | Q4 |
| 6GB | Llama2-13B, Mistral-7B | Q4/Q6 |
| 8GB | Llama2-13B, Yi-9B | Q5/Q6 |
| 12GB | Llama2-34B | Q4 |
| 16GB | Llama2-34B, Qwen-72B | Q4 |
| 24GB+ | 70B大模型 | Q4/Q8 |
安装llmfit(如需)
curl -fsSL https://llmfit.axjns.dev/install.sh | sh
优势对比
| 功能 | v1.0 | v2.0 (llmfit) |
|---|---|---|
| 模型库 | 手动查表 | 100+自动匹配 |
| 量化推荐 | 简单估算 | 智能最优 |
| 速度估算 | ❌ | ✅ |
| 下载源 | ❌ | ✅ GGUF |
| 硬件模拟 | ❌ | ✅ |
| TUI界面 | ❌ | ✅ |
| 多GPU | ❌ | ✅ |
| MoE支持 | ❌ | ✅ |
Powered by llmfit | Updated: 2026-04-17
相关技能
把自然语言描述转为结构化 JSON,并由 mcp-diagram-generator MCP 服务生成 Draw.io、Mermaid 或 Excalidraw 图表文件。
在本地磁盘以分类纯 Markdown 文件保存需要长期留存的事实,与智能体内置记忆并存。
为自然搜索排名提供站点审计、内容撰写与竞品分析。
诊断生产力系统反复失效的根因,给出最小干预——容量测算、瓶颈定位、可靠的本地记录。
从 AdMapix API 拉取广告创意、应用、榜单和收入预估等数据,原样返回结构化 JSON。
smseow001 的更多技能
浏览全部技能AI architecture diagram generator supporting Mermaid charts. Generate system architecture, cloud architecture, neural network, graph theory, flowchart, ER di...
让AI代理控制浏览器自动化网页操作。支持 Claude/GPT/Gemini/Ollama,可执行填表、购物、搜索等任务。
谷歌开源 AI 编程工作流 - 从需求到代码的快速转化。包含20个专项技能、规范开发流程、7大实战案例。
ComfyUI V8 秋叶中文版 全流程助手。提供安装检测、一键启动、工作流生成(文生图/图生图/ControlNet/InstantID等)、参数优化、故障排查、批量生成、模型管理等功能。All-in-one assistant for ComfyUI V8 (Aki bundle) with workflow...
硅谷多智能体量化交易系统 - 三级架构(研究员/分析师/交易员)+ 完整量化流程 + 新手平台推荐 + 策略指南。
将 OpenClaw 升级为 Claude-Code 引擎架构 - 并发执行/自我反思/向量检索/子代理系统/上下文压缩