io.github.RudrenduPaul/inferbench
Сравнивает скорость локального вывода LLM (токенов/сек) на вашем оборудовании через инструменты MCP.
AIRudrenduPaul
Локальный · pypi
official
Что это
Сравнивает скорость локального вывода LLM (токенов/сек) на вашем оборудовании через инструменты MCP.
Как подключить
1Официальный package
pypi · inferbench-cli==0.1.7
2Установить и запустить в терминале
uvx --from inferbench-cli inferbench-cli==0.1.7 inferbench-mcp
3Добавить в конфиг MCP-клиента (mcp.json / claude_desktop_config.json)
{
"mcpServers": {
"io-github-rudrendupaul-inferbench": {
"command": "uvx",
"args": [
"--from",
"inferbench-cli",
"inferbench-cli==0.1.7",
"inferbench-mcp"
]
}
}
}
Вставьте блок в конфиг клиента (Claude Desktop, Claude Code, Cursor, VS Code, Cline). Команда и package собраны из полей официального MCP Registry.