AIKraft/Skills/Jetson: развёртывание LLM

Jetson: развёртывание LLM

Stand up vLLM or SGLang serving on Jetson, using upstream vLLM on Thor and Orin JetPack 7.2+, and NVIDIA-AI-IOT vLLM on older Orin.

nvidia official Другое

Что делает навык

Развёртывание обслуживания vLLM или SGLang на Jetson, используя upstream vLLM на Thor и Orin JetPack 7.2+, и vLLM от NVIDIA-AI-IOT на более старых Orin.

Как подключить

1Скачать навык
# возьмите папку навыка «jetson-llm-serve» из репозитория: # https://github.com/nvidia/skills
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r jetson-llm-serve/ ~/.claude/skills/jetson-llm-serve/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.