AIKraft/Skills/TAO запуск сервиса инференса

TAO запуск сервиса инференса

Start, query, and stop a network-specific TAO inference microservice ({network_arch}-inference-microservice) by delegating container execution to the appropriate platform skill. Handles container image resolution, job-payload JSON construction, and the service registry. Use when the user wants to run inference on a TAO model checkpoint using a microservice container, deploy a TAO inference endpoin

nvidia official Дизайн

Что делает навык

Запуск, опрос и остановка специфичного для сети микросервиса инференса TAO ({network_arch}-inference-microservice) путем делегирования выполнения контейнера соответствующему платформенному навыку. Обеспечивает определение образа контейнера, формирование JSON-payload задачи и реестр сервисов. Используйте, когда пользователь хочет запустить инференс на чекпоинте модели TAO через микросервисный контейнер, развернуть эндпоинт инференса TAO

Как подключить

1Скачать навык
# возьмите папку навыка «tao-run-inference-service» из репозитория: # https://github.com/nvidia/skills
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r tao-run-inference-service/ ~/.claude/skills/tao-run-inference-service/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.