NeMo mBridge (производительность): настройка памяти
Techniques for reducing peak GPU memory in Megatron Bridge â expandable segments, PEFT + SP input re-gather, parallelism resizing, activation recompute, CPU offloading constraints, and common OOM fixes.
AInvidia
official
Данные
Что делает навык
Методы снижения пикового использования памяти GPU в Megatron Bridge — expandable segments, повторный сбор входных данных PEFT + SP, изменение размеров parallelism, activation recompute, ограничения CPU offloading и типичные решения проблем OOM.
Как подключить
1Скачать навык
# возьмите папку навыка «nemo-mbridge-perf-memory-tuning» из репозитория:
# https://github.com/nvidia/skills
2Положить папку с
SKILL.md к навыкам ассистента# положите папку навыка туда, где ассистент ищет skills:
cp -r nemo-mbridge-perf-memory-tuning/ ~/.claude/skills/nemo-mbridge-perf-memory-tuning/
Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.