Тепловое отключение 800G: DDM и настройка обдува
Линк 800G, падающий в 2 часа дня и возвращающийся ночью, обычно не битый модуль. Это модуль, делающий ровно то, что велит ему тепловой дизайн.
Через две недели после развёртывания 800G leaf проявляется паттерн: линки поднимаются чисто при вводе в эксплуатацию, затем горстка портов начинает логировать температурные предупреждения и ронять кадры в послеобеденный пик. К вечеру всё снова нормально, и модули каждого вендора отлично тестируются, будучи вынутыми и поставленными на стенд. Площадка затем месяц делает RMA исправных модулей.
Этот цикл существует, потому что 800G изменил, где живёт запас. На 400G модуль потреблял 7-10 Вт, и почти любой совместимый кейдж держал его холодным. На 15-20 Вт тепло, уводимое из кейджа, зависит от потока воздуха на слот, массы кабеля, выхлопа соседнего ASIC и дневного цикла охлаждения помещения — переменных, которых нет в даташите модуля. Поэтому диагностика начинается с собственной телеметрии модуля, а не с замены.
Что телеметрия показывает первым
Модули на базе CMIS непрерывно сообщают температуру, флаги и телеметрию по линиям. Порядок, в котором движутся поля, рассказывает большую часть истории.
| Наблюдение в DDM | Что предполагает | Типичный следующий шаг |
|---|---|---|
| Предупреждение о высокой темп. корпуса, без флагов по TX/RX-мощности | Проблема окружения или обдува, модуль ещё здоров | Проверьте вход в стойку и обдув кейджа до трогания оптики |
| Высокая температура авария и падение линка, восстановление при охлаждении | Тепловой запас исчерпан в пике; устойчивый путь отключения | Исправьте обдув или снизьте класс мощности модуля |
| TX bias ползёт вверх неделями при стабильной темп. | Лазер работает тяжелее; возможный тренд к концу срока | Залогируйте наклон; замените, когда bias пересечёт порог вендора |
| Температура нормальна, RX-мощность проседает на одной линии | Не тепло — разъём или волоконный путь | Сначала проверьте посадку и чистоту MPO |
| Флаги срабатывают на многих модулях одной строки кейджа одновременно | Событие охлаждения шасси или помещения, а не сбой модуля | Смотрите лотки вентиляторов, заглушки, уставки CRAC |
Случай одновременного срабатывания на многих модулях — тот, что экономит больше всего времени. Когда восемь модулей одной строки кейджа флагуют температуру в пределах той же минуты, модули — сторонние наблюдатели. Относитесь к этому как к событию охлаждения и коррелируйте с логами скорости вентиляторов и историей температуры помещения.
Ток bias — опережающий индикатор, а не вердикт
У большинства типов лазеров ток bias растёт с температурой перехода. Поэтому первое, что тепловой стресс делает в вашей телеметрии — это не «линк упал», а медленный дрейф TX bias вверх на самых горячих портах, видимый за недели до любой аварии. Этот дрейф — причина, по которой базовая линия DDM, снятая при вводе, стоит больше любого единичного замера: bias 48 мА сам по себе ничего не значит, но 48 мА, когда порт вводился при 41 мА при той же температуре корпуса, — находка.
Правило интерпретации, избегающее большинства ложных срабатываний: судите bias по температуре, а не по фиксированному числу. Стройте график bias против температуры корпуса по портам; здоровый модуль чертит согласованную кривую, а деградирующий медленно отходит от своей кривой. Общий чек-лист неподнятия линка описывает, где bias вписывается в общий диагностический порядок.
Почему строки 800G бьют предел первыми
Арифметика беспощадна и стоит того, чтобы её сделать один раз явно.
| Конфигурация | Мощность оптики | Практический смысл |
|---|---|---|
| 64 порта × 7 Вт (класс 400G) | ~450 Вт | Традиционный обдув кейджа это поглощает |
| 64 порта × 16 Вт (основной 800G) | ~1024 Вт | Тепло передней панели приближается к собственному ASIC |
| 64 порта × 20 Вт (детали Класса 8) | ~1280 Вт | Требует подтверждённого обдува на слот при реальном входе |
Это тепло сидит на передней панели, в направлении выхлопа, позади самых толстых пучков кабеля в стойке. Три полевых условия превращают совместимый дизайн в маргинальный:
- Масса кабеля. OSFP с магистралью MPO физически шире кейджа; дюжина таких действует как радиаторная пластина, перекрывающая расчётный путь потока воздуха. Кабели, выходящие вверх поверх кейджа, — частый безмолвный вкладчик.
- Рециркуляция. Отсутствующие заглушки и наполовину заполненные кейджи позволяют горячему выхлопу петлять обратно к стороне забора. Температура помещения выглядит нормально; воздух, достигающий кейджа, — нет.
- Дневной цикл. Температура на входе, дрейфующая на 5-8 °C между ночью и послеобеденным временем, сама по себе съедает большую часть запаса детали Класса 8.
Разрыв при вводе в эксплуатацию
Модули обычно вводятся утром, на частично заполненном шасси, на холодном конце дневного цикла. Пики производства случаются после обеда, на полностью заполненном шасси, на тёплом конце. Тепловая проблема, живущая целиком в этом разрыве, пройдёт все приёмочные тесты и всё равно упадёт в производстве. Если график развёртывания позволяет, повторите съёмку телеметрии в тепловой пик дня до приёмки — это самый дёшевый час профилактики.
Последовательность, изолирующая причину
Порядок ниже построен так, что каждый шаг либо что-то чинит, либо отбрасывает гипотезу. Пропуск шагов — как площадки оказываются делающими RMA здоровых модулей.
- Зафиксируйте факты. Выгрузите температуру, bias, TX/RX-мощность и флаги по затронутым портам на пике и на впадине. Без двухточечной картины всё после — гадание.
- Отделите шасси от модуля. Если флаги кучкуются в одной строке кейджа или одном шасси, проработайте путь обдува: скорости лотков вентиляторов, заглушки, трассировка кабеля, температура забора в этой строке. Если флаги разбросаны по шасси, подозревайте SKU модуля или помещение.
- Проверьте конфигурацию. Подтвердите класс мощности модуля против предела коммутатора на порт при вашей температуре на входе, а не при даташитном окружении. Деталь Класса 8 в кейдже, квалифицированном под Класс 7 при входе 45 °C — неподдерживаемая конфигурация, и коммутатор может обеспечить это молча, сбросив частоту.
- Меняйте внутри типа. Переставьте один затронутый модуль на заведомо холодный порт другого шасси, а один здоровый — в горячий слот. Если проблема следует за слотом, это тепло. Если за модулем — только тогда это деталь.
- Перепроверьте посадку и разъемизацию. Модуль, работающий горячим, может просто сидеть с недостаточным усилием посадки, что повышает и контактное тепловое сопротивление, и электрические отражения. Переустановите, защёлкните, подтвердите щелчок защёлки кейджа с обеих сторон.
- Логируйте меру, а не только исход. Что удержалось — перетрассированные кабели, добавленные заглушки, пониженный класс мощности, — запишите телеметрию до/после. Следующая строка будет с той же физикой.
Когда это вообще не тепло
Два самозванца стоит исключить явно. Отказывающий лоток вентиляторов поднимает все модули в шасси вместе — его ловит шаг 2. Более коварный — целостность сигнала, маскирующаяся под тепло: маргинальный электрический канал даёт ошибки, коррелирующие с трафиком, а трафик коррелирует с температурой, поэтому два выглядят женатыми. Разделитель — TX bias: проблема электрического пути не поднимает bias, а по-настоящему горячий лазер — поднимает. Если температура высока, но bias плоский, а ошибки коррелируют со всплесками утилизации, тратьте время на математику бюджета линка, а не на обдув.
Меры, переживающие следующее ревью
Ранжировано по тому, насколько они долговечны на практике:
- Физическое исправление обдува (трассировка кабеля, заглушки, переустановка). Бесплатно, постоянно и чинит реальную причину в большинстве полевых случаев.
- Разнесение высокомощных портов. Если только часть портов нуждается в деталях Класса 8, распределите их так, чтобы ни одна секция кейджа не несла полную плотность тепла. Ничего не стоит, кроме планирования.
- Понижение выбора модуля. Деталь Класса 7 (15 Вт) вместо Класса 8 (20 Вт) восстанавливает запас ценой дальности или вариантов среды. Сравните кандидатов в руководстве по выбору 800G до предположения о прямой замене.
- Подъём охлаждения помещения или снижение уставки. Работает, но это дорогая мера для проблемы передней панели, и обычно указывает на то, что кейдж выбирался под неверное окружение.
- Смена типа кейджа. Переход горячей строки с QSFP-DD на OSFP покупает площадь радиатора. Это правильный ответ для плотностей масштаба ИИ и неправильный — для уже купленного шасси, поэтому он принадлежит следующему циклу закупки, а не этому инциденту.
Что не работает: твиксы прошивки, снижающие пороги аварии. Заглушить предупреждение не добавляет ни ватта съёма тепла, а следующим обычно заглушается сам линк.
Источники
- QSFP-DD MSA - CMIS specification - the Common Management Interface Specification behind temperature flags, power classes and lane telemetry referenced throughout.
- OSFP MSA - mechanical and thermal envelope definitions for OSFP cages and heatsink options.
- Ethernet Alliance - multi-vendor interoperability and hot-plug demonstrations, useful context for cage and module qualification practices.
Пороги температуры, пределы bias и классы мощности специфичны для детали и вендора. Ничто в этой статье не заменяет квалифицированный список модулей и матрицу теплового понижения того коммутатора, который вы реально эксплуатируете.
FAQ
- При какой температуре корпуса модуль 800G отключается?
- Единого числа нет. Большинство модулей поддерживают 0–70 или 75 °C температуры корпуса, а точки аварии и отключения задаются для каждой детали через интерфейс управления. Читайте собственные флаги температуры модуля в DDM, а не предполагайте даташитную константу — хост обычно предупреждает задолго до того, как погасит линию.
- Почему линк падает только после обеда?
- Температура на входе в стойку следует за циклом охлаждения помещения, а мощность оптики складывается с мощностью ASIC коммутатора. Линк, падающий при пике трафика и окружения и восстанавливающийся за ночь, — классический признак проблемы теплового запаса, а не отказа компонента.
- Является ли растущий ток TX bias признаком отказывающего модуля?
- Не обязательно отказывающего. У большинства типов лазеров ток bias растёт с температурой перехода, поэтому ползучесть bias под нагрузкой часто указывает на тепловой стресс. Он становится критерием замены, когда bias продолжает расти при стабильной температуре или пересекает порог аварии модуля.
- Можно ли устранить тепловое отключение прошивкой?
- Прошивка может снизить мощность модуля или перепроверить квалифицированный класс мощности, что покупает запас, но она не удаляет тепло. Если обдув кейджа не справляется с классом мощности модуля при вашей реальной температуре на входе, долговечные меры — физические: снизить класс мощности, разнести высокомощные порты или сменить тип кейджа.
- Есть ли у модулей 400G та же проблема?
- Куда реже. Модуль 400G на 7-10 Вт оставляет большинству кейджей комфортный запас. Шаг 800G к 15-20 Вт и превратил обдув на слот из сноски даташита в пункт квалификации, поэтому проблема концентрируется в строках 800G и 1.6T.