Тепловое отключение 800G: DDM и настройка обдува

Линк 800G, падающий в 2 часа дня и возвращающийся ночью, обычно не битый модуль. Это модуль, делающий ровно то, что велит ему тепловой дизайн.

Через две недели после развёртывания 800G leaf проявляется паттерн: линки поднимаются чисто при вводе в эксплуатацию, затем горстка портов начинает логировать температурные предупреждения и ронять кадры в послеобеденный пик. К вечеру всё снова нормально, и модули каждого вендора отлично тестируются, будучи вынутыми и поставленными на стенд. Площадка затем месяц делает RMA исправных модулей.

Этот цикл существует, потому что 800G изменил, где живёт запас. На 400G модуль потреблял 7-10 Вт, и почти любой совместимый кейдж держал его холодным. На 15-20 Вт тепло, уводимое из кейджа, зависит от потока воздуха на слот, массы кабеля, выхлопа соседнего ASIC и дневного цикла охлаждения помещения — переменных, которых нет в даташите модуля. Поэтому диагностика начинается с собственной телеметрии модуля, а не с замены.

Что телеметрия показывает первым

Модули на базе CMIS непрерывно сообщают температуру, флаги и телеметрию по линиям. Порядок, в котором движутся поля, рассказывает большую часть истории.

Наблюдение в DDMЧто предполагаетТипичный следующий шаг
Предупреждение о высокой темп. корпуса, без флагов по TX/RX-мощностиПроблема окружения или обдува, модуль ещё здоровПроверьте вход в стойку и обдув кейджа до трогания оптики
Высокая температура авария и падение линка, восстановление при охлажденииТепловой запас исчерпан в пике; устойчивый путь отключенияИсправьте обдув или снизьте класс мощности модуля
TX bias ползёт вверх неделями при стабильной темп.Лазер работает тяжелее; возможный тренд к концу срокаЗалогируйте наклон; замените, когда bias пересечёт порог вендора
Температура нормальна, RX-мощность проседает на одной линииНе тепло — разъём или волоконный путьСначала проверьте посадку и чистоту MPO
Флаги срабатывают на многих модулях одной строки кейджа одновременноСобытие охлаждения шасси или помещения, а не сбой модуляСмотрите лотки вентиляторов, заглушки, уставки CRAC

Случай одновременного срабатывания на многих модулях — тот, что экономит больше всего времени. Когда восемь модулей одной строки кейджа флагуют температуру в пределах той же минуты, модули — сторонние наблюдатели. Относитесь к этому как к событию охлаждения и коррелируйте с логами скорости вентиляторов и историей температуры помещения.

Ток bias — опережающий индикатор, а не вердикт

У большинства типов лазеров ток bias растёт с температурой перехода. Поэтому первое, что тепловой стресс делает в вашей телеметрии — это не «линк упал», а медленный дрейф TX bias вверх на самых горячих портах, видимый за недели до любой аварии. Этот дрейф — причина, по которой базовая линия DDM, снятая при вводе, стоит больше любого единичного замера: bias 48 мА сам по себе ничего не значит, но 48 мА, когда порт вводился при 41 мА при той же температуре корпуса, — находка.

Правило интерпретации, избегающее большинства ложных срабатываний: судите bias по температуре, а не по фиксированному числу. Стройте график bias против температуры корпуса по портам; здоровый модуль чертит согласованную кривую, а деградирующий медленно отходит от своей кривой. Общий чек-лист неподнятия линка описывает, где bias вписывается в общий диагностический порядок.

Почему строки 800G бьют предел первыми

Арифметика беспощадна и стоит того, чтобы её сделать один раз явно.

КонфигурацияМощность оптикиПрактический смысл
64 порта × 7 Вт (класс 400G)~450 ВтТрадиционный обдув кейджа это поглощает
64 порта × 16 Вт (основной 800G)~1024 ВтТепло передней панели приближается к собственному ASIC
64 порта × 20 Вт (детали Класса 8)~1280 ВтТребует подтверждённого обдува на слот при реальном входе

Это тепло сидит на передней панели, в направлении выхлопа, позади самых толстых пучков кабеля в стойке. Три полевых условия превращают совместимый дизайн в маргинальный:

Разрыв при вводе в эксплуатацию

Модули обычно вводятся утром, на частично заполненном шасси, на холодном конце дневного цикла. Пики производства случаются после обеда, на полностью заполненном шасси, на тёплом конце. Тепловая проблема, живущая целиком в этом разрыве, пройдёт все приёмочные тесты и всё равно упадёт в производстве. Если график развёртывания позволяет, повторите съёмку телеметрии в тепловой пик дня до приёмки — это самый дёшевый час профилактики.

Последовательность, изолирующая причину

Порядок ниже построен так, что каждый шаг либо что-то чинит, либо отбрасывает гипотезу. Пропуск шагов — как площадки оказываются делающими RMA здоровых модулей.

  1. Зафиксируйте факты. Выгрузите температуру, bias, TX/RX-мощность и флаги по затронутым портам на пике и на впадине. Без двухточечной картины всё после — гадание.
  2. Отделите шасси от модуля. Если флаги кучкуются в одной строке кейджа или одном шасси, проработайте путь обдува: скорости лотков вентиляторов, заглушки, трассировка кабеля, температура забора в этой строке. Если флаги разбросаны по шасси, подозревайте SKU модуля или помещение.
  3. Проверьте конфигурацию. Подтвердите класс мощности модуля против предела коммутатора на порт при вашей температуре на входе, а не при даташитном окружении. Деталь Класса 8 в кейдже, квалифицированном под Класс 7 при входе 45 °C — неподдерживаемая конфигурация, и коммутатор может обеспечить это молча, сбросив частоту.
  4. Меняйте внутри типа. Переставьте один затронутый модуль на заведомо холодный порт другого шасси, а один здоровый — в горячий слот. Если проблема следует за слотом, это тепло. Если за модулем — только тогда это деталь.
  5. Перепроверьте посадку и разъемизацию. Модуль, работающий горячим, может просто сидеть с недостаточным усилием посадки, что повышает и контактное тепловое сопротивление, и электрические отражения. Переустановите, защёлкните, подтвердите щелчок защёлки кейджа с обеих сторон.
  6. Логируйте меру, а не только исход. Что удержалось — перетрассированные кабели, добавленные заглушки, пониженный класс мощности, — запишите телеметрию до/после. Следующая строка будет с той же физикой.

Когда это вообще не тепло

Два самозванца стоит исключить явно. Отказывающий лоток вентиляторов поднимает все модули в шасси вместе — его ловит шаг 2. Более коварный — целостность сигнала, маскирующаяся под тепло: маргинальный электрический канал даёт ошибки, коррелирующие с трафиком, а трафик коррелирует с температурой, поэтому два выглядят женатыми. Разделитель — TX bias: проблема электрического пути не поднимает bias, а по-настоящему горячий лазер — поднимает. Если температура высока, но bias плоский, а ошибки коррелируют со всплесками утилизации, тратьте время на математику бюджета линка, а не на обдув.

Меры, переживающие следующее ревью

Ранжировано по тому, насколько они долговечны на практике:

Что не работает: твиксы прошивки, снижающие пороги аварии. Заглушить предупреждение не добавляет ни ватта съёма тепла, а следующим обычно заглушается сам линк.

Источники

Пороги температуры, пределы bias и классы мощности специфичны для детали и вендора. Ничто в этой статье не заменяет квалифицированный список модулей и матрицу теплового понижения того коммутатора, который вы реально эксплуатируете.

FAQ

При какой температуре корпуса модуль 800G отключается?
Единого числа нет. Большинство модулей поддерживают 0–70 или 75 °C температуры корпуса, а точки аварии и отключения задаются для каждой детали через интерфейс управления. Читайте собственные флаги температуры модуля в DDM, а не предполагайте даташитную константу — хост обычно предупреждает задолго до того, как погасит линию.
Почему линк падает только после обеда?
Температура на входе в стойку следует за циклом охлаждения помещения, а мощность оптики складывается с мощностью ASIC коммутатора. Линк, падающий при пике трафика и окружения и восстанавливающийся за ночь, — классический признак проблемы теплового запаса, а не отказа компонента.
Является ли растущий ток TX bias признаком отказывающего модуля?
Не обязательно отказывающего. У большинства типов лазеров ток bias растёт с температурой перехода, поэтому ползучесть bias под нагрузкой часто указывает на тепловой стресс. Он становится критерием замены, когда bias продолжает расти при стабильной температуре или пересекает порог аварии модуля.
Можно ли устранить тепловое отключение прошивкой?
Прошивка может снизить мощность модуля или перепроверить квалифицированный класс мощности, что покупает запас, но она не удаляет тепло. Если обдув кейджа не справляется с классом мощности модуля при вашей реальной температуре на входе, долговечные меры — физические: снизить класс мощности, разнести высокомощные порты или сменить тип кейджа.
Есть ли у модулей 400G та же проблема?
Куда реже. Модуль 400G на 7-10 Вт оставляет большинству кейджей комфортный запас. Шаг 800G к 15-20 Вт и превратил обдув на слот из сноски даташита в пункт квалификации, поэтому проблема концентрируется в строках 800G и 1.6T.