Инженерные жидкости 3M Novec TM для иммерсионного охлаждения в техническом сообществе России считаются крайне дорогой альтернативой «надёжным, доступным и дешевым» решениям на базе силикона. Мол, трансформаторное масло или силикон работает так же за смешные деньги. Так ли это на самом деле? Давайте разбираться.
Жидкостное охлаждение в 2000 раз более эффективно, чем воздушное, поэтому
объемы жидкости, требуемые для отвода аналогичного количества тепла от электронных компонентов, существенно меньше.
Уменьшаются размеры всего оборудования, используемого в дата центре, нет необходимости в громоздких адиабатических охладителях, чиллерах, вентиляционных коробах, фальш-полах, уменьшаются трассы коммуникаций, упрощается компоновка. Даже с учётом неоптимизированного дизайна электронных компонентов можно добиться примерно десятикратного уменьшения строительных объемов. Стоимость строительства может быть уменьшена в три и более раза.
Развитие систем иммерсионного охлаждения для серверного оборудования, майнеров, и электроники с высоким энергопотреблением требует упорядочивания и обобщения накопленного опыта эксплуатации.
Как показала практика, системы однофазного и двухфазного охлаждения конкурируют между собой в решении одних и тех же задач – отвода тепла от процессоров (чипов). Жидкости, используемые в таких системах, имеют разную природу и разные теплофизические и химические свойства.
Инженерные жидкости 3M Novec TM для иммерсионного охлаждения в техническом сообществе России считаются крайне дорогой альтернативой «надёжным, доступным и дешевым» решениям на базе силикона. Мол, трансформаторное масло или силикон работает так же за смешные деньги. Так ли это на самом деле? Давайте разбираться.
Для сравнения возьмем опыт эксплуатации ванны с погружным охлаждением для 36 установок Antminer S9, с теплоносителем – силиконовой жидкостью на базе Полиметилсилоксана (ПМС-10) известной торговой марки (к ним можно причислить аналоги – Siliconepowerfluid, Полиметилсилоксаны, Полиэтилсилоксаны, Трансформаторные минеральные масла, приборные масла типа МВП и пр.), и, с другой стороны, прототип проекта HASHCUBE BF1000, спроектированный под 2-фазное иммерсионное охлаждение с применением инженерной жидкости 3М Novec 7100.
Претендент-1: Установка иммерсионного охлаждения на 36 майнеров 82 кВт, стоимость 900 000 руб.
Парк оборудования состоит из 36 Bitmain Antminer S9+. Общая вычислительная мощность: 13,5 Th/s* = 486 TH/s Общее энергопотребление установки, указанное производителем = 82 кВт/ч Масса жидкости для однофазного охлаждения в ванне – 800 кг Стоимость за кг жидкости – 8.5 евро/кг * 800 л. Всего = 6800 Евро. |
Претендент-2: Прототип проекта HASHCUBE BF1000 на базе чипов Bitfury
|
Общее количество чипов: 9216 (эквивалент ~ 16 майнеров Bitfury B8 50 TH/s), Общая вычислительная мощность: 1000 Th/s Общее энергопотребление: 135 кВт/ч Охлаждающая жидкость: Novec7100ТМ – 87.4 евро/кг с НДС Масса жидкости для двухфазного охлаждения в прототипе: 180 кг Стоимость жидкости в прототипе: 180 * 87,4 евро = 15732 Евро. |
Сравнительный анализ
Вводные | BEEMINER BLUEMID 800 |
HASHCUBE BF1000 |
|
1. Скорость хеширования установки, ТH/s | 486 | 1000 | |
2. Макс. электропотребление, кВт/ч | 82,0 | 135,0 | |
3. Производитель чипов | Bitmain | Bitfury | |
4. Количество чипов, общее шт. | 2294 | 9216 | |
5. Вес прототипа с учетом жидкости, кг | 1300 | 500 | |
6. Габариты установки, ВхШхГ, см | 80x200x100 | 200х55х80 | |
7. Уровень шума, dB | 5 | ||
8. Режим эксплуатации, ºC | -40/+50 | ||
9. Температурный режим в кубе, ºC | +48/+70 | ||
10. Циркуляционный насос | нужен | нужен | |
11. Система охлаждения | однофазная | двухфазная | |
12. Жидкость-теплоноситель | Bluemid | Novec 7100TM | |
13. Возможность перегрева теплоносителя свыше 100 ºC | да | нет | |
Рассчеты | |||
14. Стоимость 1 кг теплоносителя, Евро | 8,5 | 87,4 | |
15. Масса теплоносителя в прототипе, кг | 800 | 180 | |
16. Стоимость теплоносителя, итого. Евро | 6800 | 15732 | |
17. Затраты жидкости на 1 кВт (15)/(2) | 9,76 | 1,33 | |
18. Затраты жидкости на 1 кВт, евро | 12660 | 18000 | |
19. Затраты денег по системе охлаждения |
40,04 | 33,7 | |
20. Стоимость оборудования (asic, на 29.03.2018), Евро | 66071 | 106900 | |
21. Общие инвестиции, Евро | 85531 | 140632 | |
22. Затраты денег по всей установке |
176,0 | 140,63 |
Вывод
При сравнении денежных затрат на 1 квт потребляемой мощности или денежных затрат на 1 Терахэш вычислительной мощности, однозначную победу в обоих раундах одерживает двухфазная система охлажденияна составах Novec 3M.
Почему так произошло?
Потому что грамотный подход к архитектуре системы охлаждения и правильного расположения вычислительных мощностей на ней, и проектирование с учетом знания теплофизических процессов, позволяет сделать системы в 10 раз компактнее и в 2 раза более производительные, чем просто «топить» асики в жиже, абсолютно не приспособленные к такому способу охлаждения.