Meta экономит миллионы долларов благодаря умному хаку с памятью

Инженеры Meta, материнской компании Facebook, рассказали, как они смогли предоставить бесплатную память с помощью программного решения под названием Transparent Memory Offloading (TMO).

Это так. теперь часть ядра Linux и, в двух словах, автоматически выгружает данные на другие уровни хранения (например, расширитель памяти Samsung CX), которые менее затратны и более энергоэффективны, чем память.

Экономия значительна; TMO работает на миллионах серверов Facebook уже более в год, экономя до трети памяти на сервер. Хотя на десятках или даже сотнях серверов это может быть незначительным, Facebook представляет собой уникальную задачу.

Анализ: гигантский аппетит Facebook к оперативной памяти

У крупнейшей в мире социальной сети около трех миллиардов активных пользователей в месяц и миллионы серверов, расположенных в 21 месте по всему миру. Если каждый сервер будет иметь в среднем 128 ГБ ОЗУ, это составит 256 млн ГБ (или 256 ПБ) ОЗУ, что при средней стоимости 4 доллара за ГБ (ОЗУ DDR4 ECC) составляет около 1 миллиарда долларов памяти. Это при условии, что у Facebook есть не менее двух миллионов серверов (в блоге Facebook еще в июле 2018 года было указано «миллионы серверов»), и реальное число, вероятно, намного выше.

Числа, представленные командой которая работала над TMO, показала, что стоимость памяти составляет треть списка материалов сервера Meta, а сжатая RAM и SSD составляют менее 11%. Что еще более тревожно, затраты на оперативную память (в процентах от общей инфраструктуры) увеличились более чем в два раза с тех пор, как Facebook запустил первое поколение серверов (сейчас это четвертое).

Внедрение TMO все же произойдет. с некоторыми недостатками; в первую очередь снижение производительности. Но выигрыш с точки зрения экономии энергии и памяти намного, намного перевешивает недостатки и будущие итерации в сочетании с аппаратными улучшениями (например, более быстрый SSD или диски CXL) предложат дополнительные меры защиты.