Берлога

Тут живёт медведь. Ну и натащено всякого. Медведем.


Previous Entry Share Next Entry
Поговорим о хранении данных. Разговор пятый. Делаем NAS сами.
_luden_
Готовые локальные NAS хороши всем, но при этом стоят существенных денег.
Можно ли получить хранилище со схожими свойствами, но при этом платить только за диски?
Да, если ты готов сам собрать своё хранилище и установить на него специальное программное обеспечение.


Внимание, сегодня я не буду рассчитывать стоимость электроэнергии, которую потребит такое устройство за пять лет.
Просто потому, что в основе такого хранилища может лежать куча разных аппаратных платформ.
От ARM-процессоров и до старого игрового ПК :)

Но ты сам можешь посчитать этот параметр, взяв за основу стоимость 5-летней эксплуатации 100-ваттной лампочки из первого поста.
В любом случае она не превысит 100-150 ватт для системы с 4-мя дисками.

Итак, перед нами есть два пути – простой и сложный.

Простой путь состоит в том, чтобы подобрать аппаратную платформу, удовлетворяющую требованиям выбранного ПО, собрать устройство, установить программное обеспечение и настроить NAS.

Сложный же, дополнительно предполагает установку виртуализатора (мы будем использовать VMWare ESXi, так как он бесплатный) и развёртывание NAS уже на его основе.
За счёт этого у нас открываются дополнительные возможности для эффективного использования ресурсов нашей аппаратной части и становятся доступными некоторые программные NAS более высокого уровня.

Начнём оба пути с обзора бесплатного программного обеспечения для создания собственного локального NAS.

Я знаю четыре основных дистрибутива, для создания домашнего NAS:

1) NAS4Free
2) FreeNAS
3) OpenFiler
4) OpenMediaVault

Кроме этого многие крупные производители решений для хранения данных иногда дают возможность бесплатно попользоваться своим ПО с урезанными возможностями (обычно урезают максимально-доступный объём или время использования и не предоставляют поддержки).

Я смог найти четыре подобных продукта (два – обычные NAS, а два – специальные NAS с дедупликацией, рассчитанные на хранение исключительно резервных копий).

  • Традиционные NAS


    • EMC Unity VSA

    • EMC Isilon SD

  • NAS для хранения резервных копий


    • EMC DataDomain VE

    • HP StoreOnce



Обрати внимание, что, несмотря на то, что эти программные продукты можно получить бесплатно, их развёртывание не будет дешевым.

Во-первых, для подобных решений нужен виртуализатор, что уже приводит к дополнительным тратам (каким я расскажу завтра).

Во-вторых, для них требуется достаточно мощная машина с большим объёмом ОЗУ (а для Isilon SD вообще потребуется не менее трёх машин под управлением vSphere, что уже недёшево).

Ну и в-третьих, все эти четыре решения рассчитаны на работу более чем с одним диском, и если для хранилищ резервных копий ещё можно использовать подобную (заведомо менее надёжную и быструю) конфигурацию, то для других двух решений это просто бессмысленно (они рассчитаны на работу с большим числом дисков).

Поэтому про них мы сегодня говорить не будем (если тебе интересно – пройди по ссылкам или задай мне вопрос в комментах), а поговорим про простой путь создания собственного NAS.

То есть про установку одного из четырёх открытых дистрибутивов сразу на физическую машину.

Давай сначала выберем, какой именно дистрибутив ты будешь у себя разворачивать.
А поможет тебе в этом небольшая табличка:



Как ты видишь, основные функции поддерживаются всеми четырьмя дистрибутивами, но есть нюансы.

Так два дистрибутива (OpenMediaVault и FreeNAS) позволяют тебе развернуть собственный облачный сервис и получать доступ к данным из любого уголка мира.

Зато NAS4Free весьма нетребователен к "железу" и может спокойно жить на огромном количестве разных архитектур.

А OpenFiler будет хорошо себя чувствовать не только дома, но и в небольшой конторе.
У него нет такого разнообразия в предоставляемых сервисах, поэтому нет илзишней нагрузки на процессор.
Это позволяет обслуживать большее число пользователей.

Впрочем, мне самому дома с лихвой хватило NAS4Free, тем более что у него точно нормальный перевод интерфейса на русский язык, что для многих будет очень удобно.
К тому же он весьма нетребователен к памяти и процессору.

В принципе, FreeNAS будет не хуже, но, когда я его пробовал ставить (это было года четыре назад), у него была кривейшая локализация, что предрешило мой выбор.
Возможно сейчас ситуация поменялась.
Если это так, то этот дистрибутив будет не хуже NAS4Free, а может быть в чём-то и лучше.

Итак, дистрибутив мы выбрали, теперь пришло время собирать "железо" или, как это называют "аппаратную часть".

Для этого подойдёт любой компьютер, удовлетворяющий требованиям дистрибутива, но имей в виду, что работать он будет в режиме 24/7/365, то есть круглые сутки.
И если он шумит как Ту-95 на взлёте, то ты первый же постараешься его куда-нибудь деть или вообще выключить.

При этом охлаждение внутренностей твоего NAS должно быть достаточным для того, чтобы температура жестких дисков не превышала 35-40 градусов по Цельсию, если конечно ты не хочешь их регулярно менять.

Если выбранный дистрибутив умеет управлять UPS, то я тебе горячо рекомендую это управление настроить.
Это поможет тебе избежать проблем с длительным выключением света.
Про то, почему UPS крайне рекомендуется использовать я уже говорил.

И конечно же стоит подключать NAS к твоему домашнему роутеру (ну или коммутатору, или точке доступа, если он у тебя отдельно) через проводное соединение.
Даже если твой дистрибутив умеет работать с беспроводными соединениями.
Так будет быстрее.

Кстати, встроенной видеокарты будет достаточно для нормальной работы NAS, по сути видеокарта серверу вообще не нужна, поэтому подойдёт любая, лишь бы компьютер нормально запустился.


Теперь осталось только собрать всё воедино, установить выбранный дистрибутив (лучше всего на отдельный диск, причём этот диск может быть весьма скромных объёмов), настроить полученную систему и можно пользоваться.

Это несколько сложнее, чем подготовить к работе готовый NAS, зато можно обойтись существенно меньшими средствами (если покупать новый компьютер не надо), и быть спокойным по поводу прочтения дисков с данными в случае отказа недублированных компонентов (то есть всего остального, кроме дисков) :)

Ну а если тебе этого недостаточно и душа просит более серьёзного подхода, тогда жди следующего поста.
В нём мы поговорим про создание NAS на основе виртуальных машин.

Это мой резервный журнал.

Здесь только кросспост.
Основной пост лежит тут: http://luden.dreamwidth.org/1300359.html

Я буду рад комментарию в любом из двух журналов.
Ведь раз вы комментируете, значит вам - нравится.

  • 1
В эти выходные не поехал на дачу, т.к чувствую себя не очень хорошо, никак от простуды не вылечусь, но зато с железом дома поколупался. В общем, расклад такой:

- два корпуса Barebone размера Mini-ITX с блоками питания,
- два материнки Intel CPU D510-MO(B) с впаянным процесором соотв. Intel Atom D510
- с памятью напряженка - на мой десктоп и на эти два компа в общей сложности есть 6 планок DDR2: 4 штуки по 2 Гб и 2 штуки по 512 Мб. Пока что все 4 планки по 2 Гб сидят в десктопе, а ещё две планки по 512 Мб - в одном из Barebone'ов, а ещё один в беспамятстве :(
- жесткие диски - из сдохших ноутбуков со всей семьи и один старый от моего десктопа. Все разношерстные: 120 Гб 3-дюймовый, 320 Гб ноутбучный WD Scorpio Blue, 250 Гб ноутбучный WD Scorpio (без цвета, просто Scorpio) и ещё к ним прибился SSD OCZ Vector 128 Гб - весь из себя шустрый, но почему-то с ним у брата взаимоотношения не сложились, комп время от времени сдыхал, и только после замены диска всё заработало нормально. Виноват ли он - до сих пор не знаю, может и вовсе кабель был перетертый.

Причём в каждый Barebone можно засунуть по 2 диска, т.к там на материнке только 2 гнезда SATA.

И ещё купил себе гигабитный свитч, чтобы иметь быстрый доступ к этим файл-серверам.

Теперь вот надо придумать, как распихать по ним данные. У меня есть где-то 3 разных типа данных:
- всякие личные фото, к которым вообще быстрый доступ не нужен особо, но желательно их продублировать, потому как если диск накроется, взять будет неоткуда.
- мои собственные торренты - в основном книги в уже обработанном виде (pdf и djvu), но есть ещё и видео - ремастеренный Star Trek TOS, мультфильм "Дарья", с которым я долго возился - мне нашли качественное видео с французского Canal+, а я на него накладывал русскую и английскую звуковую дорожку и субтитры, целая эпопея там всё синхронизировать...

Торренты, ясное дело, должны раздаваться, но это само по себе становится резервным копированием - если у меня диск накроется, я смогу их скачать заново. Книги иногда сидируются вяло, но за недельку-другую должно собраться - кто-нибудь вернется домой, включит комп и раздаст :)

- "сырые сканы" книжек - очень толстые, тоже скорее всего обращаться к ним не буду (по кр. мере пока не допишу свою несчастную программу для обработки, с древовидным undo и многопоточностью), и резервировать не так важно - обработанная версия есть, бумажный оригинал как правило тоже есть, если и не у меня непосредственно, то всё-таки я могу до него добраться.

Влезет ли всё это в 800 Гб - не уверен, может потом ещё прикуплю :)

Ну и ещё медиатека не помешает, чтобы скачал какое-нибудь кинцо и с любого компа посмотрел через файл-сервер.

Попробую что ль скачать NAS4Free, если он при 512 Мб ОЗУ будет нормально шевелиться - замечательно!

Интересный расклад.
Учитывая, что диски не новые, я бы сначала их подключил бы к большому компу и прогнал бы проверку SMART на них.
Например утилитой HDTune.
Просто чтобы быть уверенным, что ни один из них не сдохнет в ближайшие пару дней :)

SSD я бы пока не использовал, тем более что у меня тоже не сложились отношения с твердотельником от этой конторы (в один "прекрасный" момент он просто не запустился).

512 ГБ должно хватить, если не пытаться использовать ZFS.
Вообще ZFS меня немного разочаровал - жрёт ресурсов много, а дедупликации всего 5-10% от общего объёма (что нормально для дедупа с фиксированным блоком, коим дедуп в ZFS и является).

Кстати, откуда взят объём в 800 ГБ?
Учитывая диски и требования к защите, скорее всего будет оптимальной такая конфигурация:

250 ГБ и 320 ГБ диски ставятся в R1 и получаем том в 250 ГБ.
Если оставшиеся 70 ГБ разметить отдельно - получаем ещё незащищённый том для скачивания торрентов, к примеру.
Ничего важного я бы там не хранил.

Что-то меня это дело пока не очень радует: процессор при полностью пассивном охлаждении (в корпусе тоже вентилятора нет) разогревается до +70°С, винчестер, который 3-дюймовый, тоже раскаляется так, что к нему притронуться страшно (но рука всё-таки не отдергивается, так что +50..+60 где-нибудь), там вообще под него глухой угол, в котором ни одного вентиляционного отверстия, видать, рассчитывали на более современные HDD, которые не такие "горячие". При качании торрентов шебуршит головками со страшной силой, тяжело ему с 1 Гб памяти и множество файлов одновременно обслуживать...

Может, врежу туда вентилятор всё-таки, плохо только, туда не влезет большой и тихий, а влезет только маленький и визгливый... Но вообще у меня сейчас такое чувство, что в тихой комнате стрёкот винчестера больше ощущается, чем шум вентилятора, именно своей непредсказуемостью. Может, вентилятор его и замаскирует даже.

И с памятью меня жаба душит - за DDR2 сейчас просят какие-то неразумные деньги, в несколько раз дороже, чем за более новые, может получиться проще мне свой десктоп проапгрейдить, а из старого всю память "раскидать" по этим. Или вовсе весь десктоп превратить в файл-сервер, там 6 SATA-разъёмов, дофига места, и по-моему в самой материнке P5Q-EM RAID поддерживается. Вот что в тех. хар-ках пишут:

Интегрированный RAID-контроллер: Встроен в чипсет, возможно построение RAID массивов 0, 1, 10, 5 Matrix Raid из SATA устройств.

В общем, халява - она и есть халява.

Я бы не стал использовать RAID-контроллер, встроенный в материнку.
Да, с одной стороны он несколько разгрузит ЦПУ (хотя с R1 он и так не сильно загружен).
Вот только в случае смерти материнки могут возникнуть проблемы.
Некоторые недорогие аппаратные контроллеры даже для "зеркала" форматируют накопитель в своём формате и прочитать его можно будет не везде.

Если есть возможность, я бы попробовал найти и купить совместимую сетевую карту и вообще на десктопе поднять ESXi (а уже под ним поднимать и файл-сервер, и другие сервисы).

Вот проверил, насколько способны торренты резервировать данные - не стал искать все эти книги у себя, а именно что поставил на закачку - сейчас ровно одной книги не хватает (ни одного сида), хотя тут ещё может сказываться "серый IP" - у меня он серый, у сидера он серый, и мы друг друга не видим.

Вот кстати тоже хотел спросить - как мне обращаться к своему файл-серверу через интернет, если IP-адрес может меняться время от времени, я сижу на долбанном МГТС, не думаю, что там фиксированный IP-шник. Раньше было бесплатное решение DynDNS, причем его чуть ли не роутеры поддерживали, т.е роутер самостоятельно, когда у него меняется внешний IP, посылает запрос в DynDNS, чтобы они меня куда надо отправляли. Но они прекратили свой бесплатный сервис. Вообще, там вроде бы дешево, несколько долларов в год, но может, есть и какие-то бесплатные аналоги?

UPD. Посмотрел на сайте МГТС - они могут за 100 р/месяц давать статический IP, и тогда уж точно "белый", для файл-серверов и торрентов - неплохо :)

Могу себе представить какой-нибудь совсем колхоз, типа, файл-сервер каждый час проверяет свой IP, и если он сменился, присылает новый мне на почту :) Правда, делиться файлами у себя в ЖЖ я так не смогу, тут нужно что-то более удобное.

Edited at 2016-10-05 09:42 pm (UTC)

Фиксированный белый IP-адрес, обычно можно купить за дополнительные деньги.
Вот только далеко не все провайдеры такую услугу оказывают "физикам" :(

А DynDNS, вроде как ещё бывает бесплатным, но мне данный сервис был не надобен пока, поэтому тут ничего не скажу.

А вот CD/DVD в качестве резервных копий насколько котируются? Ну, эдакая копия совсем на черный день, и притом в нескольких экземплярах, одна стопка дома, ещё одна на даче и пр. :)

Или уже отмерла технология?

Тут снова страдаю плюшкинизмом - развинтил по деталькам своих дохлые ноутбуки, а там вполне себе стандартизированные CD/DVD приводы с разъемом Slim IDE. Можно купить за 400 рублей на алиэкспрессе внешний бокс для них, получится очень компактная хреновина, подключаемая по USB 2.0, или могу это в корпуса Barebone компов запихать, там соотв. заглушка есть на передней панели. Весь вопрос - а нужны ли вообще сейчас эти приводы?

Edited at 2016-10-17 09:45 pm (UTC)

Технология не отмерла, но у неё есть ряд недостатков.

Если нет autochanger для дисков - процесс создания резервных копий вообще никак не автоматизируется :(
Это значит, что защита данных будет продолжаться пока не иссякнет терпение и только.
Это, мне кажется, произойдёт весьма быстро.

Можно на оптических дисках держать архив (то есть ПЕРЕНЕСЁННЫЕ данные, которые будут доступны только с дисков после переноса).
Но тогда встаёт проблема каталогизации и... внезапной "смерти" самописных болванок.

Ну и плюс к этому - процесс записи на диск весьма нетороплив.

С этим в своё время столкнулся Сергей Куковлев (у него большая коллекция кинофильмов) и постепенно перешел на жесткие диски.

Кстати, OCZ Vector и правда глюкавый у меня - загрузил на него торрент Air Crash Investigation все сезоны, свыше 50 ГБ, в какой-то момент он выругался и начал перехэшировать этот торрент и в 3 блоках по 8 МБ хэщ не сошёлся. Очень похоже, что диск "теряет" данные, наверняка буквально 1 бит там и здесь, но этого хватает, чтобы повредить системные файлы, так что в один прекрасный момент всё валится, как у брата и происходило раз за разом.

Эх блин, не остановил вовремя торрент - он как нашел эти куски, так сразу же их и закачал заново, а интересно было бы побитово сравнить - как именно оно повреждено? Ну, похоже этот диск ещё представит такую возможность...

Скорее всего даже больше.
1 бит он бы по CRC смог бы восстановить.

  • 1
?

Log in

No account? Create an account