Ssd для 1с сервера: актуальные в 2020 году накопители
Выбор ssd для сервера 1С на vm Proxmox? Мой вариант десктопной машины под сервер?
Хочу купить Компьютер под 1С сервер.
Процессор AMD FX-8370
Материнская плата ASUS SABERTOOTH 990FX R3.0
Оперативная память Kingston HyperX Savage [HX324C11SRK4/32] 32 ГБ
Блок питания Corsair CX 650m [CP-9020103-EU]
Почему старый сокет и процессор старой линейки? Из-за кол-во ядер. Цены. И потому что у RYZEN на данном этапе, совсем плохо с совместимостью. Все везде жалуются, боюсь.
Вот хочется завести всё это на proxmox, потому и процессор с 8 ядрами по 4000 МГц.
Сервер будет 1С 8.3 на linux c postgresql, потому и 4000 МГц на ядро.
Под эту vm будет выделено 4 ядра и 16 гиг озу. (другие ядра и память останутся для других vm и задач.)
В 1С будет пользователей около 10. Реально работающих 5 человек.
База меньше 5 гигов.
И вот два вопроса для экспертов.
1). Будет ли данная машина жизнеспособной?
2). Какой ssd выбрать?
Plextor M8SeY pci-e[PX-256M8SeY
или
Samsung 850 Pro SATA III[MZ-7KE256BW]
Наверно без рейд 1. Будут регулярные бэкапы vm на другую машину.
Нагрузка на диск небольшая. свободного места останется больше 50%. Думаю ресурса должно хватить надолго.
Потом просто докуплю аналогичный диск и пложу на полку на запас.
Посему поставлю пока какой то 1 ssd без рейда.
P.S. В общем наверно щас польётся море критики. А может кто и скажет что всё будет нормально работать.
Написал для того что-бы что-то под черпнуть для себя из комментариев, и услышать чьё то мнение.
Что думаете о такой реализации и о этих двух ssd?
……………..
Почему proxmox? он тут выглядит не вполне логично.
Ну из-за реализации бэкапов. Всей вирт машины, снапшоты, и много всягих вариантов открывает для быстрого восстановления.
Ну и второе то что останется чуток место для ещё одной vm. Есть там надобность.
……………..
Работает трим и в виртуальных машинах и везде!
how do i enable trim?
НО! Огромное спасибо АртемЬ за наводку… Не придавал этому значения.
Ты заметил, я почитал. Теперь знаю.
……………..
Находил страничку vk люди используют proxmox, для разных задач.
Вопросы по SSD NVMe для 1С? — Хабр Q&A
Добрый день!
Камрады, поделитесь, пожалуйста, опытом/знаниями насчет использования SSD NVMe для 1С.
1. Как сделать RAID 1 на SSD NVMe в ESXi?
Мысли:
а) Raid контроллеры получается смысла использовать в этом случае нет, т.к. в случае с NVMe мы как раз и пытаемся избавиться от посредников с проводами, замедляющими скорость, переходя на PCIe с прямым обращением к процессору.
б) Остается только проброс 2 SSD NVMe в ВМ и создание уже внутри софтового рейда? (для процессоров, поддерживающих PCI-passthrough)
в) А вот простенький Raid-контроллер нужен будет только Raid 1 для самой ESXi и ВМ без особых нагрузок на диск. Без Raid-контроллера ведь нельзя сделать Raid 1 для ESXi?
2. Для SSD NVMe нужен получается только raid 1 для надежности, а остальные рейды экономически не обоснованны?
Мысли:
а) Для производительной работы с серверной 1С на много пользователей нужна в первую очередь случайная скорость чтения большого количества мелких блоков, во-вторую очередь случайная скорость записи большого количества мелких блоков. Или наоборот? В пиковую нагрузку — что обычно является бутылочным горлышком в первую очередь?
б) Все уровни рейдов дают только преимущество в линейной скорости чтения/записи, которые в нашем случае практически не нужны. Поэтому рейд нужен только для надежности (зеркало) или увеличения массива (хотя что мешает делать много Raid1, если прям не нужно единое большое пространство?)
3. Т.к. SSD NVMe Hi Ентерпрайз уровня довольно дорогие, можно ли как-то сэкономить, но при этом иметь надежность?
Например, как-то использовать более медленные SSD, но более дешевые во много раз.
Raid 1 отпадает, т.к. более медленные SSD будет узким горлышком.
А есть ли какое-то решение, когда SSD NVMe идет первым диском и выдает максимальную производительность всегда (и в обычную работу и с кратковременными пиковыми нагрузками), а на другие SSD идет дозапись c очередью в только пиковые нагрузки? (в остальное время они будут работать синхронно, т.к. пиковая нагрузка возникает лишь в 5% времени от всей работы дисков.).
Если SSD NVMe умирает, то из буфера (RAM диск какой-нибудь допустим) дозаписывается текущая очередь данных на другой SSD и система продолжает работать на SSD с меньшей производительностью, пока не будет вставлен новый SSD NVMe.
—
Не очень технично описал, но примерно так. Одномоментно изнашиваться будут не 2 дорогущих диска, а лишь 1, второй диск в запасе лежит на быструю замену. Менее дорогие SSD пусть изнашиваются, будут меняться, они все равно в разы дешевле.
Или смысла в этом нет, т.к. у Hi Ентерпрайз SSD TBW запредельные и мы за его срок жизни сменим кучу более дешевых SSD, что по стоимости выйдет в итоге тоже самое?
4. Как хотсвапить SSD NVMe?
У Intel есть U.2. У SuperMicro тоже есть решения в коробке.
Есть ли какие-то переходники для горячей замены, но в тоже время без потери производительности из-за проводов/переходника?
5. Заработает ли SSD NVMe на старенькой X9DRi-LN4F+ https://www.supermicro.com/products/motherboard/xe… ?
Может есть у кого опыт?
Особенности выбора твердотельных накопителей (SSD) для серверов и RAID-массивов
Как и было обещано в публикации «Целесообразность и преимущества применения серверных накопителей, построение RAID-массивов, стоит ли экономить и когда?», остановимся более подробно на проблеме выбора твердотельных накопителей. Но в начале немного теории.
Твердотельные накопители (Solid State Drives, SSD) — накопители, ориентированные на обеспечение минимальной latency (задержки до начала непосредственно операции чтения или записи) и большого количества IOPS (Input/Output Operations per Second, операций ввода/вывода в секунду). Выбирая SSD пользователь ориентируется прежде всего на то, на сколько быстрым будет накопитель для решения его задачи и на сколько надежным будет хранение данных на нем.
Твердотельные накопители состоят из NAND-микросхем, которые образуют массив памяти, они лишены недостатков HDD-дисков, так как нет движущихся частей и механического износа, за счет чего и достигается высокая производительность и минимальная latency (в жестких дисках основная задержка связана с позиционированием головки). Каждая ячейка памяти может быть перезаписана определенное количество раз. Операции чтения не оказывают влияния на износ SSD. В основном применяют три основных типа чипов NAND: SLC (Single Level Cell), MLC (Multi Level Cell) и TLC (Three Level Cell) — чипы с одноуровневыми, многоуровневыми и трехуровневыми и ячейками. Соответственно ячейки в SLC могут использовать два значения напряжения 0 или 1 (могут хранить 1 бит информации), в MLC 00, 01, 10 или 11 (хранят 2 бита информации), в TLC 000, 001, 010, 011, 100, 101, 110 или 111 (хранят 3 бита). Становится понятно, что чем больше значений может принимать ячейка, тем больше увеличивается вероятность некорректного считывания этого значения, тем больше времени требуется на коррекцию ошибок, тем больше информации может хранить накопитель. Именно по этой причине TLC требует большего объема ECC (Error Correction Code). В то же время, количество циклов перезаписи падает с увеличением плотности хранения информации и максимально в SLC и потому эта память самая быстрая, так как считывать одно из двух значений гораздо проще.
Теперь немного об особенностях самих микросхем. Память NAND, в отличии от NOR, применяемой во флешках, является более экономически выгодной и имеет ряд преимуществ и недостатков. Преимущества заключаются в гораздо большей емкости массива, возможности более эффективного последовательного чтения. Недостатки заключены в режиме постраничного доступа, отсутствии случайного доступа к данным, появлении дополнительных ошибок за счет большой плотности записи данных в ячейки. Каждая NAND-микросхема разделена на страницы 512 или 256 КБ, те же в свою очередь на блоки размером 4КБ. Возможно осуществлять чтение с отдельных страниц и запись, при условии, что они пусты. Однако, как только информация была помещена, ее невозможно перезаписать, пока не будет стерт весь блок страниц. В этом и состоит основной недостаток, оказывающий огромное влияние на эффективность записи и износ накопителя, так как NAND-микросхема имеет ограниченное количество циклов перезаписи. Для обеспечения равномерного износа всех ячеек, равномерной утилизации накопителя, контроллер перемещает записываемые данные с места на место при записи, тем самым увеличивая влияние WAF (Write Amplification Factor) на работу SSD, благодаря которому количество действительно записываемой информации гораздо больше, нежели логической, записываемой пользователем, в следствии чего уменьшается показатель случайного чтения. По сути данные перемещаются с места на место более одного раза, так как информация в памяти должна быть стерта перед повторной записью и чем более эффективно реализован алгоритм WAF, тем дольше проживет накопитель.
Технология Over-Provisioning позволяет оптимизировать основной недостаток, связанный с записью / перезаписью и улучшить производительность, увеличить срок жизни накопителя. Она заключается в том, что на каждом из накопителей выделяется область, недоступная для пользователя, которую использует контроллер для перемещения данных, тем самым выравнивая показатели износа ячеек, так как для стирания ячейки 4КБ требуется стереть всю строку ячеек (на 256 или 512 КБ), что логичнее выполнять в фоновом режиме, используя для записи в первую очередь неразмеченную область. Легко понять, что чем больше область ОР, тем проще контроллеру будет выполнять возложенные на него функции, тем меньше будет WAF и эффективнее будет случайная запись и случайное чтение. Производитель закладывает под ОР от 7% до 50% от объема накопителя, за счет чего значительно увеличивается скорость записи, что видно с графиков, представленных ниже (ОР 0%, 12%, 25%, 50%).
Как видим из графиков, производительность значительно повышается уже при ОР 25% и выше. Большинство производителей SSD позволяют управлять этим параметрам, у того же Samsung есть полезная утилита для этих целей:
В чем же отличие серверного и desktop-накопителя? Самое важное отличие заключается в том, насколько эффективна работа с операциями записи в непрерывном режиме, а это, в основном, определяется типом чипа, применяемыми алгоритмами и областью Over-Provisioning, которая выделена производителем. К примеру для Intel 320 серии Over-Provisioning составляет 8% от емкости его микросхем, а для Intel 710, накопителя вроде бы как с идентичным типом чипа — 42%. Более того, Intel рекомендует еще минимум 20% оставить неразмеченными при создании раздела, чтоб они также автоматически могли быть использованы под Over-Provisioning, даже на серверных накопителях, где уже выделено 42%. Это удлинит срок жизни накопителя до 3-х раз, так как уменьшится WAF, и повысит производительность записи до 75%.
Но чем же принципиально отличаются декстопные накопители от серверных? Возьмем для примера накопители Intel 320 и 520 — хорошие десктопные твердотельные накопители, в последнем применена «хитрость» в виде контроллера LSI SandForce, который сжимает записываемые данные и передает их на накопитель уже в сжатом виде, таким образом увеличивая скорость записи. И сравним их с серверным накопителем Intel 710 серии.
Inte отличается от других производителей тем, что пишет технические характеристики довольно подробно и честно и мы всегда можем знать производительность в разных режимах использования накопителя, что как раз очень полезно в нашем случае. Именно потому мы выбрали их для сравнения, пусть, какие-то уже сняты с производства и есть более новые модели, но не в этом суть. Наша цель — понять отличия и принципы выбора, которые, вне зависимости от апдейтов, сильно не изменились.
http://ark.intel.com/ru/products/56563/Intel-SSD-320-Series-120GB-2_5in-SATA-3Gbs-25nm-MLC — cмотрим и видим, что:
Случайное чтение (участок 8 ГБ) — 38000 IOPS
Случайное чтение (участок 100%) — 38000 IOPS
Случайная запись (участок 8 ГБ) — 14000 IOPS
Случайная запись (участок 100%) — 400 IOPS
То есть, если мы занимаем на нашем SSD-накопителе на 120 ГБ всего лишь 8, отводя более 90% емкости под Over-Provisioning, то показатели случайной записи довольно хороши и составляют 14 KIOPS, если же мы используем все пространство — всего лишь 400 IOPS на случайную запись, производительность падает в 35 раз и оказывается на уровне пары хороших SAS-дисков!
Теперь рассмотрим http://www.intel.com/content/dam/www/public/us/en/documents/product-specifications/ssd-710-series-specification.pdf, как видим, что даже при 100% заполнении доступной емкости, скорость на запись довольно прилична — 2700 IOPS, а при наличии 20% от емкости под Over-Provisioning возрастает до 4000 IOPS. Это следствие немного, но все же другой памяти, с High Endurance Technology (HET), если по-простому — это применение отборной памяти. Также применяется иная прошивка с другим алгоритмом записи, которая позволяет снизить количество ошибок и продлить жизнь накопителя. И что очень важно — используется иной алгоритм очистки свободного пространства. За счет этого производительность поддерживается при НЕПРЕРЫВНОЙ работе практически всегда на достойном уровне, на диске постоянно проходит фоновая очистка и оптимизация распределения данных. В десктопном же Intel 320 — она может несколько падать при непрерывной работе, так как процессы очистки идут не постоянно.
Вывод — десктопный диск будет жить довольно долго на небольших объемах данных и по скорости может обеспечить довольно хорошие результаты в случае наличия большого пространства под Over-Provisioning. Когда это выгодно? Допустим есть база данных, та же 1С, к которой требуется доступ 10-20 пользователям. База имеет объем 4 ГБ. Более 90% емкости накопителя отводим под Over-Provisioning и размечаем только необходимое, с небольшим запасом, скажем, 8 ГБ. В результате имеем довольно хорошую производительность и экономичность решения с очень хорошим показателем надежности. Конечно, в случае 40-50 пользователей 1С, все же лучше будет использовать серверный накопитель, так как при непрерывной нагрузке показатели все же будут падать у десктопного SSD.
Теперь остановимся более подробно на накопителях с контроллерами типа SandForce. Просмотрев характеристики http://download.intel.com/newsroom/kits/ssd/pdfs/intel_ssd_520_product_spec_325968.pdf, приходим к выводу, что Intel 520 — очень хороший вариант в случае компрессируемых данных, обеспечивает до 80 000 IOPS на запись, однако в случае несжимаемых данных, таких, как видео, показатели падают значительно — до 13 KIOPS и менее. Помимо прочего, в небольшой сноске (под номером 2) указано, что такие фантастические скорости на запись (80 KIOPS) достижимы только в случаях, когда размечено только 8 ГБ, что в случае 180-гигабайтного накопителя составляет всего лишь порядка 3% его емкости, остальное отводится под Over-Provisioning, в результате опять же можно сделать вывод, что этот диск будет хорошо работать с небольшими базами данными и текстовыми файлами, а в случае необходимости быстрой записи несжимаемых данных, таких, как видео — все же лучше использовать полноценные серверные накопители.
Стоит также отметить, что серия 320, хоть и считается десктопной, но на самом деле является полусерверной, так как помимо прочего накопитель содержит суперконденсатор, который в случае отключения питания позволяет сохранить данные из кеша самого диска. А вот 520-ка этого не имеет. Потому очень важно обращать внимание и на такие особенности при выборе накопителей. Таким образом, серия 320 будет хоть и медленнее, нежели 520, но зато надежнее.
Справедливо будет поговорить и о накопителях от других популярных производителей — Seagate и Kingston. Чем они отличаются? Seagate Pulsar, в отличии от рассматриваемых накопителей выше, имеет интерфейс SAS, а не SATA и это является его основным преимуществом. У твердотельных накопителей с интерфейсом SATA есть контроллер сохранности данных на накопителе, есть контроллер сохранности данных на самом контроллере, но вот то, что происходит с данными на этапе их передачи, отслеживается недостаточно хорошо. Интерфейс SAS решает эту проблему и полноценно контролирует канал передачи и в случае какой-то ошибки из-за той же наводки — исправит ее, SATA-интерфейс — нет. Кроме того, тут используются преимущества надежности самого интерфейса SAS, когда вместо 512 пишется 520 байт, вместе с 8 байтами четности. Помимо прочего можем использовать преимущества дуплекса SAS-интерфейса, но где это может быть использовано — лучше будет осветить в отдельной публикации.
Что же касается серии накопителей Kingston — это не только надежные накопители, но и весьма производительные. До недавнего времени их серверная серия была одной из самых быстрых, пока на рынке не появился Intel 3700. При этом цена на эти накопители довольно приятна, соотношение цена / производительность / надежность, является, пожалуй, наиболее оптимальными. Именно по этой причине в «новой» нашей линейке серверов в Нидерландах, с которыми мы начали распродажу, мы предложили именно эти накопители, обеспечив тем самым довольно интересное ценовое предложение, в результате которого, серверов c этими накопителями, осталось совсем немного:
В этих накопителях 8 чипов по 32 ГБ, образуют суммарный объем в 256 ГБ, около 7% емкости выделено под Over-Provisioning, чистая квота одного накопителя выходит равной 240 ГБ. SandForce контроллер оказывает положительное влияние на прирост производительности в случае работы с компрессируемыми данными, а именно базами данных и зачастую удовлетворяет потребности в IOPS для 95% наших клиентов. В случае же некомпрессируемых данных или данных с большой энтропией, таких как видео, пользователи в основном используют его больше для раздачи контента, нежели для записи, а на чтение производительность не падает столь значительно, что также удовлетворяет потребности большинства пользователей, а если требуется обеспечить большую производительность на запись — достаточно увеличить Over-Provisioning. Как видно из графика, прирост производительности для данных с нулевой компрессией (энтропия 100%) при росте Over-Provisioning, максимальный:
Стоит отметить еще честность производителя, тесты очень консервативны. И зачастую реальные результаты оказывались выше гарантируемых на 10-15%.
А для тех, кто нуждается в большей емкости, мы приготовили спец. предложение:
Трафик можно увеличить, также, как и канал, апгрейды доступны по очень приятным ценам:
1 Gbps 150TB — +$99.00
1 Gbps Unmetered — +$231.00
2 Gbps Unmetered — +$491.00
Что же касается использования твердотельных накопителей в RAID-массивах, не будем повторятся об особенностях их использования в RAID, существует волшебная авторская статья amarao, которую я рекомендую к прочтению SSD + raid0 — не всё так просто и которая поможет сформировать полноценное понимание. В этой же статье расскажу немного о SSD-накопителях с интерфейсом PCI-Express, в котором уже используется встроенный RAID-контроллер. В случае задачи построения очень быстрого решения, скажем, для нагруженной биллинговой системы, такие накопители незаменимы, так как способны обеспечить сотню KIOPS на запись и более, а также, что очень важно, очень низкую латентность. Если латентность большинства твердотельных накопителей находится в пределах 65 микросекунд, что в 10-40 раз лучше показателей латентности жестких дисков, то у топовых SSD PCI-Express достигаются значения 25 микросекунд и менее, то есть практически скорость RAM. Конечно, за счет самого интерфейса PCI-Express идет снижение быстродействия, по сравнению с RAM, тем не менее, в скором времени ожидаются заметные улучшения в плане латентности.
Емкость накопителя с интерфейсом PCI-Express набирается «банками памяти», на плате уже имеется SandForce чип, а также аппаратный RAID-контроллер. То есть это уже зеркало со скоростью реакции 25 микросекунд со скоростью записи более 100 KIOPS, которое имеет очень высокую надежность. Эффективная емкость таких накопителей, как правило невелика и может составлять 100ГБ. Цена — также довольно внушительна (7000-14000 евро). Но в случае, как уже отмечалось, нагруженных биллинговых систем, совсем нагруженных баз данных, а также с целью быстрого формирования бухгалтерских отчетов 1С в крупных компаниях (скорость построения возрастает почти на 2 порядка, в 100 раз быстрее) — такие решения незаменимы.
Пока что мы можем предложить такие решения лишь в custom-built серверах при гарантии долгосрочной аренды, так как спрос довольно ограничен и далеко не каждый будет согласен платить столь внушительные деньги за производительность, к слову, не для каждого это и целесообразно. Возможно позднее, в отдельной публикации, мы рассмотрим подобные решения более обширно, если будет соответствующий интерес от бизнес-абонентов.
Выбираем NVMe SSD-накопитель для сервера
Что выбрать для сервера — HDD или SSD? HDD-диски дешевле и больше объемом, но они вибрируют, шумят и работают медленнее. SSD-диски дороже и меньше по объему, но дают более быстрый отклик.
Надежность, безотказная работа, производительность и время отклика — это четыре ключевых параметра хорошего сервера. Эти же параметры важны и для серверных жестких дисков.
SSD в сервере должны обрабатывать многочисленные запросы с минимальным уровнем задержки, обеспечивая высокий уровень сохранности данных. В высоконагруженных серверах жёсткие диски годами работают интенсивно и безостановочно. Перечисленные ниже модели жестких дисков разработаны именно таким образом, чтобы выдерживать долгую, интенсивную и непрерывную нагрузку.
Еще один важный фактор — тип памяти, MLС или TLC. Память MLC быстрее и долговечнее, но дороже. TLC, соответственно, медленнее и выдерживает меньше циклов перезаписи, что может быть важно для сервера.
Отдельно стоит выделить накопители серии Optane — в них используется память 3D XPoint с практически неограниченным ресурсом записи, перекрывающий гарантийный срок в несколько раз.
Все рассмотренные ниже модели работают с интерфейсом подключения PCIe NVMe — это разновидность SSD накопителей, которая подключается по шине PCI Express. NVMe SSD-накопители примерно в 2-3 раза быстрее обычных SSD и отличаются высокой стоимостью.
PCIe NVMe 3.0 x4
Intel Optane DC P4800X SSDPED1K375GA01 и SSDPE21K375GA01 обладают схожими характеристиками: емкость 375GB, тип памяти 3D XPoint, скорость чтения/записи 2400/2000 Mb/s, IOPS произвольного чтения/записи 550000/500000 IOPS.
Они отличаются только форматом: первая модель выполнена в формате PCI-E, вторая — в формате U.2 (2.5″ / 15mm).
Intel DC P3600 SSDPEDME400G401 отличается немного большей емкостью — 400GB. Эта модель работает с типом памяти MLC, диск выполнен в формате PCI-E на базе контроллера Intel Ch39AE41AB0. Скорость чтения/записи 2100/550 Mb/s, IOPS произвольного чтения/записи 320000/30000 IOPS.
Intel Optane DC P4800X SSDPE21K750GA01 и SSDPED1K750GA01 также похожи: емкость 750GB, тип памяти 3D XPoint, скорость чтения/записи 2500/2200 Mb/s, IOPS произвольного чтения/записи 550000/550000 IOPS.
Они отличаются форматом: первая модель выполнена в формате PCI-E, вторая — в формате U.2 (2.5″ / 15mm).
Следующие две модели также обладают идентичными параметрами: Intel Optane DC P4800X SSDPED1K015TA01 и SSDPE21K015TA01 емкостью 1.5TB с типом памяти 3D XPoint, скорость чтения/записи 2500/2200 Mb/s, IOPS произвольного чтения/записи 550000/550000 IOPS.
Отличие в форм-факторе: первая модель выполнена в формате PCI-E, вторая — в формате U.2 (2.5″ / 15mm).
Наибольший объем SSD-накопителя с таким интерфейсом подключения — 1.6TB. Это модель Intel DC P3700 SSDPEDMD016T401 выполнена в формате PCI-E на базе контроллера Intel Ch39AE41AB0. Скорость чтения/записи 2800/1900 Mb/s, IOPS произвольного чтения/записи 450000/150000 IOPS.
PCIe NVMe 3.1 x4
Наименьший объем диска с таким интерфейсом подключения — 512GB. Это модель Intel DC P4101 SSDPEKKA512G801 с типом памяти 3D TLC, выполненная в формате M.2 2280. Скорость чтения/записи 2550/550 Mb/s, IOPS произвольного чтения/записи 219000/11400 IOPS.
Следующий доступный объем — 1TB. В таком объеме представлены три модели:
— Intel DC P4500 SSDPE2KX010T701 и P4510 SSDPE2KX010T801 выполнены в формате U.2 (2.5″ / 15mm).
Скорость чтения/записи первой модели 3200/600 Mb/s, IOPS произвольного чтения/записи 279500/30500 IOPS. Скорость чтения/записи второй модели 2850/1100 Mb/s, IOPS произвольного чтения/записи 465000/70000 IOPS.
— Intel DC P4101 SSDPEKKA010T801 выполнен в формате M.2 2280, скорость чтения/записи 2600/660 Mb/s, IOPS произвольного чтения/записи 275000/16000 IOPS.
Все три модели работают с типом памяти 3D TLC.
Intel DC P4600 SSDPE2KE016T701 и SSDPE2KE016T801 обладают емкостью 1.6TB, типом памяти TLC, выполнены в формате U.2 (2.5″ / 15mm).
Скорость чтения/записи первой модели 3200/1325 Mb/s, IOPS произвольного чтения/записи 559550/176500 IOPS. Скорость чтения/записи второй модели — 3200/2100 Mb/s, IOPS произвольного чтения/записи 620000/200000 IOPS.
Следующие шесть моделей обладают одинаковым типом памяти TLC и одинаковым объемом 2TB. Основное отличие между ними — формат и скорость работы:
— Intel DC P4501 SSDPE7KX020T7 выполнен в формате 2.5″. Скорость чтения/записи 3100/860 Mb/s, IOPS произвольного чтения/записи 362000/36000 IOPS.
— Intel DC P4101 SSDPEKKA020T801 выполнен в формате M.2 2280. Скорость чтения/записи 2600/840 Mb/s, IOPS произвольного чтения/записи 275000/16000 IOPS.
— Intel DC P4510 SSDPE2KX020T801, P4600 SSDPE2KE020T701 и P4500 SSDPE2KX020T701 выполнены в формате U.2 (2.5″ / 15mm).
Скорость чтения/записи первой модели 3200/2000 Mb/s, IOPS произвольного чтения/записи 637000/81500 IOPS. Скорость чтения/записи второй модели 3200/1575 Mb/s, IOPS произвольного чтения/записи 610000/196650 IOPS. Скорость чтения/записи третьей модели 3200/1050 Mb/s, IOPS произвольного чтения/записи 490000/38000 IOPS.
— Intel DC P4600 SSDPEDKE020T701 выполнен в формате PCI-E. Скорость чтения/записи 3290/1650 Mb/s, IOPS произвольного чтения/записи 650000/205000 IOPS.
— Intel DC P4610 SSDPE2KE032T801 и P4600 SSDPE2KE032T701 выполнены в формате U.2 (2.5″ / 15mm).
Скорость чтения/записи первой модели 3200/3000 Mb/s, IOPS произвольного чтения/записи 640000/200000 IOPS. Скорость чтения/записи второй модели 2850/1900 Mb/s, IOPS произвольного чтения/записи 636500/223260 IOPS.
Следующие четыре модели обладают емкостью 4TB и типом памяти TLC:
— Intel DC P4500 SSDPE2KX040T701 и P4510 SSDPE2KX040T801 выполнены в формате U.2 (2.5″ / 15mm).
Скорость чтения/записи первой модели 3200/1800 Mb/s, IOPS произвольного чтения/записи 645000/48000 IOPS. Скорость чтения/записи второй модели 3000/2900 Mb/s, IOPS произвольного чтения/записи 625500/113500 IOPS.
— Intel DC P4500 SSDPEDKX040T701 и P4600 SSDPEDKE040T701 выполнены в формате PCI-E.
Скорость чтения/записи первой модели 3270/1860 Mb/s, IOPS произвольного чтения/записи 687000/62000 IOPS. Скорость чтения/записи второй модели 3290/2100 Mb/s, IOPS произвольного чтения/записи 710000/68000 IOPS.
Модели Intel DC P4600 SSDPE2KE064T701 и SSDPE2KE064T801 обладают емкостью 6.4TB и типом памяти TLC, выполнены в формате U.2 (2.5″ / 15mm).
Скорость чтения/записи первой модели 3200/2100 Mb/s, IOPS произвольного чтения/записи 617500/238000 IOPS. Скорость чтения/записи второй модели — 3000/2900 Mb/s, IOPS произвольного чтения/записи 640000/220000 IOPS.
Наибольшая емкость — 7.68TB. Модель Intel P4320 SSDPE2NV076T801 обладает типом памяти QLC и форматом U.2 (2.5″ / 15mm). Скорость чтения/записи 3200/1000 Mb/s, IOPS произвольного чтения/записи 427000/36000 IOPS.
Видео обзор SSD-накопителя Intel Optane DC P4800X
Проектирование сервера под 1С ⋆ Главный системный администратор ™ ™
Выбирая сервер под 1С, любой владелец хотел бы избежать узких мест. С другой стороны, сегодня мало кто покупает серверы избыточной мощности, «на вырост». Хорошо если профиль нагрузки удается снять заранее — тогда и проектировать сервер под конкретную конфигурацию приложений компании проще. А избыточность в сервере должна присутствовать обязательно. Иначе незначительная экономия на этапе покупки сервера, через небольшое время, увеличит стоимость сервера значительно.
Для наглядности, возмем платформу «1С:Предприятие 8.2» и популярне базовые конфигурации «Бухгалтерский учет», «Торговля и склад», «Зарплата и Управление Персоналом», «Управление Торговым Предприятием» и, отчасти, «Управление Производственным Предприятием». Исходим из того, что для предприятий с 10 и более сотрудниками, работающими в 1С, используется «1С:Предприятие 8.2. Сервер приложений». Учтем вариант работы в режиме удаленного рабочего стола (Remote Desktop), с количеством одновременных пользователей базы данных до 100-150. Рекомендации будут применимы и для более «тяжелых» БД 1С, но «тяжелые случаи» всегда требуют индивидуального подхода.
Процессоры и оперативная память
Если компания совсем маленькая (2-7 пользователей в системе), база невелика (до 1GB), а «1С:Предприятие 8.2» работает в файловом режиме на пользовательском компьютере, то мы получаем классическую реализацию файл-сервера. С такой задачей по нагрузке на CPU справится даже Intel Core i3, тем более Intel Xeon . Объем необходимой оперативной памяти (RAM) считается совсем просто: 2GB под операционную систему и 2GB под системный файловый кеш.
Если в компании 5-25 пользователей 1С, размер базы данных до 4GB, то приложению «1С:Предприятие 8.2» должно хватить 4-х ядерного Intel Xeon . Кроме 2GB оперативной памяти под ОС, необходимо выделить 1-4GB под «1С:Предприятие 8.2. Сервер приложений» и еще столько же под MS SQL Server в качестве кеша — итого 8-12GB RAM.
Известен (хотя и не особо афишируется) факт: «1С:Предприятие 8.2. Сервер приложений» очень не любит, когда операционная система выгружает его в swap-файл на жесткий диск, и склонно при этом иногда терять отклик. Поэтому на сервере, где запущен «Cервер приложений», всегда должен быть запас свободного пространства в оперативной памяти — тем более она сегодня недорога.
В компаниях побольше пользователи 1С обычно работают через удаленный доступ к приложению (Remote Desktop) — то есть в терминальном режиме. Как правило, при10-100 пользователях 1С с базой данных от 1GB и выше, «1С:Предприятие 8.2. Сервер приложений» и пользовательское приложение «1С:Предприятие 8.2» запускается на одном и том же сервере. По возможности необходимо запуск клентов 1С делать на локальных машинах пользователей, и только потом рассматривать «Remote Desktop».
Для определения необходимых процессорных ресурсов исходят из того, что одно физическое ядро может эффективно обрабатывать не более 8 пользовательских потоков — это связано с внутренней архитектурой процессоров. Как показывает практика, под задачи 1С + Remote Desktop не стоит брать серверные процессоры младших линеек с низкими частотами расчетных ядер и урезанной архитектурой. Если пользователей немного (до 15-20), хватит одного процессора из высокочастотных Intel Xeon . При этом минимум одно его физическое ядро (2 потока) уйдет под нужды SQL Server, еще одно (2 потока) — под «1С:Предприятие 8.2. Сервер приложений», а оставшиеся 2 физических ядра (4 потока) — под ОС и терминальных пользователей. При количестве пользователей 1С более 20 или при объемах БД более 4GB пора переходить к 2-х процессорным системам на Intel Xeon E5-26xx или AMD Opteron 62xx.
Расчет нужного объема оперативной памяти относительно прост: 2GB надо отдать ОС, 2GB и больше — MS SQL Server в качестве кеша (не менее 30% БД) , 1-4GB — под «1С:Предприятие 8.2. Сервер приложений», остальной памяти сервера должно хватать под терминальные сессии. Один терминальный пользователь, в зависимости от конфигурации, потребляет в приложениях «Бухгалтерский учет», «Торговля и склад» — 100-120MB, «Зарплата и Управление Персоналом», «Управление Торговым Предприятием» — 120-160MB, «Управление Производственным Предприятием» — 180-240MB. Если пользователь запускает дополнительно на сервере MS Word, MS Excel, MS Outlook, то на каждое приложение надо выделить еще порядка 100MB. Как правило, минимум для сервера терминалов — 12GB RAM.
К примеру, для сервера 1С со всем пакетом ПО, 50 терминальными пользователями в конфигурации «Управление Торговым Предприятием», и базой данных в 8GB оптимальной будет вычислительная мощность двух процессоров Intel Xeon E5-2650 (8 ядер, 16 потоков, 2.0 GHz). Оперативной памяти понадобится минимум 2 (ОС) + 4(SQL) + 4(1C-сервер) + 8 (160 «УТП» * 50 пользователей) = 18GB, а лучше 24-32GB(6-8 каналов DIMM по 4GB). Но это минимум, не забываем про избыточность.
Дисковая подсистема
Большинство жалоб на медленную работу серверов 1С:Предприятие 8 связано с непониманием, какие на них выполняются типы операций ввода-вывода, над какими данными и с какой интенсивностью. Зачастую, именно дисковая подсистема является ключом к обеспечению достаточной производительности сервера в целом — ведь для нагруженных БД самой большой проблемой является блокировка таблиц при одновременной работе с ними множества пользователей или при массовых загрузках/выгрузках/проводках.
У 1С есть 5 потоков данных для дисковой подсистемы, с которыми она работает:
- таблицы баз данных;
- индексные файлы;
- временные файлы tempDB;
- log-файл SQL;
- log-файл пользовательских приложений 1С.
Структура данных в 1С — объектно-ориентированная, со множеством объектов и связей между ними. Для работы с таблицами данных чрезвычайно важно количество операций чтения и записи, которые способна проделать дисковая подсистема за промежуток времени (Input Output Operation per Second, IOPS). При этом ее способность выдать высокую потоковую скорость передачи данных (в MBp/s) куда менее важна. Очень скромная база объемом 200-300MB с 3-5 пользователями может генерировать в пиках до 400-600 IOPS. База на 10-15 пользователей и объёмом в 400-800MB способна выдать 1500-2500 IOPS, 40-50 пользователей БД 2-4GB порождают5000-7500 IOPS, а базы под 80-100 пользователей легко достигают 12000-18000 IOPS.
3-5 польз., 300 MB | 10-15 польз., 800 MB | 40-50 польз., 4 GB | 80-100 польз., 20 GB |
400-600 IOPS | 1500-2500 IOPS | 5000-7500 IOPS | 12000-18000 IOPS |
Разумеется, средняя нагрузка на дисковую подсистему может составлять и 10-15%от пиковой. Только в реальности важна именно производительность в период пиковых нагрузок: автоматических загрузок данных из других систем, обмена данных распределённой системы или перепроведения периода.
Современные диски в операциях чтения и записи со случайным доступом (Random Read/Write) в одиночку справляются с такими нагрузками:
7200 rpm SATA | 15000 rpm SAS | Intel 320 160GB | Intel 710 200GB | Intel 910 400 GB | |
read | 100-120 IOPS | 200-220 IOPS | 35 000 IOPS | 35 000 IOPS | 90 000 IOPS |
write | 80-100 IOPS | 180-200 IOPS | 600-8600 IOPS | 2400 – 8600 IOPS | 38 000 IOPS |
Хорошо видно, что:
- узким местом и для HDD, и для SSD является запись;
- традиционные HDD — не конкуренты SSD по скорости чтения в IOPS даже теоретически, разница превышает два порядка;
- даже не самый современный десктопный SSD в 3-40 раз (в зависимости от конфигурирования) превосходит по скорости записи в IOPS любой HDD, серверный SSD — в 12-40 раз быстрее HDD;
- максимальную производительность в IOPS дают PCIe SSD класса Intel 910 или LSI WarpDrive.
Стоит сказать, что это усредненные параметры, для каждой БД количество необходимых IOPS нужно рассчитывать отдельно. Все зависит от того как работают пользователи с БД. В моей практике были БД объемом 50 ГБ и средней нагрузкой 500 IOPS, а в пике 1024 IOPS. Особо актуально подсчет IOPS критичен в виртуальных средах, когда дисковая система хранится на СХД, когда приходится выбирать недорогой протокол iSCSI или более дорогой вариант Fiber Chennal Protocol.
Одиночные диски в серверах БД не используются, только RAID-массивы. Для дальнейшего расчета реальной производительности дисковой подсистемы нужно учесть затраты («штраф») на запись в IOPS, которые несет дисковая группа в RAID:
RAID 0 | RAID 1 (or 10) | RAID 5 | RAID 6 | |
Read | 1 | 1 | 1 | 1 |
Write | 1 | 2 | 4 | 6 |
Если собрать 6 дисков в RAID 10, то на каждую запись в 1 IOPS данных будет потрачено 2 IOPS физических дисков, а если в RAID 6 — то 6 IOPS дисков. Таким образом, при расчете нагрузочных возможностей дисковой группы на запись нужно вначале сложить IOPS всех дисков RAID-группы, а затем разделить их на «штраф».
Пример 1: 2 HDD SATA 7200 в RAID 1 обеспечат на запись: (100 IOPS *2) / 2 = 100 IOPS.
Пример 2: 4 SATA 7200 в RAID 5 обеспечат на запись: (100 IOPS *4) / 4 = 100 IOPS.
Пример 3: 4 SATA 7200 в RAID 10 обеспечат на запись: (100 IOPS *4) / 2 = 200 IOPS.
Примеры 2 и 3 наглядно демонстрируют, почему для хранения баз данных, у которых типовое распределение чтение/запись составляет 68/32, предпочтителен RAID 10.
Из данных трех таблиц понятно, по какой причине производительности типового «джентльменского набора» 2 HDD SATA 7200 в RAID 1 серверу недостаточно: при пиковых нагрузках растет очередь обращений к диску, пользователи ожидают ответа системы, иногда по многу часов.
Как увеличить производительность дисковой подсистемы на запись? Наращивают количество дисков в RAID-группе, переходят к дискам с большей скоростью вращения, выбирают уровень RAID c меньшим штрафом на запись. Хорошо помогает кеширование RAID-контроллером с включенным режимом отложенной записи Write back. Данные пишутся не напрямую на диски (как в режиме Write Through), а в кеш контроллера, и только затем, в пакетном режиме и упорядоченном виде — на диски. В зависимости от специфики задачи, производительность записи удается поднять на 30-100%.
Под слабо нагруженные или относительно небольшие БД (до 20GB) подойдет недорогой способ «добычи IOPS» — гибридный RAID из SSD/HDD. Большего и не нужно филиальной БД на 3-15 пользователей в распределённой структуре вроде сети кафе или СТО.
Для объемных (200GB и более) БД с длинным историческим шлейфом данных, либо для обслуживания нескольких объемных БД эффективным может оказаться SSD-кеширование (технологии LSI CacheCade 2.0 или Adaptec MaxCache 3.0). По опыту эксплуатации таких систем, именно в задачах 1С с их помощью можно относительно недорого и без существенных изменений в инфраструктуре хранения ускорить дисковые операции на 20-50%.
Чемпионом по быстродействию в IOPS предсказуемо являются RAID-массивы на серверных SSD — как традиционные, с использованием SAS RAID-контроллера, так и PCIe SSD. Мешают их популярности два ограничителя: технологический (производительность RAID- контроллеров или необходимость радикально ломать структуру хранения) и цена реализации.
Отдельно следует сказать о хранении индексных файлов и TempDB. Индексные файлы обновляются очень редко (обычно 1 раз в сутки), зато читаются очень и очень часто (IOPS). Таким данным просто необходимо храниться на SSD, c их показателями по чтению! TempDB, используемые для хранения временных данных, как правило, невелики по объему (1-4-12GB), зато очень требовательны к скорости записи. Индексные и временные файлы объединяет то, что их потеря не приводит к потере реальных данных. А значит, они могут размещаться на отдельном (еще лучше — на двух отдельных томах) SSD. Хотя бы и на бортовом контроллере SATA материнской платы. С точки зрения надежности и быстродействия, под TempDB желательно отдать зеркало (RAID1) из SSD, можно на бортовом контроллере, но с обязательным выключением всех кешей на запись. С этой ролью справятся и десктопные SSD — вроде Intel 520-серии, где аппаратная компрессия данных при записи в TempDB будет как раз уместной. Вынос этих задач с общей системы хранения на выделенную скоростную подсистему положительно сказывается на производительности системы в целом, особенно в моменты пиковых нагрузок.
В случаях, когда есть возможность обеспечить максимально быструю реакцию администраторов при сбоях, и когда имеются сложные расчетные задачи (складская или транспортная логистика, производство в УПП, объемные обмены в УРБД), TempDB выносят на RAMDrive. Такое решение позволяет выиграть иногда до 4-12% общей производительности системы. Некоторое неудобство возникает только в случае рестарта сервера: если автоматически RAMDrive не запустится, потребуется вмешательство администратора для ручного старта — иначе станет вся система.
Еще один важный компонент — log-файлы. Они имеют неприятную для любой дисковой подсистемы особенность — генерировать почти постоянный поток мелких обращений на запись. Это незаметно при средних нагрузках, но сильно ухудшает быстродействие сервера 1С при пиковых нагрузках. Разумно выносить log-файл (в особенности, log-файл SQL) на отдельный физический том, к которому нет высоких требований по IOPS, и на который будет идти практически линейная запись. Для спокойствия можно создать зеркало из недорогих и объемных SATA/NL SAS (для Full log), либо недорогих десктопных SSD все той же Intel 520-й серии (Simple log, или Full log, с ежедневным его Backup и очисткой).
В целом можно сказать, что приход SSD в серверы открыл новые возможности увеличения производительности массовых серверов — за счет многоуровневого хранения данных и разумного конфигурирования дискового ввода/вывода.
Дисковая подсистема «идеального сервера под 1С» выглядит так:
1. Таблицы базы данных размещены на RAID 10 (или RAID 1 для малых БД) из надежных серверных SSD с обязательным аппаратным RAID-контроллером. При высоких требованиях по IOPS можно рассмотреть вариант PCIe SSD. Для БД большого объема эффективно SSD-кеширование массивов HDD. Если используемая конфигурация 1С и структура данных не слишком требовательны к IOPS, а количество пользователей невелико — хватит традиционного массива из HDD SAS 15K rpm.
2. Индексные файлы вынесены на быстрый и недорогой одиночный SSD, TempDB — на 1-2 (RAID 1) SSD или RAMDrive.
3. Под log-файлы SQL (а желательно и 1С) отведен выделенный том (одиночный физический диск или RAID-1) на SATA/NL SAS HDD или недорогих SSD, либо логический диск на RAID-массиве, на котором расположена операционная система сервера и пользовательские файлы/папки.
4. Операционная система и пользовательские данные хранятся на RAID 1 из HDD или SSD.
Если IT-инфраструктура виртуализирована, крайне желательно, чтобы SQL Server был установлен не как виртуальная машина, а непосредственно на физический сервер, на «голое железо». Цена вопроса — от 15 до 35% производительности дисковой подсистемы (в зависимости от оборудования, драйверов, средств виртуализации и способов подключения тома). В виртуализированной среде SQL-сервера подключение томов с таблицами БД, индексными файлами и TempDB к VM обязательно в монопольном режиме по Direct Access.
Не забываем про регламентные задания средствами SQL, рекомендованные службой Техподдержки 1С . Особенности эксплуатации SQLServer 2005-2008 для 1C-Предприятие 8
Сетевые интерфейсы
При построении систем 1С:Предприятие 8 для малых и средних предприятий (до 100-150 активных пользователей одновременно) следует минимизировать потери на сетевых операциях через интерфейс Ethernet. В идеале — обслуживать и SQL Server, и «1С:Предприятие 8 Сервер приложений х64», и пользовательские сессии 1С в Remote Desktop одним физическим сервером. Спорная с точки зрения обеспечения отказоустойчивости, такая рекомендация позволяет выжать максимум из оборудования и ПО, а за счет применения виртуализации дает определенный уровень безопасности и «повторяемость среды» на другом оборудовании.
Зачем исключать Ethernet из цепочки SQL-сервер —> Сервер приложений 1С:Предприятие 8 —> пользовательская сессия 1С:Предприятие 8? Сетевой интерфейс Ethernet, с его упаковкой данных в относительно небольшие блоки для передачи, всегда будет создавать дополнительные задержки: и при упаковке/распаковке трафика, и при самой передаче (высокая латентность). В 1С:Предприятие 8 довольно большие массивы данных передаются для обработки и отображения по всей цепочке, в некоторых ситуациях — в обе стороны. При прямой же передаче данных от одного процесса другому в рамках оперативной памяти сервера (на одном сервере без виртуализации), или же через виртуальный сетевой интерфейс (в рамках все того же одного физического сервера, при хороших серверных сетевых адаптерах с переносом блоков RAM между VM) задержки намного ниже. Современные двухпроцессорные серверы с большой оперативной памятью и дисковой подсистемой на SSD позволяют комфортно обслужить БД 1С на 100-150 активных пользователей.
Если для нагруженных БД использование нескольких физических хостов неизбежно, желательно связать все серверы по 10Gb Ethernet. Или, как минимум, 2-4агрегированными соединениями 1Gb Ethernet с аппаратным ускорением TCP/IP (TCP/IP Offloader) и аппаратной поддержкой виртуализации.
Больше всего от потерь производительности на портах Ethernet страдают бюджетные решения. Не секрет, что сетевые адаптеры 1Gb, распаиваемые на большинстве серверных материнских плат, не предназначены для обслуживания интенсивного сетевого трафика. Даже если на плате есть 2 или 3 порта GbE, они, как правило, реализованы на десктопных чипах. Достаточные для управления, они порождают дополнительные накладные расходы по обслуживанию сетевых обменов, особенно в виртуализированной среде. Весь процесс передачи данных через такой чип обеспечивается за счет ресурсов процессора, оперативной памяти и нагрузки на внутренние шины. Никакого ускорения передачи IP-трафика такие чипы не дают, каждый принимаемый и передаваемый Ethernet-пакет требует отдельного прерывания на процессор. В виртуализированой среде потери производительности сетевого интерфейса могут достигать 25-30%. Самое неприятное, что перегрузки именно сетевого интерфейса средствами мониторинга можно и не заметить. За него отдувается центральный процессор, а если не работает, то простаивает в ожидании ответа от сетевой карты. Порты на десктопных чипах желательно исключить из потока данных в виртуализированных средах, оставив их под задачи управления сервером. Под интенсивный сетевой трафик стоит добавить дискретную сетевую карту на серверном чипсете.
Отказоустойчивость или допустимое время простоя?
Обсуждение производительности серверов почти всегда сопровождается спорами об их надежности. Обеспечение отказоустойчивости всегда требует дополнительных затрат, в особенности при поддержке непрерывных производственных процессов. Не принижая роли и места 1С, можно сказать, что большая частью ее пользователей дилемму «производительность/надежность» решает в разных плоскостях: за первую борются оптимизацией аппаратных решений, за вторую — организацией процессов и процедурами. Когда приложения умеренно критические, основное внимание в поддержании работоспособности уделяют не средствам индивидуальной защиты серверов, а минимизации простоя инфраструктуры в целом.
Разумеется, для предприятий с относительно большим количеством одновременно подключенных пользователей (25-150) и размещением всех приложений на одном сервере обязательно применение источников бесперебойного энергоснабжения, избыточных блоков питания самих серверов, корзин горячей замены дисков и RAID-массивов с горячим резервированием. Но никакие аппаратные средства не заменят планового резервирования самих данных. Имея ежедневный (точнее, еженощный) backup и оперативный файл с Full SQL log, можно полностью восстановить БД 1С за относительно короткий промежуток.
Допустимое время простоя центральной системы 1С для малых и средних предприятий — 1-2 аварии в месяц, продолжительностью 1-4 часа. На самом деле, это огромный запас времени — если к восстановлению быть готовыми заранее. Необходимым условием быстрого рестарта является наличие образов всех виртуальных и физических серверов в виде VM на отдельном хранилище/томе — для восстановления самой инфраструктурной части на резервном сервере. Обязателен ежедневный backup (а также еженедельный и по закрытию периода) на другое физическое устройство и Full SQL log для случаев, когда потеря данных «с начала рабочего дня» критична и трудно восстановима вручную. При наличии подменного оборудования можно уложиться в 1-2 часа для восстановления работоспособности в целом, пусть и с меньшей производительностью. Ну а там, где требуется непрерывность работы 24×7, первоочередными задачами будут выбор соответствующей архитектуры, оборудования с минимальным количеством точек отказа и полноценных технологий кластеризации. Но это уже совсем другая история.
Может быть интересно по этой теме:
Регламентные задачи SQL для 1С
Параметры сервера для работы в 1С
Источник
SSD (,!)
|
.
в магазине ssd для сервера — суперскидки на ssd для сервера на AliExpress
Отличные новости! Вы находитесь в правильном месте для ssd для сервера. К настоящему времени вы уже знаете, что что бы вы ни искали, вы обязательно найдете это на AliExpress. У нас буквально тысячи отличных продуктов во всех товарных категориях. Ищете ли вы товары высокого класса или дешевые и недорогие оптовые закупки, мы гарантируем, что он есть на AliExpress.
Вы найдете официальные магазины торговых марок наряду с небольшими независимыми продавцами со скидками, каждый из которых предлагает быструю доставку и надежные, а также удобные и безопасные способы оплаты, независимо от того, сколько вы решите потратить.
AliExpress никогда не уступит по выбору, качеству и цене.Каждый день вы будете находить новые онлайн-предложения, скидки в магазинах и возможность сэкономить еще больше, собирая купоны. Но вам, возможно, придется действовать быстро, так как этот лучший SSD для сервера в кратчайшие сроки станет одним из самых востребованных бестселлеров. Подумайте, как вам будут завидовать друзья, когда вы скажете им, что получили свой ssd для сервера на AliExpress. Благодаря самым низким ценам в Интернете, дешевым тарифам на доставку и возможности получения на месте вы можете еще больше сэкономить.
Если вы все еще сомневаетесь в выборе SSD для сервера и думаете о выборе аналогичного продукта, AliExpress — отличное место для сравнения цен и продавцов.Мы поможем вам решить, стоит ли доплачивать за высококлассную версию или вы получаете столь же выгодную сделку, приобретая более дешевую вещь. И, если вы просто хотите побаловать себя и потратиться на самую дорогую версию, AliExpress всегда позаботится о том, чтобы вы могли получить лучшую цену за свои деньги, даже сообщая вам, когда вам будет лучше дождаться начала рекламной акции. и ожидаемая экономия.AliExpress гордится тем, что у вас всегда есть осознанный выбор при покупке в одном из сотен магазинов и продавцов на нашей платформе.Реальные покупатели оценивают качество обслуживания, цену и качество каждого магазина и продавца. Кроме того, вы можете узнать рейтинги магазина или отдельных продавцов, а также сравнить цены, доставку и скидки на один и тот же продукт, прочитав комментарии и отзывы, оставленные пользователями. Каждая покупка имеет звездный рейтинг и часто имеет комментарии, оставленные предыдущими клиентами, описывающими их опыт транзакций, поэтому вы можете покупать с уверенностью каждый раз. Короче говоря, вам не нужно верить нам на слово — просто слушайте миллионы наших довольных клиентов.
А если вы новичок на AliExpress, мы откроем вам секрет. Непосредственно перед тем, как вы нажмете «купить сейчас» в процессе транзакции, найдите время, чтобы проверить купоны — и вы сэкономите еще больше. Вы можете найти купоны магазина, купоны AliExpress или собирать купоны каждый день, играя в игры в приложении AliExpress. Вместе с бесплатной доставкой, которую предлагают большинство продавцов на нашем сайте, вы сможете приобрести ssd for server по самой выгодной цене.
У нас всегда есть новейшие технологии, новейшие тенденции и самые обсуждаемые лейблы. На AliExpress отличное качество, цена и сервис всегда в стандартной комплектации. Начните самый лучший шоппинг прямо здесь.
.
קנה ssd для сервера — מבצעים נהדרים של ssd для сервера ב- AliExpress
מבצעים חמים ב- ssd для сервера: העסקאות והנחות המקוונות הטובות ביותר עם ביקורות של לקוחות אמיתיים.
ות טובות! תה נמצא במקום הנכון עבור ssd для сервера. עכשיו אתה כבר יודע את זה, מה שאתה מחפש, אתה בטוח למצוא את זה aliexpress.אנחנו ממש יש אלפי מוצרים מעולים בכל קטגוריות המוצרים. ין אם אתה מחפש high-end תוויות ו זול, כ רכישות בכמות גדולה, אנו מבטיחים כי זה כאן aliexpress. תוכלו למצוא חנויות רשמיות עבור שמות מותגים לצד מוכרים הנחה עצמאית קטנה, כולם מציעים משלוח מהיר ואמיר.
ולם לא יוכה על בחירה, איכות ומחיר.כל יום תוכלו למצוא הצעות חדשות, מקוונות בלבד, הנחות בחנויות והזדמנות לשמור עוד יותר על ידי איסוף קופונים. י ייתכן שיהיה עליך לפעול מהר כמו זה העליון ssd for server מוגדר להיות אחד המבוקשים ביותר המבוקשים ביותר בתוך זמן קצר. תחשוב כמה י אתה חברים יהיה כאשר אתה אומר להם שיש לך ssd для сервера aliexpress. עם ירים הנמוכים ביותר באינטרנט, מחירי משלוח זול ואפשרויות אוסף מקומי, תה יכול לעשות חיסכון גדול עוד יותר.
תה עדיין נמצא בשני מוחות לגבי ssd for server וחושבים על בחירת מוצר דומה, ‘אלכס’ הוא מקום מצוין להשוות מחירים ומוכרים.ו נעזור לך להבין אם זה שווה ת תוספת עבור גירסת high-end או אם אתה מקבל רק עסקה טובה על ידי מקבל ת הפריט זול יותר. Номер и, אם אתה רק רוצה לטפל בעצמך ו להתיז על הגרסה היקרה ביותר, תמיד יהיה תמיד לוודא שאתה יכול לקבל את המחיר הטוב ביותר עבור הכסף שלך, אפילו לתת לך לדעת מתי אתה תהיה טוב יותר מחכה קידום להתחיל, ואת החיסכון שאתה יכול לצפות לעשות.
Aliexpress וקח גאווה ולוודא כי תמיד יש לך בחירה מושכלת כאשר אתה קונה מאחד מאות חנויות ומוכרים על הפלטפורמה שלנו.כל ות ומוכר מדורגות עבור שירות לקוחות, יר ואיכות על ידי לקוחות אמיתיים. וסף אתה יכול למצוא את החנות או דירוגי המוכר הפרט, כמו גם להשוות מחירים, הנחוח והנחות מציעה על ותו וצר על יי רוי רות וצר על יאי רוי רי ר כל רכישה מדורגת בכוכבים ולעתים קרובות יש הערות שנותרו על ידי לקוחות קודמים המתארים את חוויית העסקה שלהם, כך ת י וי. בקיצור, תה לא צריך לקחת את המילה שלנו על זה — רק להקשיב למיליוני לקוחות מאושרים שלנו.
וגם, ת חדש י aliexpress, ו מאפשרים לך על סוד.רק לפני שתלחץ על ‘קנה עכשיו’ בתהליך העסקה, הקדש רגע כדי לבדוק את הקופונים — ותחסוך עוד יותר. תה יכול למצוא קופונים החנות, ופונים aliexpress או שאתה יכול לאסוף קופונים כל יום על ידי משחק ים על יקציה aliexpress. וכפי שרוב המפיצים שלנו מציעים משלוח חינם — אנחנו חושבים שתסכים לכך שאתה מקבל את זה ssd for server באחד המחירים הטובים ביותר באינטרנט.
תמיד יש לנו את הטכנולוגיה העדכנית ביותר, את המגמות החדשות ביותר, ואת התוויות המדוברות ביותר.על aliexpress, איכות מעולה, יר ושירות מגיע כסטנדרט — בכל פעם. התחל את חוויית הקנייה הטובה ביותר שתהיה לך אי פעם, ממש כאן.
.