Size: a a a

SDS и Кластерные FS

2021 January 26

k

kvaps in SDS и Кластерные FS
Кстати @amarao есть в телеге?
источник

k

kvaps in SDS и Кластерные FS
О, есть, прикольно
источник

k

kvaps in SDS и Кластерные FS
Надо бы его сюда пригласить
источник

ВН

Виталий На Заборе... in SDS и Кластерные FS
Там длинно и за деревьями не видно леса, как я уже говорил в цефочате)
источник

ВН

Виталий На Заборе... in SDS и Кластерные FS
Так-то можно упарываться сколько угодно
источник

NS

Nik Sh in SDS и Кластерные FS
Alexander mamahtehok
Не один тест не претендует на правдивость кроме продуктивной нагрузки, такто :)
Вот кстати да, мы как то через blktrace снимали с прода статистику, по ней строили распределение размера блоков и этим уже бенчили.
источник

ВН

Виталий На Заборе... in SDS и Кластерные FS
По длительности теста, по смеси нагрузки, очереди, размеру блока и т.д. и т.п.
источник

ВН

Виталий На Заборе... in SDS и Кластерные FS
Я для себя вот эти 6 граничных режимов установил и их гоняю
источник

G

George in SDS и Кластерные FS
Murmuring
Да, кстати. Как объективно измерить скорость zfs массива ? Кеш должен быть включен или выключен ?
Смотря что измерить хотите, в бенчах нет одного правильного ответа. Полностью отключите ARC - будете мерять worst worst case, который не покажет конечно же производительность при обычной нагрузке. Кеш на мету смысла отключать нет, кеш данных - зависит от вашей нагрузки, по хорошему надо собирать статистику по боевой нагрузке и от неё плясать что вы вообще хотите бенчить.
источник

MA

Madi Anas in SDS и Кластерные FS
Nik Sh
Вот кстати да, мы как то через blktrace снимали с прода статистику, по ней строили распределение размера блоков и этим уже бенчили.
я вот как раз хотел спросить, есть инструмент который снимает характеристики реальной нагрузки, и по ней уже выдает настройки фио :) но думаю не все так просто
источник

G

George in SDS и Кластерные FS
Murmuring
интересно, а дрдб будет пофиг, если на одной ноде raidz к примеру, а на второй raid10?)
работать будет, но перекос по скорости даст о себе знать
источник

t

tsla in SDS и Кластерные FS
kvaps
Кстати @amarao есть в телеге?
Ага, но он вышел же из всех чатов кроме церкви метрик
источник

t

tsla in SDS и Кластерные FS
George
работать будет, но перекос по скорости даст о себе знать
Кстати, ты не юзал zreplica?
источник

N

Nikolay Kulikov in SDS и Кластерные FS
Madi Anas
я вот как раз хотел спросить, есть инструмент который снимает характеристики реальной нагрузки, и по ней уже выдает настройки фио :) но думаю не все так просто
Вопрос в том, откуда снимать реальные данные. esxi может снять реальные scsi trace, которые проходят через vscsi адаптеры - смотри vscsistats https://cormachogan.com/2013/07/10/getting-started-with-vscsistats/
источник

N

Nikolay Kulikov in SDS и Кластерные FS
источник

N

Nikolay Kulikov in SDS и Кластерные FS
Виталий На Заборе
Переслано от Виталий На Заборе
я лично делаю так

fio -ioengine=libaio -name=test -direct=1 -filename=/dev/sdX \
1) -bs=4k -rw=randwrite -iodepth=1 -fsync=1
2) -bs=4k -rw=randwrite -iodepth=128
3) -bs=4M -rw=write -iodepth=16
4) -bs=4k -rw=randread -iodepth=1
5) -bs=4k -rw=randread -iodepth=128
6) -bs=4M -rw=read -iodepth=16

это общий принцип, с диском libaio, с цефом -ioengine=rbd -pool=... -rbdname=...
А откуда взято значение iodepth? Почему именно 16 и 128 (с 1 все понятно)?
источник

ВН

Виталий На Заборе... in SDS и Кластерные FS
Nikolay Kulikov
А откуда взято значение iodepth? Почему именно 16 и 128 (с 1 все понятно)?
Ну типа 128 это вроде макс.размер очереди блокдевайса в линуксе по дефолту, у сата максимум 32, но на нвме бывает нужно побольше. А 16 по 4МБ обычно достаточно, чтобы загрузить диск линейно. Больше уже чуть тест тупить начинает, т.к много памяти выделяется на буферы, а меньше загрузить диск не всегда хватает
источник

k

kvaps in SDS и Кластерные FS
tsla
Ага, но он вышел же из всех чатов кроме церкви метрик
И ансибля
источник

na

nikolay a in SDS и Кластерные FS
blktrace под linux. интересно есть ли что-то аналогичное под win..
источник

na

nikolay a in SDS и Кластерные FS
Виталий На Заборе
Там длинно и за деревьями не видно леса, как я уже говорил в цефочате)
Почему, на мой взгляд автор затронул как вопросы связанные с измерением производительности одного диска с учетом наличия кэшей и понятия линейной нагрузки, так и прошелся по всем параметрам схд которые надо учитывать при организации тестов. причем сделано это языком, понятным достаточно среднему специалисту..
источник