Size: a a a

Ceph — русскоговорящее сообщество

2020 March 30

DP

Dmitry Polyakov in Ceph — русскоговорящее сообщество
Алексей [PEBHOCTb] Sarov
десктопный же только
и то в бете
источник

АS

Алексей [PEBHOCTb] Sarov in Ceph — русскоговорящее сообщество
Не, говорят все. Пошел везде растекаться
источник

b

bykva in Ceph — русскоговорящее сообщество
Господа, доброго дня. Подскажите, я правильно понимаю что выделенная изолированная сеть (ака приват нетворк) - нужна только для osd и включать в нее менеджеров, мониторов итп не нужно?
источник

А🐎

Александр 🐎 in Ceph — русскоговорящее сообщество
bykva
Господа, доброго дня. Подскажите, я правильно понимаю что выделенная изолированная сеть (ака приват нетворк) - нужна только для osd и включать в нее менеджеров, мониторов итп не нужно?
Ага
источник

b

bykva in Ceph — русскоговорящее сообщество
благодарочка
источник
2020 March 31

ag

andrew goussakovski in Ceph — русскоговорящее сообщество
Коллеги а есть какой-нить способ посмотреть активность по пулам ?
источник

k

k0ste in Ceph — русскоговорящее сообщество
andrew goussakovski
Коллеги а есть какой-нить способ посмотреть активность по пулам ?
ceph osd pool stats чем не катит?
источник

N

Nikolai in Ceph — русскоговорящее сообщество
привет всем. столкнулся с проблемой подключения ceph в качестве PersistentVolume в kubernetes
использую https://github.com/ceph/ceph-csi/tree/master/examples/rbd
на выхоже имею ошибку при попытке создать PVC, потому что PV так и не создался
 Normal  Provisioning          14s (x9 over 2m22s)   rbd.csi.ceph.com_csi-rbdplugin-provisioner-6956bdfdf9-sdsjn_7881a09b-8615-48fb-a3e4-f3bb36e366c2  External provisioner is provisioning volume for claim "default/rbd-pvc"
 Normal  ExternalProvisioning  11s (x11 over 2m22s)  persistentvolume-controller                                                                       waiting for a volume to be created, either by external provisioner "rbd.csi.ceph.com" or manually created by system administrator


может кто-нибудь сталкивался ? К слову через UI Rancher прекрасно получилось создать PV
источник

ag

andrew goussakovski in Ceph — русскоговорящее сообщество
мне пришлось ставить какой-то кастомный провиженер
источник

AS

Alexey Shanko in Ceph — русскоговорящее сообщество
Nikolai
привет всем. столкнулся с проблемой подключения ceph в качестве PersistentVolume в kubernetes
использую https://github.com/ceph/ceph-csi/tree/master/examples/rbd
на выхоже имею ошибку при попытке создать PVC, потому что PV так и не создался
 Normal  Provisioning          14s (x9 over 2m22s)   rbd.csi.ceph.com_csi-rbdplugin-provisioner-6956bdfdf9-sdsjn_7881a09b-8615-48fb-a3e4-f3bb36e366c2  External provisioner is provisioning volume for claim "default/rbd-pvc"
 Normal  ExternalProvisioning  11s (x11 over 2m22s)  persistentvolume-controller                                                                       waiting for a volume to be created, either by external provisioner "rbd.csi.ceph.com" or manually created by system administrator


может кто-нибудь сталкивался ? К слову через UI Rancher прекрасно получилось создать PV
А логи у провижионера есть? А то же не едиными эвентами можно обходиться
источник

N

Nikolai in Ceph — русскоговорящее сообщество
╰ kubectl get pv --all-namespaces -o wide
No resources found
╰ kubectl get pvc --all-namespaces -o wide
NAMESPACE   NAME                            STATUS    VOLUME   CAPACITY   ACCESS MODES   STORAGECLASS   AGE    VOLUMEMODE
default     rbd-pvc                         Pending                                      csi-rbd-sc     90s    Filesystem
источник

N

Nikolai in Ceph — русскоговорящее сообщество
I0331 15:32:03.961881       1 controller.go:1199] provision "default/ceph-rbd-pvc" class "ceph-rbd": started
W0331 15:32:03.965791       1 controller.go:443] "fstype" is deprecated and will be removed in a future release, please use "csi.storage.k8s.io/fstype" instead
I0331 15:32:03.965817       1 controller.go:494] CreateVolumeRequest {Name:pvc-22e2ca16-5b0c-4c29-a3ba-9e7d5325c498 CapacityRange:required_bytes:1073741824  VolumeCapabilities:[mount:<fs_type:"ext4" > access_mode:<mode:SINGLE_NODE_WRITER > ] Parameters:map[clusterID:00f829de-9c40-4a0b-b8f2-8e270d3bded7 csi.storage.k8s.io/node-stage-secret-name:csi-rbd-secret csi.storage.k8s.io/node-stage-secret-namespace:default csi.storage.k8s.io/provisioner-secret-name:csi-rbd-secret csi.storage.k8s.io/provisioner-secret-namespace:default fsType:ext4 imageFeatures:layering imageFormat:2 monitors:10.30.3.68:6789,10.30.3.68:6789:6789,10.30.3.68:6789:6789 pool:rbd userId:kubernetes] Secrets:map[] VolumeContentSource:<nil> AccessibilityRequirements:<nil> XXX_NoUnkeyedLiteral:{} XXX_unrecognized:[] XXX_sizecache:0}
I0331 15:32:03.966014       1 event.go:255] Event(v1.ObjectReference{Kind:"PersistentVolumeClaim", Namespace:"default", Name:"ceph-rbd-pvc", UID:"22e2ca16-5b0c-4c29-a3ba-9e7d5325c498", APIVersion:"v1", ResourceVersion:"5971213", FieldPath:""}): type: 'Normal' reason: 'Provisioning' External provisioner is provisioning volume for claim "default/ceph-rbd-pvc"
I0331 15:32:03.969014       1 connection.go:180] GRPC call: /csi.v1.Controller/CreateVolume
I0331 15:32:03.969047       1 connection.go:181] GRPC request: {"capacity_range":{"required_bytes":1073741824},"name":"pvc-22e2ca16-5b0c-4c29-a3ba-9e7d5325c498","parameters":{"clusterID":"00f829de-9c40-4a0b-b8f2-8e270d3bded7","fsType":"ext4","imageFeatures":"layering","imageFormat":"2","monitors":"10.30.3.68:6789,10.30.3.68:6789:6789,10.30.3.68:6789:6789","pool":"rbd","userId":"kubernetes"},"secrets":"***stripped***","volume_capabilities":[{"AccessType":{"Mount":{"fs_type":"ext4"}},"access_mode":{"mode":1}}]}
I0331 15:32:05.022841       1 connection.go:183] GRPC response: {}
I0331 15:32:05.023633       1 connection.go:184] GRPC error: rpc error: code = Internal desc = failed to get IOContext: failed to get connection: connecting failed: rados: ret=1, Operation not permitted
I0331 15:32:05.023700       1 controller.go:1016] Final error received, removing PVC 22e2ca16-5b0c-4c29-a3ba-9e7d5325c498 from claims in progress
W0331 15:32:05.023715       1 controller.go:887] Retrying syncing claim "22e2ca16-5b0c-4c29-a3ba-9e7d5325c498", failure 9
E0331 15:32:05.023740       1 controller.go:910] error syncing claim "22e2ca16-5b0c-4c29-a3ba-9e7d5325c498": failed to provision volume with StorageClass "ceph-rbd": rpc error: code = Internal desc = failed to get IOContext: failed to get connection: connecting failed: rados: ret=1, Operation not permitted
I0331 15:32:05.023961       1 event.go:255] Event(v1.ObjectReference{Kind:"PersistentVolumeClaim", Namespace:"default", Name:"ceph-rbd-pvc", UID:"22e2ca16-5b0c-4c29-a3ba-9e7d5325c498", APIVersion:"v1", ResourceVersion:"5971213", FieldPath:""}): type: 'Warning' reason: 'ProvisioningFailed' failed to provision volume with StorageClass "ceph-rbd": rpc error: code = Internal desc = failed to get IOContext: failed to get connection: connecting failed: rados: ret=1, Operation not permitted
источник

N

Nikolai in Ceph — русскоговорящее сообщество
вот полный выхлоп. креды проверял они рабочие, права тоже достаточные
источник

AS

Alexey Shanko in Ceph — русскоговорящее сообщество
Может с воркеров на уровне сети нет доступа?
источник

ag

andrew goussakovski in Ceph — русскоговорящее сообщество
а в логах на системы на воркере кстати нет ругани на различие поддерживаемых фич цефом?
источник

N

Nikolai in Ceph — русскоговорящее сообщество
Alexey Shanko
Может с воркеров на уровне сети нет доступа?
доступ есть и с воркеров и из самого кластера, Это я тоже проверял
источник

N

Nikolai in Ceph — русскоговорящее сообщество
andrew goussakovski
а в логах на системы на воркере кстати нет ругани на различие поддерживаемых фич цефом?
не понял вопроса, можешь пояснить, пожалуйста ?
источник

ag

andrew goussakovski in Ceph — русскоговорящее сообщество
Nikolai
не понял вопроса, можешь пояснить, пожалуйста ?
в dmesg чисто?
источник

N

Nikolai in Ceph — русскоговорящее сообщество
andrew goussakovski
в dmesg чисто?
да
источник

N

Nikolai in Ceph — русскоговорящее сообщество
открывал на режим чтения и в процессе пытался создавать PVC
источник