1) генерируешь себе свою пару ключей
ssh-keygen
на выходе получаешь закрытый ключ который никогда и никому не показываешь и открытый содержимое которого копируешь везде куда хочешь ходить по ssh в
/home/USERNAME/.ssh/authorized_keys и в /root/.ssh/authorized_keys соответственно
2) настраиваешь ssh сервер на всех интересующих тебя нодах
чаще всего это файл /etc/ssh/sshd_config
в нём тебя щас больше всего инересуют две директивы:
PasswordAuthentication no
PubkeyAuthentication yes
3) настраиваешь свой конфиг клиента
~/.ssh/config для своего пользователя или /etc/ssh/ssh_config для всех пользователей тачки
там всё просто
Host blablabla
User root
Hostname 192.168.XXX.YYY
/home/USER/SECRETDIR//keys/id_rsa_work
Host *
ForwardAgent yes
IdentityFile /home/username/.ssh/id_rsa
ForwardX11 yes
ForwardX11Trusted yes
Port 22
Protocol 2
ControlMaster auto
ControlPath /run/user/1000/ssh-%r@%h:%p
AddKeysToAgent yes
Compression yes
#StrictHostKeyChecking no
StrictHostKeyChecking accept-new
он работает по принципу первого совпадения так что Host * и всё что после него должны быть всегда в конце файла
