Suponhamos que exista duas máquinas, um cliente e um servidor:

1) ambas devem estar com ssh daemon ativo.

2) cliente acessa servidor
Na máquina cliente digite os comandos:

ssh-keygen

Não digite nada no que se pede, apenas tecle <enter>

scp ~/.ssh/id_rsa.pub usuario_ou_root@ip_servidor:~/.ssh/authorized_keys

Para acessar:

ssh usuario_ou_root@ip_servidor

3) servidor acessa cliente:

Na máquina servidor digite os comandos:

ssh-keygen

Não digite nada no que se pede, apenas tecle <enter>

scp ~/.ssh/id_rsa.pub usuario_ou_root@ip_cliente:~/.ssh/authorized_keys

Para acessar:

ssh usuario_ou_root@ip_cliente

Se tudo estiver ok, nao pedira nem senha nem palavra chave.