Мне дали .rsa - файл для логина с ним по ssh. Куда его запихнуть? )

публичные ключи для тех компов, на которые входить. Положи его в ~/.ssh/id_rsa

Мне дали приватный ключ, вместо публичного?

Скорее всего.
Приватный закинуть в ~/.ssh/ как id_rsa

Тогда должен проходить логин по ключам на «я знаю имя сервера»

man ssh:

-i identity_file
Selects a file from which the identity (private key) for public key authentication is read. The default is ~/.ssh/identity for protocol version 1, and ~/.ssh/id_dsa, ~/.ssh/id_ecdsa and ~/.ssh/id_rsa for protocol version 2. Identity files may also be specified on a per-host basis in the configuration file. It is possible to have multiple -i options (and multiple identities specified in configuration files). ssh will also try to load certificate information from the filename obtained by appending -cert.pub to identity filenames.

Мне дали приватный ключ, вместо публичного?

Да. Публичный на сервере.

$ mv stas_mihalov.rsa ~/.ssh
$ cat <<EOF>> ~/.ssh/config
Host example.com
        User username
        IdentityFile ~/.ssh/stas_mihalov.rsa
EOF
$ slogin example.com

Профит!

Спасибо, профит действительно произошёл.

Так по-проще...

$ cat > ~/.ssh/config
Host example.com
        User username
        IdentityFile ~/.ssh/stas_mihalov.rsa
^D
$slogin example.com

И пререписать предыдущую конфигурацию? Не, так не надо. К тому же мой подход можно просто скопипастить.

И пререписать предыдущую конфигурацию? Не, так не надо.

Ну подумаешь, сделать >> вместо > , делов то...