openssl smime -sign -binary \
-signer sert.cer -inkey key.pem -outform PEM \
-in file.txt -out file.txt.sig
Можно было бы и не париться, да вызывать эту команду через subprocess, но проблема в том, что ключ требует пароля.
Как перевести эту команду в скрипт на питоне с использованием PyOpenSSL (или его вообще не стоит использовать) документация у него совсем уж никакая: http://pyopenssl.sourceforge.net/