С письмами/почтой я не работал, но вот SMIME в рамках AS2 (RFC 4130, SMIME через HTTP) работал достаточно много.
Что касается твоей проблемы, то мест где можно сделать ошибку, которая приведет к "нечитабельности" результата просто куча.
Дальше тезисами:
Во-первых, я думаю, что чтобы Outlook понимал такие письма, подписи должны быть detached.
Во-вторых, наверное стоит отложить пока Outlook в сторону и написать свою пограммку для расшифровки того, что получается после шифрования и проверки твоих же подписей. Много интересного можно найти.. А еще лучше — это дополнительно найти стороннюю работающую программку для сверки результатов и контроля interoperability.
Да, кстати, CAPICOM мне не понравился и я работал с pkcs-7(CMS) из System.Security.Cryptography.Pkcs, .Net 2.0.
Больше пока ничем другим помочь не могу, да и писал не на C#, а на APL.NET.
данное сообщение получено с www.gotdotnet.ru
ссылка на оригинальное сообщение