Судя по этому логу.. проблема была в том что RsaProtectedConfigurationProvider по умолчанию использовал useMachineContainer="true" и пытался еще раз создать существующий ключ... все попытки создать пользовательского провайдера по примерам из MSDN и интернета ... приводили к сообщением System.Configuration not found или RsaProtectedConfigurationProvider.dll not found ...

проблему удалось решить следующим образом:

<configProtectedData defaultProvider="MyProtectionProvider">
        <providers>
            <add name="MyProtectionProvider" type="System.Configuration.RsaProtectedConfigurationProvider"
        keyContainerName="SampleKeys" 
        useMachineContainer="false"/>
        </providers>

Здесь почему то он все сразу нашел и заработал

P.S. как выяснислось ClickOnce тут не при чем