En mi caso, cuando se me presenta ese caso que describís, al guardar,lo único que hago es reemplazar la coma por un punto:
this.miTextbox.Text.Replace(',', '.')
Funciona en ambos casos, ya que si existe la coma, la cambia y si no, no hace nada.
Obviamente que existen otras validaciones de formato pero basicamente, eso es lo que hago para poder guardar sin problemas.
Un saludo