Sobre los archivos de Configuración

Saludos señores amantes de la tecnología.

Tengo una duda la cual me gustaría conocer su opinion al respecto.

Estoy desarrollando un Aplicación Windows Forms y en la misma tengo algunas
variable de funcionamiento registradas en el archivo App.Config, por ejemplo:
<add key = "MyFunc" value = "true"/>

y si esa linea es true o alguna otra cosa cambia un poco la funcionalidad en
la aplicacion, la misma la llamo con

System.Configuration.ConfigurationSettings.AppSettings["MyFunc"]

y efectivamente me regresa el valor que se almaceno ANTES DE CARGAR LA
APLICACION, ahora son la aplicación montada actualizo el valor de esta
variable y no se modifica si al momento de cargar la aplicacion era true y yo
la cambio por false o por cualquier otra cosa, la línea:

System.Configuration.ConfigurationSettings.AppSettings["MyFunc"]

siempre me devuelve el valor inicial.

A alguno de Uds. les ha pasado esto, será que estoy haciendo algo en forma
no adecuada.

Saludos y gracias de antemano a quien quisiera responder.