trata de eliminar el mensaje ON_WM_KEYPRESS, ademas de que puedes comentar el codigo CDialog::OnKeyPress. Esto, claro, asumiendo que estas trabajando con MFC.
si estas trabajando con Raw-C++ y el API de Windows, pues cancela el bucle de mensajes de ese dialogo. Es decir, dentro de tu sentencia switch debe(ria)s tener algo asi:
// ...
switch (nMensaje)
{
case WM_PAINT:
// ... hacer algo
break;
case WM_INITDIALOG:
// ... hacer algo
break;
// ... etcetera
case WM_KEYPRESS
if (lparam == VKESC)
this->EndDialog(0);
// ...demas cosas
break;
// ...otros mensajes
default:
break;
}
en este caso, tendrias que comentar la parte de case WM_KEYPRESS.
La ultima opcion, es que no declares la propiedad WS_POPUP dentro de tu archivo de recurso.
saludos.