Hola Israel!
Para comenzar te recomiento que consigas las eMbedded Visual Tools que es una herramienta para el desarrollo de aplicaciones en Windows Ce. Con las "eVT" viene el Visual Basic y el Visul C++, asi que podes optar por cualquiera de estos lenguajes para desarrollar tu aplicacion. Ademas, incluye emuladores para HandHeld PC, Pocket PC y Palm size, que te permitiran desarrollar y testear tus aplicaciones aunque no tengas el dispositivo. Para correr las eVt necesitaras tener instalado el Windows NT server with service pack 5.1 o el Windows 2000. Si decidis desarrollar en eMbedded Visual Basic hay un sitio www.devBuzz.com que tiene bastantes ejemplos.
Suerte!
Saludos desde MardelPlata...