Hola Javier:
Pues efectivamente, en casos específicos se usan otros modos, entendiendo como tal el uso de los diferentes doctypes para HTML 4, XHTML, etc.
¿Cuándo? Te cuento desde mi más cerrada perspectiva pues es desde mi experiencia donde puedo indicarte:
- Empresas u organismos con aplicaciones web cuyas vistas están totalmente adaptadas a Internet Explorer 6... sic! Aún a día de hoy.
- Lo mismo, si bien no están hechas para IE 6, si que utilizan APPLETS (otra vez, sin comentarios) o tienen requerimientos que usan etiquetas de otros doctypes de HTML. Y no, no pretenden evolucionar; quieren seguir manteniéndose así por X motivos.
- Lo mismo, en este caso porque tienen una orientanción muy concreta a XML por el uso, obligado, de ciertos estándares: aquí cito XHTML.
- Aplicaciones web o scripts cuya lógica debe tener en cuenta etiquetas de esos otros modos...
Como sacas en conclusión: ocasiones en que no se quiere evolucionar o escalar y mantienen productos o servicios, digamos obsoletos.
Sin embargo, como ya sabes, no es lo adecuado. El uso adecuado de HTML 5 es el que debemos usar siempre porque el uso de otros modos es fuente de problemas antes o después. Saludos.