Cuidado, eso te eliminaría la hoja activa.
Si no tienes una lista muy grande de hojas que deberían estar lo puedes hacer con "OR"s:
Pongamos que quieres quedarte con las hojas con nombre "Hoja1" y "Hoja3":
Esto te eliminaría las hojas que no se llamaran hoja 1 u hoja3. El tema es que te pregunta antes de eliminar la hoja, poniendo:
Application.DisplayAlerts = False
al inicio del código y
Application.DisplayAlerts = True
al final puedes eludir ese problema
Por otro lado, si no quieres que te notifique cada vez que encuentra una hoja que debería estar, puedes quitar el MsgBox
Y veo que dependiendo las hojas que elimines puede darte un error, ya que deja de "mirar" una hoja si se elimina la anterior.
En principio el código definitivo sería (si no se me escapa nada más):
