Hola
Me gustaria ver el codigo, ya que la function de javascript window.open siempre a abierto una ventana nueva, ahora..... si tu asignas a el parametro name del method Open el nombre de la actual ventana o le das los siguientes valores : "_Self" o "_top" ( _Top sin frames es lo mismo que _Self) etc si abrira en la misma ventana, asi que revisa el codigo o ponlo aqui para ver que valor le pasas a el method Open del objecto Window en su parametro name ya que la definicion del method es la siguiente:
window.Open( [sUrl] , [,sName] [,sFeatures][,bReplace])
Saludos
Victor Collado