Salut,
Suivant le type de document, c'est un comportement normal : c'est le navigateur (et donc a fortiori le visiteur) qui décide comment sera visualisé le document en lien.
Classiquement, un fichier .html sera simplement affiché. Un document PDF pourra s'ouvrir directement dans le navigateur si celui-ci possède le plugin adéquat. Il pourra aussi être téléchargé, selon les préférences de l'utilisateur. D'une manière générale il est bon de laisser (autant que possible) l'utilisateur choisir comment ils veulent ouvrir les documents qu'on met à leur disposition.
Si tu souhaites simplement ouvrir un fichier html dans une nouvel page (ou un nouvel onglet), il suffit de spécifier "_blank" à l'attribut target :
<a href="document.html" target="_blank">Document</a>
Attention, cet attribut n'est pas conforme XHTML 1.x Strict, mais uniquement Transitional. La solution de la popup JS est, à mon sens, une mauvaise solution, même si elle est tout à fait fonctionnelle : JS utilisé comme ça est intrusif (intrusif car JS impose un comportement au visiteur) ou peut être bloqué par l'utilisateur (par exemple avec l'extension "No Script" pour Firefox).*
Si le document est généré par un script PHP, il faut utiliser un entête particulier pour forcer le téléchargement plutôt que son affichage dans le navigateur :
header('Content-type: application/force-download');
Neige
N'hésitez pas à lire la doc de PHP avant de poser des questions triviales...