Principe du droit à vivre séparé.

A. L'époux R., né le 12 mars 1959, a épousé, le 15 novembre 2002, l'épouse R., de nationalité marocaine, née en 1973. Aucun enfant n'est issu de cette union. Le 14 novembre 2003, l'époux R. a adressé une requête de mesures protectrices de l'union conjugale au président du Tribunal civil du district de La Chaux-de-Fonds en concluant au prononcé de la séparation des époux pour une durée indéterminée, à l'attribution à lui-même du domicile conjugal et à la fixation d'un délai raisonnable à l'épouse pour quitter celui-ci en emportant avec elle les biens nécessaires à l'organisation d'une vie séparée et ses effets personnels; sur le plan financier, le mari donnait acte à l'épouse qu'il était d'accord que la rente complémentaire AI de 491 francs par mois en faveur de cette dernière lui soit directement versée par la caisse de compensation. Le mari faisait valoir qu'il devait constater l'échec de l'union conjugale en raison notamment de la langue, de la culture et des mentalités totalement différentes entre les conjoints ainsi que du fait que l'épouse ne savait pratiquement rien faire sur le plan des tâches ménagères et manifestait beaucoup de mauvaise volonté dans ce domaine. Il invoquait des scènes de violence verbale entre les époux et ajoutait que, de santé psychique fragile, il ne supportait plus cette atmosphère conjugale tendue qui le rendait déprimé. Une audience de débats sur la requête précitée a été appointée au 3 février 2004. Cependant, avant même la tenue de l'audience, les parties ont adressé une lettre commune au juge sollicitant la suspension de la procédure, à mesure qu'elles entendaient s'accorder un délai de réflexion avant de décider d'une rupture définitive ou provisoire. La procédure a ainsi été suspendue depuis le 30 janvier 2004. Le 7 juillet 2005, le président a demandé aux parties si le dossier pouvait être classé et leur a fixé à cet effet un délai pour observations échéant au 16 août 2005. Les parties ont sollicité le report de ce délai au 1er octobre 2005. Plus rien ne s'est passé jusqu'au 27 avril 2006, date à laquelle l'avocat du mari a sollicité la reprise de la procédure en confirmant les conclusions prises dans la requête de mesures protectrices de l'union conjugale du 14 novembre 2003. Lors de l'audience du 6 juin 2006, l'épouse a conclu, par son mandataire, principalement au rejet de la requête et, subsidiairement, elle a pris les conclusions suivantes :

"1. admettre que les parties peuvent répartir entre elles le mobilier qui garnit l'appartement.

2. attribuer celui-ci à l'épouse.

3. condamner le mari à verser à cette dernière une contribution d'entretien mensuelle de Fr. 1'500.--.

4. sous suite de frais et dépens."

Le mari a conclu par son mandataire au rejet des conclusions précitées.

B. Par ordonnance de mesures protectrices de l'union conjugale rendue le 2 août 2006, le président du Tribunal civil a rejeté la requête; il a mis les frais judiciaires à la charge du mari et condamné celui-ci à verser une indemnité de dépens de 700 francs en faveur de l'épouse. L'ordonnance relève que les époux vivent ensemble, malgré les difficultés alléguées par le mari en novembre 2003, date de la requête, que la vie commune n'est donc pas absolument insupportable et que cette conclusion s'impose d'autant plus que l'époux, pour justifier son maintien dans l'appartement, invoque l'argument de la proximité avec le domicile de sa mère, qui aurait besoin de ses visites fréquentes. Le juge ajoute que si la santé psychique du mari était gravement menacée par le comportement de l'épouse, il aurait sans aucun doute choisi de s'installer ailleurs en ville, à une distance raisonnable. Le juge retient par ailleurs que le certificat médical déposé atteste certes d'états anxio-dépressifs "imposants" chez le mari mais n'établit pas que ceux-ci seraient dus au comportement de l'épouse puisque le médecin ne fait que transcrire les explications de son patient. En outre, poursuit le juge, cette attestation émane d'un généraliste, ce qui semble indiquer que le requérant n'a pas estimé sa situation suffisamment grave pour s'adresser à un spécialiste, psychologue ou psychiatre. Le juge conclut que les conditions d'un refus de la vie commune ne sont pas réalisées en l'espèce d'autant plus que les époux n'ont pas d'enfant qu'il s'agirait de protéger d'un éventuel conflit.

C. L'époux R. se pourvoit en cassation contre cette ordonnance en invoquant l'arbitraire dans la constatation des faits et l'abus du pouvoir d'appréciation, ainsi que la fausse application du droit, plus particulièrement de l'article 175 CC, au sens de l'article 415 CPC. Il fait valoir que le premier juge a écarté de manière choquante le certificat médical établi le 9 juin 2006, qu'il a retenu à tort que les problèmes d'ordre anxio-dépressifs auraient dû être appréciés par un spécialiste et qu'il est allé au-delà des exigences légales posées par l'article 175 CC en négligeant l'impact des problèmes conjugaux sur sa santé et en considérant à tort que cette disposition légale exigerait que la vie commune soit devenue "absolument insupportable".

D. Le président du Tribunal civil du district de La Chaux-de-Fonds ne formule pas d'observations. Dans les siennes, l'intimée conclut au rejet du recours.