Dans cette these, nous nous interessons a la resolution des equations SPN du transport de neutrons au sein des coeurs de reacteurs nucleaires a eau pressurisee. Ces equations forment un probleme aux valeurs propres generalise. Dans notre etude nous commencons par le probleme source associe et ensuite nous etudions le probleme aux valeurs propres. Un coeur de reacteur est compose de differents milieux: le combustible, le fluide caloporteur, le moderateur... a cause de ces heterogeneites de la geometrie, le flux solution du probleme source peut etre peu regulier. Nous proposons l'analyse numerique de l'approximation de la solution par la methode des elements finis du probleme source dans le cas ou la solution est peu reguliere. Pour le probleme aux valeurs propres, dans le cas mixte, les theories deja developpees ne s'appliquent pas. Nous proposons ici une nouvelle methode pour etudier la convergence de la methode des elements finis mixtes pour les problemes aux valeurs propres. Pour les solutions peu regulieres, la montee en ordre de la methode des elements finis n'ameliore pas l'approximation du probleme, il faut raffiner le maillage aux alentours des singularites de la solution. La geometrie des coeurs de reacteur se prete bien aux maillages cartesiens, mais leur raffinement augmente vite leur nombre de degres de liberte. Pour pallier a cette augmentation, nous proposons ici une methode de decomposition de domaine qui permet d'utiliser des maillages globalement non-conformes. (auteur)