La modelisation des reacteurs nucleaires repose sur la resolution de l'equation de Boltzmann lineaire. Nous nous sommes interesses a la resolution spatiale de la forme stationnaire de cette equation. Apres discretisation en energie et en angle, l'equation hyperbolique est resolue numeriquement par la methode des elements finis discontinus. Le solveur MINARET utilise cette methode sur un maillage triangulaire non structure afin de pouvoir traiter des geometries complexes (comprenant entre autres des arcs de cercle). Cependant, l'utilisation d'aretes droites introduit une approximation de la geometrie. Autoriser l'existence d'aretes courbes permet de coller parfaitement a la geometrie, et dans certains cas de diminuer le nombre de triangles du maillage. L'objectif principal de cette these est l'etude d'elements finis sur des triangles possedant un ou plusieurs bords courbes. Le choix des fonctions de base est un des points importants pour ce type d'elements finis. Un resultat de convergence a ete obtenu sous reserve que les triangles courbes ne soient pas trop eloignes des triangles droits associes. D'autre part, un solveur courbe a ete developpe pour traiter des triangles avec un, deux ou trois bords courbes. Une autre partie de ce travail porte sur l'acceleration de la convergence des calculs. En effet, la resolution du probleme est iterative et peut, dans certains cas, converger tres lentement. Une methode d'acceleration dite DSA (Diffusion Synthetic Acceleration) permet de diminuer le nombre d'iterations et le temps de calcul: un calcul de diffusion est ajoute a chaque iteration. L'operateur de diffusion est un preconditionneur de l'operateur de transport. La DSA a ete mise en oeuvre en utilisant une technique issue des methodes de penalisation interieure. Une analyse de Fourier en 1D et 2D permet d'evaluer l'acceleration dans le cas de milieux infinis periodiques et de verifier la stabilite du schema lorsque de fortes heterogeneites existent. (auteur)