La comprehension des processus conduisant a la formation des etoiles est l'un des enjeux majeurs de l'astrophysique contemporaine. Au sein des nuages conduisant a la formation d'etoiles, les conditions de temperature, pression, etc... sont telles qu'il est impossible de les reproduire par l'experience. C'est pourquoi la simulation numerique reste le seul moyen d'etudier les phenomenes physiques intervenant dans le processus de formation des etoiles et ainsi de verifier la theorie. Ma these est axee autour des methodes numeriques utilisees dans le contexte de la formation d'etoiles, phenomene multi-echelles et hautement non-lineaire, necessitant l'utilisation d'outils bien adaptes. Dans cette these autour de l'etude des premieres phases de l'effondrement de coeurs denses prestellaires, mon travail s'est divise en 4 parties liees. Dans une premiere etude, j'ai utilise un code lagrangien 1D a symetrie spherique (Audit et al. 2002) pour comparer plusieurs modeles traitant plus ou moins precisement le transfert radiatif et l'interaction matiere-rayonnement. Cette comparaison est basee sur des calculs simples d'effondrement gravitationnel conduisant a la formation du premier coeur de Larson. J'ai aussi tire benefice de ce premier travail pour etudier les proprietes du choc d'accretion sur le premier coeur de Larson. Nous avons developpe un modele semi-analytique permettant de reproduire les proprietes de saut au choc en partant d'hypotheses bien connues. Ayant valide les methodes utilisees precedemment, nous avons retenu l'approche de diffusion a flux limite que j'ai ensuite integree avec les equations de l'hydrodynamique radiative dans le code AMR RAMSES (Teyssier 2002). Apres validation des schemas implementes, nous avons utilise RAMSES pour realiser des effondrements multidimensionnels avec champ magnetique et transfert radiatif. Nous avons ainsi realise les premieres simulations combinant les effets du champ magnetique et du transfert radiatif aux petites echelles avec une grande precision. Nos resultats montrent que le transfert radiatif a un impact significatif sur la fragmentation au cours de l'effondrement des coeurs denses prestellaires. Enfin, j'ai realise une comparaison du code RAMSES (approche eulerienne) et du code SPH DRAGON (Goodwin 2004, approche lagrangienne). Nous avons etudie l'impact de la resolution numerique sur la conservation du moment angulaire et la fragmentation. Nous avons montre qu'en utilisant des criteres de resolution forts et bien superieurs aux criteres usuels de la litterature, les deux outils convergent et semblent donc bien adaptes a la formation d'etoiles. (auteur)