Cette these concerne l'etude experimentale et la modelisation thermodynamique du comportement des combustibles avances utilises dans les centrales nucleaires actuelles et de future generation. L'objet de la these est plus precisement l'etude du systeme ternaire (U-Nd-O) et pour comparaison du systeme ternaire (U-Ce-O). Ce systeme est particulierement representatif des produits de fissions accumules dans le combustible pour des taux de combustion eleves mais aussi du dopage initial du combustible avec des poisons neutroniques utilises dans des combustibles a fort taux d'enrichissement en mesure d'espacer les arrets reacteur. L'etude de ce systeme presente des defis importants en raison du conflit ouvert entre phenomenes thermodynamiques et cinetiques. Il s'agit en effet d'un systeme hors equilibre ou la mise en ordre a longue portee des structures locales est frustree par la faiblesse du transport cationique dans la plage de temperatures d'interet pour les applications. Au cours de cette these, une revision de la litterature existante a motive la fabrication d'echantillons aux caracteristiques bien definies par des methodes de metallurgie des poudres et par des methodes de chimie douce aboutissant a un controle des distributions des dopants. Les resultats obtenus par de nombreuses techniques de caracterisation (DRX, MEB, MET, XAS) sur des echantillons traites thermiquement dans des conditions oxydantes ou reductrices ont permis une reevaluation critique des diagrammes de phases actuellement utilises. Nous avons pu proposer des modifications aboutissant a un nouveau diagramme de phases permettant une meilleure connaissance des limites d'utilisation des combustibles dans des conditions de securite optimales