Les transitions de phase sont des phenomenes communs a tous les systemes en interaction. Pour des systemes infinis, elles sont bien decrites par la thermodynamique mais celle-ci ne peut plus etre utilisee pour des petits systemes comme le noyau de l'atome. Nous proposons dans cette these une approche de mecanique statistique, afin d'extraire les caract6ristiques thermodynamiques des petits systemes ouverts et soumis a des forces non saturantes. Nous nous concentrons en particulier sur la definition et la mise en evidence pour de tels systemes d'une transition de phase de type liquide gaz. Nous definissons des observables theoriques et experimentales qui permettent de signer sans ambiguite la presence et l'ordre de la transition. Une observable pertinente et accessible experimentalement est la fluctuation d'energie cinetique, pour une valeur fixee de l'energie totale. Nous verifions qu'a l'interieur de la zone de coexistence, ces fluctuations deviennent anormalement grandes et s'accompagnent de comportements pseudo critiques pour la distribution en taille des fragments. Nous obtenons ces resultats dans le cadre du modele du gaz sur reseau, avec un hamiltonien de plus proches voisins. Afin de completer cette etude, nous analysons le comportement des observables lorsque les interactions sont a longue portee. Nous nous concentrons sur la problematique nucleaire en considerant l'effet des interactions coulombiennes. Enfin nous abordons en perspectives des points specifiques a la physique nucleaire: le role de l'isospin et des effets quantiques. (auteur)