Malgre d'importants progres, la tolerance des tissus sains aux rayonnements demeure un facteur central en radiotherapie, limitant par exemple l'efficacite du traitement des gliomes de haute grade. La proton therapie avec mini-faisceaux (proton minibeam radiation therapy, pMBRT) est une nouvelle strategie therapeutique qui a pour objectif d'ameliorer la preservation des tissus sains en combinant les avantages balistiques des protons et le fractionnement spatial de la dose obtenu avec des faisceaux submillimetriques. Dans ce contexte, la pMBRT a deja demontre sa capacite a augmenter l'index therapeutique dans le traitement des tumeurs cerebrales de rats. Un defi important est la generation des minifaisceaux dans un cadre clinique: contrairement a la radiotherapie conventionnelle qui utilise des faisceaux larges (diametre d'environ 5 mm a plusieurs centimetres), les mini-faisceaux se caracterisent par un diametre de moins d'un millimetre. Actuellement, la generation des minifaisceaux de protons est realisee a l'aide de collimateurs mecaniques (blocs en metal avec plusieurs fentes ou trous) ce qui comporte plusieurs inconvenients (notamment une tres faible flexibilite, une reduction importante du debit de dose ainsi que la generation de particules secondaires indesirables). Une solution optimale pourrait etre la generation des mini-faisceaux par focalisation magnetique. Il en decoule la question principale traitee dans cette these: Comment la generation des mini-faisceaux de protons par focalisation magnetique peut-elle etre realisee dans un cadre clinique? En utilisant le modele numerique d'un pencil beam scanning nozzle (le 'nozzle' est la derniere partie d'une ligne de faisceau clinique), il a ete demontre que les nozzles actuels ne sont pas adequats pour focaliser les faisceaux de protons a la taille requise, les principales raisons etant une distance focale trop grande et une presence d'air excessive. En partant de ces conclusions, un nouveau design de nozzle optimise a ete developpe. Ce nouveau modele est capable de generer des mini-faisceaux de protons par focalisation magnetique dans des conditions realisables avec les technologies existantes. Une etude Monte Carlo a egalement ete menee afin de comparer et de quantifier les differences entre la generation de mini-faisceaux par collimation mecanique et par focalisation magnetique. Dans un second temps, cette these presente une evaluation des ions d'helium comme alternative aux protons pour la radiotherapie avec mini-faisceaux. Il a pu etre demontre que les ions d'helium peuvent etre un bon compromis en offrant certains des avantages dosimetriques observes avec les ions lourds sans les risques de toxicite associes. (auteur)