Les Austrasiens, maintenant dirigés par un nouveau maire du palais, Pépin de Herstal, petit-fils de Pépin de Landen et d'Arnoul de Metz, tentent de se se révolter mais ils sont battus par l'armée d'Ébroïn et Thierry III. En 680, Ébroïn est assassiné et sa mort cause un renversement de situation dans le royaume des Francs avec la montée en puissance de l'Austrasie et de Pépin de Herstal. En 687, Pépin de Herstal devient le maître incontesté du royaume en vainquant à Tertry l'armée neustrienne. Thierry III demeure toutefois roi des Francs du territoire unifié mais est dépourvu de tout pouvoir et est complètement soumis à l'autorité de Pépin, une situation qui est souvent considérée comme le début de la période des « rois fainéants ». Lorsque Thierry III mourra en 691, ses descendants qui lui succéderont seront également sous le contrôle de Pépin. Entre 709 et 712, Pépin étend également son pouvoir à l'extérieur du royaume en plaçant les Alamans sous sa domination.
En 714, Pépin de Herstal meurt et la suprématie du parti austrasien s'en trouve fragilisée. Le nouveau maire du palais de Neustrie, Rainfroi, y voit l'occasion d'organiser un soulèvement avec l'aide des Frisons, des Saxons et des Aquitains contre la veuve de Pépin, Plectrude, et finit par placer un nouveau roi, Chilpéric II, à la tête du royaume des Francs. Les Austrasiens reprennent toutefois rapidement l'initiative par les interventions d'un des fils de Pépin, Charles Martel, qui était pressenti pour succéder à son père à la mairie du palais d'Austrasie mais que Plectrude, qui n'est pas sa mère naturelle, avait tout fait pour l'en éloigner. Charles Martel, qui est à la tête d'une révolte austrasienne, vainc l'armée de Rainfroi et Chilpéric II lors de batailles à Amblève en 716, et à Vinchy en 717. Il devient alors maire du palais et l'homme le plus puissant dans tous les territoires du royaume des Francs. Chilpéric II, qui demeure roi, et les autres rois nommés ultérieurement après sa mort en 721 n'ont désormais plus qu'un rôle accessoire au service de Charles Martel.