Ces services se situent à mi-chemin entre les administrations centrales et les administrations déconcentrées. En effet, il s’agit de services dont les attributions ont un caractère national – à la différence des services déconcentrés –, et dont l’exécution ne peut être déléguée à un échelon territorial. Mais ils se distinguent également des services centraux, car leurs missions ont un "caractère opérationnel" et, pour ceux placés sous l’autorité d’un ministre, ils bénéficient d’une certaine autonomie.

Les services à compétence nationale ont été mis en place par le décret du 9 mai 1997 (modifié par le décret du 30 juillet 2008) dans un souci de réorganisation de l’administration. Le texte venait modifier la loi du 6 février 1992 relative à l’administration territoriale de la République, qui ne distinguait que deux types d’administrations : les administrations centrales et déconcentrées. Ils ont été envisagés comme des outils permettant d’assumer des missions de conception, d’animation et d’évaluation des politiques publiques.

Ainsi, ils remplissent des fonctions de gestion, d’études techniques, des activités de production de biens ou de prestations de services. On peut citer les Archives nationales depuis le 1er janvier 2007.