Chaque ministère est dirigé par un ministre. Le ministre dispose d’un pouvoir hiérarchique sur ses services et leur indique ses instructions par des notes, directives ou circulaires. Il n’a pas de pouvoir réglementaire (d'après l'article 37 de la Constitution, le pouvoir réglementaire est réservé au président de la République et au Premier ministre), sauf :
- en tant que chef de service pour organiser son département ;
- ou lorsqu'il doit contresigner des actes du chef de l’État et du Premier ministre dont il doit assurer l’exécution (le Premier ministre peut en effet déléguer un pouvoir réglementaire à un ou plusieurs ministres pour la mise en application d'une loi).
Les services d'un ministère sont répartis entre une administration centrale, le plus souvent localisée à Paris, et des services déconcentrés en région.
Les décrets d’attribution pris après la formation du gouvernement par le Premier ministre déterminent les domaines d’intervention de chaque ministère. Chaque ministère dispose, pour son fonctionnement, de crédits qui lui sont attribués chaque année par la loi de finances.
Le nombre de ministères n’est déterminé ni par la Constitution, ni par la loi. Un décret présidentiel nomme les membres du gouvernement. Leur nombre varie en fonction de critères politiques (un ministre peut être chargé à la fois de l’économie et du budget, ou seulement du budget, par exemple) ou des priorités du gouvernement.
Ainsi, la création d’un ministère ou d'un secrétariat d’État (qui correspond au dernier niveau hiérarchique des ministères) peut mettre en valeur un objectif du gouvernement : en 1974, un secrétariat d’État à la condition féminine est créé pour la première fois, par exemple.
L'appellation du ministère peut aussi refléter le volontarisme politique du gouvernement. Les ministères dits "régaliens" (justice, défense, affaires étrangères) changent moins souvent de dénomination.