Les institutions désignées par l'expression "grands corps" exercent principalement des missions de contrôle (les inspections générales, par exemple) ou des missions d'ordre juridictionnel (le Conseil d'État ou la Cour des comptes, par exemple). Malgré leur grande diversité, les grands corps de l'État présentent des caractéristiques communes qui les distinguent des autres corps de la fonction publique :
- leur ancienneté et leur présence au sommet de l'État : pour nombre d'entre eux, les grands corps ont été constitués à la période révolutionnaire. Cela explique leur importante légitimité symbolique. Leurs membres sont très présents dans les cabinets ministériels ;
- leur très forte autonomie, longuement acquise, et leur autorité sur l'ensemble des institutions. Grâce aux grands corps, l'État se juge, se contrôle et s'évalue lui-même.
Les voies qui mènent aux grands corps sont peu nombreuses et particulièrement sélectives, ce qui peut contribuer à la cohésion de leurs membres. Des critiques dénoncent une homogénéité des fonctionnaires des grands corps (même origine sociale, même origine géographique, même formation).
On distingue traditionnellement les grands corps techniques, recrutés majoritairement à l’École Polytechnique, des grands corps administratifs, issus de l’Institut national du service public (INSP qui a remplacé l'ENA).
Les quatre grands corps techniques sont les suivants :
- le corps des ingénieurs des Ponts et Chaussées, dont la naissance remonte à l’Ancien Régime. Sa mission principale est la direction de grands travaux de construction et de génie civil réalisés pour le compte de l’État ou des collectivités territoriales. Il relève principalement des ministères en charge du transport, du logement, de l'aménagement du territoire, etc. ;
- le corps des ingénieurs des Mines qui exerce, contrôle et encadre un certain nombre d'organismes publics et privés liés à l'économie et à l'industrie. Il relève des ministères chargés de l'économie, des finances, de l'industrie, mais aussi du développement durable ou de la recherche ;
- le corps des ingénieurs de l'armement qui assure des missions scientifiques, techniques, industrielles ou administratives en lien avec le ministère de la défense et l'ensemble des organismes publics internationaux ;
- le corps des administrateurs de l'Institut national de la statistique et des études économiques (Insee) qui conçoivent, dirigent et coordonnent le système public d'information statistique.
Parmi les grands corps administratifs, on distingue notamment :
- le Conseil d’État qui rassemble tous les conseillers juridiques du gouvernement (pour des projets de loi ou de décrets, par exemple) et les juges en dernier ressort des conflits entre les administrations et les administrés ;
- la Cour des comptes qui s'assure de l’exactitude des comptes des personnes publiques ou privées bénéficiant de l’argent public. Ce corps a aussi une mission administrative consistant à informer, grâce à son rapport annuel, le Parlement et le gouvernement sur les questions de finances publiques ;
- l’Inspection générale des Finances (IGF) chargée de vérifier l’ensemble des comptes publics, sous le contrôle des ministères de l'économie, des finances et des comptes publics.