Les ONG n’étant pas le produit d’un processus démocratique (l’élection), leur lien avec la « société civile » dont elles sont censées représenter certains intérêts, constitue l’élément principal de leur légitimité. Celle-ci dépend donc dans une large mesure de la perception que la société peut avoir de leur action, de leur fonctionnement et de leur efficacité. Ainsi, la légitimité des ONG va naître du soutien ou de l’adhésion des individus à leur action. C’est en fonction de cette adhésion plus ou moins explicite de la population que va également pouvoir être évaluée leur représentativité.

Les ONG se légitiment progressivement selon leurs actions et leurs choix par rapport au but qu’elles se sont assigné. Leur légitimité demeure donc fragile puisqu’elle dépend de leurs réussites, de leurs échecs ou de tout autre problème de fonctionnement qui peuvent les affecter.

Même si certaines ONG anciennes bénéficient d’un a priori plutôt favorable auprès de la population, une action mal planifiée aussi bien que des dérives humaines ou financières peuvent largement entamer une légitimité qu’il leur sera ensuite difficile de rétablir, d’autant plus qu’une telle situation a très souvent un impact humain ou financier collatéral (baisse des dons ou des cotisations, départ des bénévoles…).

Enfin, la légitimité des ONG peut aussi être associée à leur transparence et au fonctionnement démocratique de leur organisation interne. Une bonne gouvernance interne peut en effet renforcer aux yeux de l’opinion publique la légitimité de leur revendication à contribuer à l’amélioration de la gouvernance mondiale.