Le recours à l’arbitrage implique tout d’abord que les parties au litige soient d’accord sur ce mode de règlement du conflit, nul ne pouvant imposer à autrui un mode alternatif de règlement des litiges.
Cet accord préalable est formalisé par un écrit qui désigne le(s) arbitre(s) et fixe les règles de procédure qui seront appliquées. Cet accord prend le nom de clause compromissoire (prévu avant le litige) ou de compromis (prévu après la naissance d’un litige). En effet, le compromis est réalisé une fois le litige né, tandis que la clause compromissoire intervient en prévention d’un éventuel litige (elle est insérée au sein du contrat en prévoyant le règlement des litiges par le recours à l’arbitrage).
Si l’arbitre doit généralement statuer en droit, ce qui le dote d’une fonction juridictionnelle au même titre que le juge, les parties peuvent décider d’y avoir recours comme "amiable compositeur" afin qu’il se prononce en équité (c’est-à-dire en recherchant la solution la plus adéquate).
L’arbitre rend une sentence qui possède entre les parties l’autorité de la chose jugée (une fois la sentence prononcée, les parties ne peuvent pas à nouveau saisir un arbitre pour obtenir une solution différente sur la même affaire). En revanche, celle-ci n’acquiert force obligatoire que par l’intervention d’un juge, qui délivre une ordonnance d’exequatur (en latin, "qu'il soit exécuté").
La sentence arbitrale est en principe susceptible d’appel devant la cour d’appel dans le ressort de laquelle elle a été rendue. Mais, les parties peuvent y renoncer dans la convention d’arbitrage. Un recours en annulation de la sentence est alors toujours possible, notamment en cas d’atteinte par l’arbitre à des règles d’ordre public. Ce recours est de la compétence de la cour d’appel dans le ressort de laquelle la sentence a été rendue.
En pratique, le recours à l’arbitrage est fréquent en matière de commerce international parce qu’il permet de trancher les litiges de manière rapide et discrète. Toutefois, il s’agit d’une justice très coûteuse et qui offre de faibles garanties d’indépendance et d’impartialité.