Pourquoi relancer ?
Pour vérifier que votre candidature est bien arrivée
Pour savoir si elle a été lue, si elle a retenu l'attention
Pour prouver votre motivation et votre implication

Pourquoi le faire préférentiellement par téléphone ?
Pour avoir un contact direct avec le recruteur et défendre verbalement votre candidature
Pour faire ressortir un détail déterminant de votre CV
Pour forcer un peu le recruteur à vous répondre

Quels obstacles devez-vous surmonter ?
Vous ne connaissez ni le nom, ni le numéro de téléphone du recruteur : usez de beaucoup de politesse et de créativité pour obtenir ces renseignements auprès du standard.
Le recruteur est en réunion : demandez à quelles heures il est préférable de rappeler et vérifiez si le numéro que vous avez composé permettra de joindre le recruteur directement. En général, appelez entre 8h et 9h15, entre 11h45 et 12h30, entre 13h30 et 14h30 ou à partir de 18h, c'est-à-dire en dehors des heures de réunions.
L'assistante du recruteur fait barrage : profitez-en pour obtenir des renseignements sur les étapes du recrutement.

Que dire une fois en relation avec le recruteur ?
Vous aurez une minute (guère plus) pour obtenir un rendez-vous ! Vous n'y arriverez qu'avec une bonne préparation.
Après les présentations, assurez-vous que votre candidature a été reçue.
Si c'est le cas, demandez au recruteur ce qu'il en a pensé et proposez d'en parler (immédiatement au téléphone ou en prenant rendez-vous par téléphone ou de visu). Si votre candidature a été rejetée, demandez-en poliment les raisons. Sauf si vous avez affaire au DRH, demandez si votre parcours intéresserait quelqu'un d'autre dans l'entreprise. En terminant, remerciez chaleureusement votre interlocuteur pour les précisions données et le temps accordé.
Si, après les présentations initiales, le recruteur dit n'avoir pas encore étudié votre candidature, demandez quand vous pourrez à nouveau en prendre des nouvelles et s'il est souhaitable de fournir d'autres pièces que celles déjà envoyées. Ensuite, n'oubliez pas de le rappeler !

Ce qui fera une différence
La plupart des demandeurs d'emploi ne relancent pas le recruteur. Oser le faire (surtout par téléphone) peut vous être très profitable et ne vous nuira pas.
Comportez-vous alors non comme un demandeur d'emploi, mais comme un "offreur de service". Le recruteur y sera sensible.