Missile à deux étages à propergol solide, transporté sur quatre véhicules chenillés XM474, le MGM-31 Pershing I entra en service en 1962, son déploiement en Europe intervenant deux ans plus tard. Engagé sur le théâtre central européen en vue de fournir aux armées en campagne un soutien nucléaire, cet engin est regroupé en bataillons composés d'une batterie de commandement et de quatre batteries de tir.
En 1966, pour améliorer la mobilité, somme toute assez faible de ce système d'arme, un contrat fut conclu avec Martin-Marietta en vue de permettre le développement d'une version aux capacités augmentées, le Pershing Ia. La production du nouveau missile, qui devait remplacer le Pershing I au sein de l'US Army et de la force aérienne ouest-allemande (celle-ci avait acquis auparavant soixante-douze lanceurs du modèle de base), débuta au cours du mois de novembre 1967, les livraisons aux unités opérationnelles commençant de leur côté en 1969.
La modification la plus importante apportée à la conception de ce système résidait dans le remplacement des tracteurs chenillés par des véhicules à roues dérivés du châssis M656 de 5 t, qui permettaient à l'ensemble de posséder, tant sur route que sur terrain accidenté, une étonnante facilité de déplacement. En outre, et contrairement à ce qui se passait pour le Pershing I, l'ogive était à présent montée sur son vecteur au lieu d'être convoyée sur un châssis.
L'unité de tir consistait en fait en un tracteur combiné à une remorque faisant fonction de lanceur-érecteur, un engin mettant en ceuvre des génératrices, un autre destiné au contrôle du tir et, enfin, un véhicule radio doté d'une antenne. En 1976-1977, le Pershing la, après avoir bénéficié de certaines améliorations destinées à diminuer son temps de réaction, reçut un système de compte à rebours automatique et un dispositif de lancement séquentiel qui offrait la possibilité au commandant de batterie de mettre à feu simultanément trois missiles depuis un seul poste de contrôle, et ce, à partir de sites non reconnus auparavant.
L'US Army, qui est le principal utilisateur du Pershing la, dispose de cent soixante-quatre lanceurs, dont cent huit sont déployés en Europe occidentale, la République fédérale d'Allemagne ayant, de son côté, remplacé la totalité de ses Pershing I par cette version améliorée.
C'est en 1978 que prit fin le programme du Pershing II, un missile de conception modulaire dérivé du Pershing la, dont la précision et la portée (environ 1 490 km) ont été accrues de manière considérable. Destiné à entrer en service en Europe occidentale (mais aussi aux Etats-Unis) en 1984, en vue d'opérer la relève du Pershing Ia, cet engin constitue en fait une réponse à la mise en place, du côté soviétique, des IRBM SS-20.
Le système de guidage du Pershing II se compose d'un radar tout temps installé dans un cône de nez en céramique et fonctionnant en corrélation avec un autre radar de bord préréglé sur l'objectif à atteindre. Cet ensemble, désigné RADAG, confère au missile américain un coefficient d'erreur probable qui se situe entre 12 et 36 m. En outre, les ogives de 60 et de 400 kt mises en oeuvre par le Pershing la ont cédé la place, sur le nouvel engin, à une tête de 200 kt qui provoque une explosion aérienne et à une autre de 20 kt (W86) qui pénètre d'une trentaine de mètres dans le sol avant d'éclater.
Près de 380 Pershing II ont été fabriqués. Ils ont d'abord été déployés en RFA en janvier 1984, puis sur le continent européen jusqu'à la fin 1985 malgré l'opposition de nombreux pacifistes.
Les Pershing ont été démantelés suite à l'accord américano-soviétique du 27 mai 1988 sur les missiles nucléaires intermédiaires.