Главной задачей при создании нового пистолета было обеспечение более легко управления при частых последовательных выстрелах. Кандидаты, участвующие в проводившемся в конце 40-х годов конкурсе, должны были быть легче и компактнее пистолета ТТ-33, а в качестве боеприпасов должны быть использованы  патроны калибра 7,62мм или 9мм. Макаров разработал и представил на конкурс опытные образцы обоих калибров, и победу одержал его пистолет под патрон 9х18мм

В конструкции пистолета использована популярная схема немецкого 7,65-мм "Вальтера" РР образца 1927 г, но в конструкцию все же были внесены несколько существенных усовершенствований. Во-первых, ПМ оснащен внешней затворной задержкой, что позврляло при смены магазина освобожать затвор простым нажатием на затворную задержку. Во-вторых, предохранитель у ПМ работает наоборот относительно конструкции "вальтера", то есть ПМ поставлен на предохранитель если рычажок находиться в нижнем положении и перевод пистолета в юоевой режим осушествляеться простым движением простого пальца вперед. Но в конструкции ПМ есть также и недостатки, например, перенос защелки освобождения магазина от задней части спусковой скобы на основание рукоядки, что значительно замедляет смену магазина при стрельбе. Также недостатком ПМ является то что пуля патрона 9х18мм не обладает достаточной останавливающие силой. А затем стали разрабатывать новые патроны под ПМ в следствии чего появились производные пистолета ПМ такие как ПММ-8 и ПММ-12.