Участь у серпневому путч і подальше просування по службі
20 серпня 1991 року Грачов отримав наказ ввести війська в Москву для охорони найбільш важливих об’єктів. Наказ цей він виконав, направивши на бойове завдання тульську 106-ту повітряно-десантну дивізію. 23 серпня відбулося призначення Павла Сергійовича першим заступником міністра оборони СРСР. На початку листопада цього року у зв’язку з відставкою кабінету міністрів, він став виконувати обов’язки, пов’язані з оборонними питаннями. Грачов вважав, що необхідно створити спільну систему оборони країн СНД.
Квітень 1992 року відзначився черговим високим призначенням військовослужбовця, на цей раз він став заступником міністра оборони Росії. У його обов’язки входив контроль над військовими підрозділами, що знаходяться у віданні військ РФ. У травні 1992 року Павло Сергійович був призначений генералом армії. Першим генералом армії в історії РФ.
Міністр оборони РФ
Просування по службі йшла семимильними кроками. 18 травня 1992 року Павло Сергійович зайняв пост міністра оборони. Більшість вищих чинів у міністерстві Грачов роздав своїм колегам по Афганістану. Він виступав проти вольностей в армії, вважав єдиноначальність єдиним можливим варіантом ведення справ у збройних силах. Заборонив Всеросійське офіцерське зібрання і професійний союз військовослужбовців, чим викликав обурення військових.
У червні 1992 року великий резонанс викликало рішення Грачова про передачу половини всього зброї, що належав радянської армії, чеченському політичному діячеві Дудаєву. Павло Сергійович називав це вимушеними заходами, так як зброя фактично вже належало бойовикам, а вивезти його можливості не було. Ця ситуація дуже негативно вплинула на військове зіткнення, яке сталося через два роки, коли з переданої зброї вогонь вівся по російським солдатам.
Павло Сергійович Грачов підтримував президента Росії Бориса Єльцина, чим викликав різко негативне ставлення опозиції. 3 жовтня в Москві пройшли заворушення, під час яких Грачов, незважаючи на свої заяви про те, що армія повинна виконувати лише функції з охорони Батьківщини і не втручатися у внутрішні справи Держави, ввів в місто війська, які взяли штурмом будівлю парламенту.
Павло Сергійович неодноразово зізнавався, що був налаштований проти введення російських військ до Чечні, але його думку не поділяв Єльцин і голова Ради Міністрів – Черномирдін. Управління військовими операціями в Грозному закінчилося не дуже успішно, і Грачов повернувся в Москву. З тих пір став піддаватися ще більшій критиці не тільки з боку опозиційних формувань, але і колишніх соратників.
