29日下午，彭德怀从黎城驰回武乡县蟠龙镇之石门村。他裹着绑腿，身披一件土黄色短皮外套，胯下一匹大黑骡，后随四五骑，从129师驻处南面山头上飞奔下来。一面下坡，一面咆哮：“……杀人放火，还了得!坚决消灭这一路敌人!”
从黎城到武乡，一路上的村落被敌人残害后的血淋淋空荡荡的景象，咬噬着彭德怀的心，他的血在燃烧。参加正太路袭击战和攻打榆社城的129师陈赓旅和决死1纵队正有一部分部队在关家垴附近集结休整。彭德怀于当晚发出了歼敌命令：以129师之386旅、10旅各一部归刘伯承、邓小平指挥，以129师386旅之一部和决死1纵队的25团、38团各一部为左翼归陈赓指挥，自己直接指挥山炮连，于30日晨4时对冈崎大队发起攻击。
冈崎大队乘夜摸上了关家垴高地，这块高地三面断崖，只有一条很窄的坡路通向顶处。敌人凭据垴顶的窑洞顽抗，八路军指战员喊着“为牺牲的战友和老百姓复仇”的口号，冒着飞机的投弹扫射和由垴顶倾泻的火力向上冲。彭德怀把总部特务团的警卫连也投入了战斗。一场惨烈的攻坚战持续了两昼夜，依靠着顽强与勇敢牺牲，八路军终于将武器优良、骄横凶残的冈崎大队歼灭过半。11月1日，敌大批出援，彭德怀下令撤离，残敌数十人狼狈逃走，敌人的“扫荡”亦被打退。
在关家垴战斗中，彭德怀到距敌人控制的垴顶300米处作近距离观察，当他足抵壕沿，手捧望远镜，仔细观察敌阵时，记者徐肖冰拍摄下了这一历史的瞬间。彭德怀雄健的身影，专注的神情，战士的装束，背衬着简陋的工事，给人们留下了八路军在敌后艰苦卓绝、英勇作战的时代写照。这一照片被广泛地刊登、转印，为人们所珍爱，成为人们熟悉的彭德怀形象。
关家垴战斗中，八路军以劣势装备对敌实行攻坚战、阵地战，与敌鏖战两昼夜，敌人虽大部被歼，八路军亦遭受很大的伤亡，陈赓旅之772团1营3个连伤亡过半。
关家垴战斗是百团大战中引起争议的一次战斗。彭德怀在其自述中谈到为什么要发动这次战斗时说：
“在敌军‘扫荡’时，日军一般是一个加强营附以伪军为一路，我总想寻机歼敌一路，使敌下次‘扫荡’不敢以营(按敌大队相当于营)为一路，以使其‘扫荡’的时间间隔扩大，有利于我军民机动，我这一想法是不符合当时实际情况的。因部队太疲劳，战斗力减弱了，使129师伤亡多了一些。”
刘伯承、邓小平在1942年3月15日给宋任穷的一封信中谈到这次战斗时说：
“有同志说，百团大战第三期的指挥错误，这种看法不合事实。因为第三阶段是反‘扫荡’，只有最后应否打关家垴一仗问题。我们的结论是应该的，不打这一仗，在政治上损失太大，实际上这一仗停止了敌一个大队可以在根据地横冲直闯的局面。”
然而，对冈崎大队，可否用八路军擅长的伏击战术歼灭之，从而减少部队的伤亡呢?陈赓在关家垴战斗开始时，曾向彭德怀提出这样的意见。陈赓对彭德怀说：“彭老总，现在拼了，以后怎么办?可以把冈崎放下山去，另选有利地形，打他的伏击嘛!”彭德怀没有接受。战斗过程中，刘伯承又建议彭德怀暂时撤围，另觅战机。彭德怀在电话里对他一向十分尊重的战友咆哮：“拿不下关家垴，就撤掉你一二九师的番号!”这使一向宽容大度的刘伯承也不免气恼。
彭德怀坚持要打关家垴战斗，八路军是坚持敌后抗战的主力军、正规军，不但要会打游击战--打得赢就打，打不赢就走；必要时，也要猛攻坚守，要打正规仗，顽强拼杀，啃硬骨头。敢于啃硬骨头，这曾使彭德怀战无不克，所向披靡，也使他吃过苦头。有人说，关家垴一仗，彭老总来了犟劲。
关家垴战后，彭德怀、左权、刘伯承、陈赓等都到垴上仔细巡视过战场，查看敌人的临时工事、暗堡掩体、火力配置，总结经验教训。几十年后，当时任决死一纵队政委的薄一波说：“彭老总向我调决死队两个团参加战斗，我是很积极的，战斗中损失固然大，但这两个团也打出来了，成为决死队战斗力最强的两个主力团。”