1920年 5月，吴佩孚不听段祺瑞的命令，自衡阳领兵北撤，随后通电反对皖系“安福俱乐部”把持政权。他的通电是：“全国之大，能否尽为一人所盘踞？疆吏之多，能否尽为一党所居奇？兆民之众，能否尽为一人所鞭笞？”要求大总统徐世昌罢黜段祺瑞内阁。7月，直皖战起，吴佩孚联合奉系军阀张作霖，大败皖军，段祺瑞政府倒台，直奉两系军阀共同控制北京政府。吴的通电游戏使得徐世昌总统叮嘱手下人：吴佩孚的态度不可不考虑。
　　
　　吴的军人造反颠覆了政府，按后来人们的史评，吴佩孚的这一举动标志着北洋军阀公开分裂，多数论者认为这是一场争权夺利的不义之战，战争给当时的中国社会带来了较大的经济损失，在政治上和军事上削弱了北洋军阀，外交上沉重地打击了日本对华的侵略政策，客观上一定程度地有利于中国社会的独立和进步。但他通电谦称：“此次兴师讨贼，原为民意所驱策，即战胜结果，亦全国民意战胜，非直军战胜也。此次战胜逆党，谬蒙各界赞扬，实则非军队之力，全胜于民意。”
　　
　　直奉系掌权，吴佩孚在北京出任陆军总长可以说是众望所归，但他只在北京落了落脚，即引兵回到洛阳。他功成身退，只是出任“直鲁豫巡阅副使”。一位在中国多年的日本军部间谍铃木贞一为此佩服说：“我认为吴佩孚是个很了不起的人物，因为在一般情况下，获胜的中国将军都是进入北京大逞威风，但吴佩孚却不声不响径自领兵回到河南洛阳。”
　　
　　但人人都知道吴佩孚此时已是北京政府内阁的灵魂，他人虽远避豫西，却又让人不得不仰其鼻息，北京政府大到国策小至人事安排，无不频繁请教于他。当挤在宣武门内象房桥国会厅里争吵不休的参议员和众议员们拟拆除紫禁城三大殿 ——太和殿、保和殿、中和殿，在其废墟上另建议会大厦时，吴佩孚通电总统、总理、内务总长、财政总长：“……何忍以数百年之故宫供数人中饱之资乎？务希毅力惟一保存此大地百国之瑰宝。无任欣幸。盼祷之至！”当各报刊登载了吴氏通电后，颂扬吴帅之声鹊起，抨击国会之议潮涌，故宫三大殿幸免一劫。
　　
　　直奉的蜜月期很短，不到两年，直奉反目，于 1922年 4月开战。吴佩孚的讨奉通电名言是：“大诰之篇，入于王莽之笔，则为奸说；统一之言，出诸盗匪之口，则为欺世。”虽然奉系张作霖在军队人数和武器装备上有明显的优势，但吴佩孚的直系军队神速地击败了奉军。奉张退居东北后，吴佩孚成为北洋军阀首要人物，直系随即独霸北京政权，进入全盛时期。接着，曹、吴逼徐世昌下台，恢复旧国会；再邀已被废黜五年的前副总统黎元洪复职，却不给他实权，后来干脆把黎赶出北京。1923年，曹锟花费约一千三百五十万元，当上“贿选”总统，吴为此不满，但也无可奈何。他力主“废督裁兵”，而各地方实力派坚持“联省自治”；于是吴打起当年自己曾公开反对的“武力统一”旗号，在洛阳埋头练兵。
　　
　　吴佩孚的势力引起国际瞩目。上世纪二十年代初的他一度被公认为“中国最有权势的人物”，且博得了“爱国进步”之名。不仅英、美等列强对他“争相结纳”，吴可能是最早上美国《时代周刊》封面的中国人；而且他也获得苏联的青睐，以为与中国建立新的关系有望，因为吴不唯抗日，且主张召开包括工人在内的国民大会。1924年，在他五十寿庆之时，正是权势鼎盛之日，各地的军政要人和文化名人、各国驻华使馆的武官云集洛阳，清废帝溥仪也派出其“摄政王”前来祝贺。连曾名震朝野的维新派首领、著名学者康有为也大拍马屁，献寿联云：“牧野鹰扬，百岁功勋才一半；洛阳虎视，八方风雨会中州。 ”