因为段祺瑞有这些观念，所以完全不把黎元洪放在眼中，黎元洪则看段祺瑞有如芒刺在背。黎元洪和段祺瑞之间便因此无法谐合。
黎元洪接任总统后，对当时的各项问题由不问而要问，由要问而多问，他认为小事可以不问，大事必须过问，这对段祺瑞是无法忍受的。段祺瑞本已苦于国会给他的困扰，使他不能独断独行，再加上黎元洪遇事总是掣他的肘，使他感到非常受不了。他有时向他的亲信抱怨说：“我是要他来盖章签字的，不是请他来压在我的头上！”
段祺瑞拥护黎元洪为总统只是叫他盖章，这一点可以从段祺瑞的秘书长徐树铮的一句话中证实。有一天徐树铮拿了三个人事命令到总统府请黎盖大印，黎偶然问到这三人的出身和历史，徐树铮就很不耐烦地说：“总统不必多问，总理早已研究清楚，请快点盖印吧，我的事情还忙得很哩。”
黎元洪听了这话真是气得头上要冒出火来，他脸上发青地对手下人说：“我本来不要做这样总统的，而他们竟公然目无总统！”
黎元洪任总统后调张国淦为总统府秘书长，以林长民、贾寿坤、雷豫钊、欧阳葆真、刘远驹、张则川、瞿瀛、施泰祺八人为秘书。军事幕僚有哈汉章、金永多、蒋作宾等。
军事幕僚们经常建议黎必须掌握兵权，他们的理由是：“责任内阁制是指政治而言。军事方面总统既然是全国陆海军大元帅，就不能不管军事，大元帅没有军权，总统有什么做的价值？”
这些话黎元洪很听得进去，他把自己的总统地位和袁世凯做总统时候一比，觉得袁世凯当时何等威风，自己今日何等可怜。自己虽不想大权独揽，可是要制止军人的跋扈擅专，则应该把军权抓在自己手上。
黎元洪这个意图和段祺瑞是完全对立的，且不可调和。段祺瑞认为袁世凯当年最大的错误就是成立“全国陆军统率办事处”以集中军权，段祺瑞的解释是：他以内阁总理身份而掌握全国政权，又以陆军总长身份而掌握全**权。段祺瑞今日的地位是建筑在军事独裁上，他之所以能控制住北洋系，就因为他有军权，如果让总统管军权，他岂不是手无寸铁，总统一纸命令就可以撤换了他吗。所以这一点他是誓死必争的。
黎元洪虽然是军人出身，但是手下没有任何一点点军事班底，他左思右想，把国内的地方势力派挨个数了一遍，只有张作霖和李默涵似乎可能成为自己的外援。因为他们既不是北洋一脉也不是南方革命党一脉又或者是西南实力派。
黎元洪认为，张作霖是胡子出身，可以引为外援，但是不足以共事。而李默涵受过新式教育，无论文化水平还是政治素养都很高，而且还和美国人的关系不错，应该是个不错的选择。只要两人同心协力，把国家建设好应该是很有希望的。只是，黎元洪也看过李默涵的《我的国家主义观》，觉得他野心很大，自己一旦把李默涵招来，会不会连这个虚有其名的总统都没得当呢？
最后，黎元洪下了决心，就是舍得一身剐，也要把段祺瑞拉下马。黎元洪决定不再妥协，他找来段祺瑞，把他上报的内阁成员名单一个一个的指摘了一番，然后毫不客气地说道：“现在国会对你毫无信任，督军团公然干涉制宪，实在不成体统。你作为内阁总理，负有不可推卸的责任。”
段祺瑞眉头一皱说道：“总统这样讲话，我就不能担任北京秩序的维持。”
黎元洪重重地冷哼一声：“我要为国家行使权力！”
段祺瑞一怔，随即他也冷哼一声，顾不得冲黎元洪行礼，就怒冲冲地出了总统府。段祺瑞回到国务院，气得两手在办公桌上一扫，桌上的笔墨纸砚一齐飞落地上：“好，想赶老子走，想削老子的权。妈的，看他们能嚣张到几时!”说罢，怒冲冲叫来司机，乘车回府学胡同私宅。
段祺瑞的手下秘书长张国淦眼见段祺瑞离去，呆了好一阵子，才想到该把这里收拾一下，便默默地动起手。刚收拾齐整，要转身离去，却见伍廷芳由卫士簇拥着迈步而入。伍廷芳与张国淦打过招呼，坐到桌后抄笔在三道总统命令上签署姓名，让张国淦转交印铸局发表。
张国淦接过一看，只见这三道命令是：(一)免去国务院总理段祺瑞职，特派外交总长伍廷芳暂代国务总理；(二)派陆军部次长张士钰暂代陆军总长；(三)派王士珍为京津警备总司令，并派江朝宗、陈光远为副总令。
张国淦看罢，苦笑了笑，只好将命令转交到印铸局发表。
与此同时，黎元洪以总统名义通电各省，报告处理内阁问题的经过。通电说：段总理任事以来，劳苦功高，深资倚畀。前因办事困难，历请辞职，迭经慰留，原冀共济艰难，同支危局。乃日来阁员相继引退，政治莫由进行，该总理独立支持，贤劳可念。当国步临危之日，未便令久任其难，本大总统特依《约法》第34条免去该总理本职，由外交总长伍廷芳暂行代署，俾息仔肩，徐图大用。一面敦劝东海出山，共膺重寄。其陆军总长一职，拟令王聘卿继任。执事等公忠体国，伟略匡时，仍冀内外一心，共图国是，本大总统有厚望焉。
看到通电的段祺瑞大怒，他的心腹靳云鹏劝慰道：“总理还是放宽心，不必去理它。”
傅良佐则跳脚大叫：“请总理下令，咱北洋军不是白吃饭的，干脆大刀阔斧跟他们干