但是，这个结果引起了国民党新右派的极度恐慌，他们扬言说：在大会的全体代表中，共产党员占了五分之三，这次大会完全受了共产党的操纵。而且，这个结果使“一向赞成容共的国民党人”也提高了对共产党的警觉，“蒋介石就是其中之一。”他看到共产党如此深得人心，“也大吃一惊。”在整个大会期间，蒋介石只是在1月6日到会作了军事报告，然后就再也没有参加大会了。在大会选举之前，汪精卫特意在黄埔军校召集党团会议，想听一听蒋介石对大会选举的意见。汪精卫首先通报了候选人的安排情况，他说：党军方面的候选人，我们希望蒋先生能提出意见，我们的意思是，除了蒋先生及何应钦应该当选外，还有王柏龄、王懋功也应该提名为候选人，另外还要选拔几位年青人。

蒋介石当即表示：“我还是在军事方面多尽点力，我不要当中央委员，也不应该当中央委员，一个军人如果什么事都管，就难免造成军人政治。我决不能做苏俄的托洛茨基。王柏龄和王懋功没有必要。至于提拔几个年青同志当中央委员，我倒没有什么意见。”会议期间，蒋介石从开始直到散会，“态度始终很不自然，好像是有千言万语说不出来的样子。”

实际上，从国民党第二次代表大会之后到中山舰事件发生，蒋介石对苏联顾问和中国共产党表现出相当的不满。3月8日，蒋介石曾向汪精卫表示过他的看法：一切实权不可落入俄人之手，即与第三国际联系，“亦应定一限度，要当不失自主地位。”

但是，在国民党第二次代表大会上招致失败的右派并没有就此罢休，而是决定利用蒋介石。他们深知蒋介石的气量小，而且多疑，于是就费尽心机地从中挑拨，说俄国顾问对他的态度如何不好，如何想摆脱他。鲍罗廷离开广州前往北方同冯玉祥会晤，是想把革命重心转移到西北，以加强冯玉详同蒋介石的抗衡。他们甚至还说，俄国人要把蒋介石弄到莫斯科去。蒋介石果然相信了这些谣言。早在2月中旬，蒋介石就十分恼火，常常发牢骚，说俄国人不信任他。