1923年，贺衷寒担任了长沙青年服务社教务主任，同时兼任上海《时报》的特约记者，继续在报上鼓吹三民主义。

1924年春，在黄埔一期的入学考试中，贺衷寒以优异的笔试成绩、滔滔不绝的辩才受到了蒋介石的赞赏，顺利考入黄埔一期。

贺衷寒入学后不久，就与蒋先云（中国共产党员、北伐战争烈士）、陈赓（共产党员、军事家）并称为“黄埔三杰”。

在当时的黄埔，有这样的说法：“蒋先云的笔、贺衷寒的嘴，陈赓的腿。”意思就是蒋先云善写文章，贺衷寒口才好，陈赓多才多艺。正是因为陈赓的多才多艺，才使得他后来在中央特科工作时，跟军统特务称兄道弟，却没露出丝毫破绽。

贺衷寒这个人不但能说，而且写得一手好字。想当初，黄埔军校开学时，来自天南海北的各路领袖用各自的南腔北调发表了一系列的讲话。典礼结束之后，不少学生找到时任黄埔军校校长的蒋介石反映，说很多方言听不懂，很多领袖们的训示没听明白。于是蒋介石就找到时任黄埔军校教授部主任的王柏龄，要他找几个字写得好的学生来抄写训话，王柏龄就根据入学考试的笔迹找来了贺衷寒、李之龙和胡宗南三个人分头抄写。其中，贺衷寒写得又快又好，蒋介石看了之后连连称赞，自然就对贺衷寒有了更为深刻的印象。

黄埔军校开学后，蒋先云等共产党员组建了研究共产主义的青年军人联合会，贺衷寒则组建了研究三民主义的孙文主义学会（学会建成初期，也叫“中山主义学会”），以此来对抗青年军人联合会。两会的矛盾后来越来越深，两会的成员也经常公开发生舌战甚至冲突。而孙文主义学会的成立以及其对青年军人联合会的排挤，都得到了蒋介石的支持。

后来，两会的矛盾越来越深，冲突也越来越剧烈，以至于蒋介石都无法掌控二者了。为了将黄埔军校的学生牢牢控制在自己手中，1926年4月7日，蒋介石颁布了“取消党内小组织校令”，明令解散两会。不久，蒋介石亲自下令，组织黄埔同学会，并且指定蒋先云、贺衷寒等为筹备委员，蒋介石亲任会长。在黄埔同学会成立后，贺衷寒任同学会的干部委员兼秘书长。

在1929年到达日本的90名学生当中，大部分人是黄埔同学会的成员，他们早已习惯了对贺衷寒的服从。黄埔东京同学会，就这样在南京政府的指示之下，自然而然地建立了。

就是这个同学会，在一定程度上促进了力行社的建立。这个同学会的骨干成员，如贺衷寒、滕杰等人，后来不少都成了力行社、复兴社乃至军统的骨干力量。