蒋介石日记中最早记载力行社的情况，始于2月15日，“晚与贺衷寒等谈组织少年党事”。2月21日晚，再次召见“贺（衷寒）、康（泽）等生谈组织事，必欲组织一秘密奋斗，人尽其才，挖置全国之机关，方得完成革命，如仅普遍组织，则必腐化消灭也。乃得数语曰：抗日锄奸，为党牺牲，实行主义，革命革心，矢勇矢勤，严守秘密，服从命令，如违誓词愿受极刑。”一周后（28日），他在与胡宗南谈话时更明确指出“黄埔失败之原因与革命中坠之责任，述明重新整理组织之必要”。

经过短暂的联络，三民主义力行社在南京成立。据当事人回忆，力行社的成立时间为3月1日。而这年二月刚好有29天，蒋在当天日记中明确记载，赴“力行社成立礼训话一时余”。 据统计成立大会应到28人，实到25人，均为黄埔军校第一至六期毕业的学生，其中第一期最多共十人。在这28人中大半都有留学背景，其中留日归国者多达14人，5人留学苏联、1人留学德国。 成立大会上，全体共推蒋介石为社长，并进行干部选举。随后滕杰将全部选票封好，交蒋介石的侍从秘书邓文仪带回，请蒋作最后裁定，没有当场开票。

力行社的组织系统共分三级，最高机构称力行社，是核心的秘密组织；其次是革命同志会（最初分国革命军人同志会和革命青年同志会，一个负责军方，一个负责地方），它是承上启下的决策执行机构；最外层是中华复兴社，公开领导各级党外群众组织。这三级机构对外通称复兴社。复兴社到解散时，共有成员数十万人，而核心机构的力行社社员最多不过三百余人。

蒋介石对力行社曾寄予很大的期望。在成立最初的三个多月间，他在日记中几乎隔天就有对力行社干部训话的记录。且“凡与力行社会议，每次皆在三时以上，学生幼稚令人心焦”。（6月5日）

在力行社的核心成员之中，仅有一人是非黄埔出身的刘健群，深得蒋介石的信赖。刘健群北伐时担任过何应钦的秘书。九一八事变后，他写了一本《中国国民党蓝衣社》的小册子，内容大致是说国民党完成北伐后，组织逐渐懈怠、松懈，党部衙门化，干部官僚化，以致内乱外侮纷至踏来。因此，他主张国民党必须改造，“集结其精锐党员，穿着国产蓝布服装，以示自力更生，力行三民主义。” 刘健群的主张正好同力行社的理想一致。经桂永清、滕杰介绍，加入力行社。蒋在日记中多次提到刘健群，对刘的评价远远高于力行社的其他成员。如3月22日“阅刘健群条陈，稳健思急，见为快乐”；6月3日“批阅刘健群条陈，甚有所见，为一难得之青年也。”

刘健群加入力行社后，很快成为核心人物，并继滕杰、贺衷寒之后出任力行社书记长。因力行社是秘密组织，不为外人所知，而刘健群所写的《中国国民党蓝衣社》一书，不久就流传到社会上，使“蓝衣社”之名不胫而走。当时在国民党内和社会上更有人称“蓝衣社”是效法意大利的建立的法西斯“黑衫党”，以此指责蒋介石建立秘密组织，搞独裁。而力行社成立不久，蒋介石也的确陆续派遣多批社员赴意大利、德国，考察两国政党的组织形态。