第二步是“上小香堂”。这时要学习帮内的规矩、仪注等。若是不懂规矩，不但贻笑大方，而且恐被人视为冒充。主要规矩有：尊敬长上，同参互助，慈爱晚辈，患难扶助，尊重安清，香堂肃静，吐露安清（出门在外为了寻求同道帮助，须以青帮暗号表明自己的青帮身份）。在已经略知大概后，师父还要进一步考察，一般要经过三年或更长时间才能转为正式徒弟。

上小香堂后还不算师傅的正式徒弟，仅仅成为青帮的外围成员，称作“徒访师三年，师访徒三年”，又称为“一脚门里，一脚门外”。直到上过大香堂，传给“三帮九代”、“十大帮规”才算是正式加入青帮。

小香堂又分为临时小香堂与正式小香堂两种。前者不论香堂地址的大小和记名（入帮）人数的多寡，随时随地都可以举行。只需香烛一份，供奉三家祖师牌位一座，行礼如仪，就算“记名”。正式小香堂则比较严格和正规，除本命师外还必须有引进、传道两师在场。青帮规定，加入青帮，必须有本命、引进和传道三个师父，而且三个师父不能同属一个帮，因为青帮传说中翁、钱、潘三祖各领一帮，故在收徒时，一人为本命师，其他两人分别为引进师和传道师。如此一来，一人收徒等于其他两人也收了徒，称为“一师皆师，一徒皆徒”。

第三步是“上大香堂”。上大香堂又称“上大钱粮”，其程序与上小香堂大体相仿，只是规模更大，礼仪更庄重。在师父认可该门生忠义可靠后，便准许该门生“上大香堂”，举行收徒弟的大礼后，才能称为徒弟。大香堂一般设在朝南厅堂，堂内上首正中摆设供桌，牌位上则写着“天地君亲师”五个大字。距供桌以南一米处，正中又设一供桌，还要设立九祖（达摩、神光、金祖、罗祖、陆祖、翁祖、钱祖、潘祖、王降祖）及左右护法的牌位或遗像。

经过上大香堂后，便正式成为青帮成员。

香堂一般分为三大类：第一类是“喜事香堂”，如收徒、传仪注及祖师接续香烟流传后世等；第二类是“评事香堂”，要请“三老四少”来讨论帮内重要事项；第三类是“刑事香堂”，即对违反帮规者给予惩罚，届时也要请三老四少到香堂陈述、商讨受责罚者违反帮规的事实和公议惩处的办法，并进行执法。总之，只有遇到重大事件才开香堂，因而仪式庄重，帮内对之极为重视，青帮还为此制定了香堂规范：