1903年夏秋之交，为了进行暗杀活动，军国民教育会的骨干成员杨笃生、苏鹏、何海樵、周来苏、胡晴厓、汤重希六人，在日本秘密发起成立了暗杀团，作为军国民教育会的从属机构。暗杀团通过冯自由介绍，与在横滨的梁慕光取得联系，聘请马君武、梁慕光、李植生教授制造炸药。马君武、梁慕光、李植生都是制造炸药的行家，先后研制出十余种炸药。

这个暗杀团，就是史书上所称的“横滨暗杀团”。

这个暗杀团的规模发展非常迅速，很快在日本、上海等地吸收了张继、蔡元培、王小徐、孙毓筠、刘师培、章士钊、陈独秀、钟宪鬯、俞子夷等革命志士参加。他们除了在日本各地秘密开展活动之外，还派人到上海、北京等地秘密联络，秘密试验炸药，研制炸弹，以谋刺杀清廷政要。

暗杀团规则极为严密，入会须拜祭华夏始祖黄帝，杀鸡饮血，与中国传统秘密会党非常相像。

横滨暗杀团成立后，杨笃生、张继、何海樵、周来苏等人首先将暗杀目标锁定在此时正在掌握清政府实权的慈禧太后身上，以期通过刺杀这位强权人物，震动天下人之耳目。对于暗杀慈禧太后的举动，正在日本的梁启超及保皇党人是支持的。他们在经济上给予暗杀团以资助。暗杀团则利用保皇党人对后党的仇恨，从梁启超手中得到一笔活动经费，决定潜入国内进行暗杀。

杨笃生等人从日本携带炸药秘密运到天津，设立联络据点。随后，他们潜入北京，并邀请革命党人张继从湖南长沙抵京，请何海樵从上海抵京。他们在北京草头胡同赁屋而居，拟在紫禁城皇宫内或在颐和园附近炸毙慈禧太后。

然而，由于清廷戒备森严，防范严密，他们在数月之内无从下手，川资告罄，只好失意而归，南返上海。

刺杀慈禧太后的计划被迫取消后，横滨暗杀团密切关注清廷动向，寻找刺杀清朝大吏的机会。

1904年夏，横滨暗杀团决定再次采取实际行动，并将暗杀目标确定在清廷户部侍郎、陆军大臣铁良身上。

铁良（1863—1938），字宝臣，穆尔察氏，满洲镶白旗人，早年曾充直隶总督兼北洋大臣荣禄幕僚，协助处理军事事宜，颇受信任，后经举荐任职兵部，升右侍郎，会办京旗练兵事宜。1901年，李鸿章去世，袁世凯署理直隶总督兼北洋大臣，负责督办北洋新军。1903年，铁良赴日本考察军事，回国后任练兵大臣，协助袁世凯创设北洋六镇新军。因袁世凯权势日重，引起满族亲贵猜忌，清廷于是命铁良参与北洋练兵事宜，相继升任兵部侍郎、户部侍郎，成为满族将领中足以与袁世凯分庭抗礼之人物。