虽然不愿意回家，但也不得不回家。1927年到1928年，柔石情绪有些沮丧地在宁海西门的这个三合院里又待了差不多一年的时间。1928年5月，地下党在亭旁发动农民暴动失败，在搜捕暴动人员时，反动当局从一份党内文件中发现宁海中学是各区党委书记与县委书记秘密联系的地方，且有二三十个教师和学生参加了暴动。柔石受到了牵连，5月31日，他乘船到了象山石浦，转道上海。从此，他便定居上海，只在牺牲前回过家一次。

柔石到沪后，先是寄居在了同乡严苍山的家里。而当时，鲁迅则居住在闸北景云里。通过友人的介绍，柔石与很早以前便开始景仰的鲁迅熟悉起来。鲁迅是柔石一生中不能不提的人。柔石是鲁迅“一个唯一的不但敢于随便谈笑，而且还敢于托他办点私事的人”。每逢与鲁迅同行外出，他总是寸步不离鲁迅，似乎随时准备保护鲁迅。就如鲁迅在《为了忘却的纪念》里所说，“简直是扶住了我”。

从这时起，柔石开始了他人生中最向往也最精彩的一段人生。一开始，柔石负责《雨丝》杂志的编辑工作。1928年冬，他又与崔真吾等一起投资组织了朝花社，1930年又成为“左联”的执行委员、常务委员，并负责“左联”机关刊物《萌芽》月刊的编辑工作。同年的5月，柔石加入了中国共产党。不久，他又以“左联”代表的身份，参加了在上海秘密召开的全国苏维埃区域代表大会。在1930年1月20日，他完成了小说《为奴隶的母亲》，并在1930年3月出版的《萌芽》月刊第一卷第三期发表，随后又被翻译为外文，刊登在国际革命作家联盟的刊物《国际文学》上。他还翻译了高尔基、卢察尔斯基等苏联作家的作品。

这是柔石向往的生活，写小说，编杂志，还有一帮有着相同志向和理想的朋友。他们可以畅谈文学，畅谈理想，畅谈这个国家的未来。而这一切，在宁海西门的那个三合院子里，是不可以想象的。在那里，他只能怔怔地望着天，幻想云朵会不会飞过自己的头顶。而此时，他的哥哥则用心地帮助自己的父亲打理“赵源泉”咸货店。他的母亲说，你每天坐着看天，真闲呢，看你哥哥，从正月初一一直忙到年满，没有一天安坐过。他的父亲更是对柔石的行为不解，说，两兄弟一个时刻忙，却很高兴，一个闲着玩，反愁煞似的。现在好了，他不用再过那种抬头看天的日子了，他可以真正做些事情了。

就这样，柔石一直居住在上海。除了1930年冬，他为了母亲60岁的寿诞匆匆回过一次位于宁海西门的这个三合院子外，就再也没有回来过。严格来说，这个院子的西厢楼房三间是真正属于柔石的。1927年，按照当时的习俗，他和哥哥平西分家，他分得了西厢楼房三间。这三间房的北首间是柔石和他的妻子吴素瑛在1920年完婚时的洞房，楼上的南首间则是柔石平时读书写作的书房，而小堂前则是柔石会晤亲友的场所。故居东侧原有一小石桥，桥上镌有“金桥柔石”四字，“柔石”的笔名也是由此而来。虽然这个房子的一部分是属于柔石的，但它却极少得到主人的青睐。事实上，从1918年的秋天开始，这栋位于城关西门的三合院房子便成了柔石生命中的驿站。虽然他生于此，长于此，并在此处完成了自己的婚姻，但他并未把这个地方当作他一生的所在。

1930年冬，柔石的母亲60寿诞，柔石回来了一趟。很快，他就匆匆离去，与母亲的寿辰相比，在上海有他认为的更重大的事情要做。1931年1月17日，柔石到上海东方旅社参加中国共产党召开的一次秘密会议。特务包围了会场，柔石等十一个人被捕。1931年2月7日深夜，被秘密枪杀在上海龙华淞沪警备司令部后面的荒地上，身中十弹。

自此，在宁海西门的“方祠”旁边就多了另一个故居，这是柔石的故居。