1927年，蒋介石发动“四一二”政变后，沈钧儒由于思想左倾，积极靠拢共产党，遭到国民党右派的忌恨，一度被捕押往南京，后经人营救，才免杀身之祸，恢复自由。此后，沈钧儒前往上海，担任上海法科大学教务长，不久又从事律师职业，成为了一位主持公理和正义的“政治律师”。

1931年，“九一八”事变后，沈钧儒积极投入抗日救亡运动。1935年，“一二·九”运动爆发后，他联合马相伯、邹韬奋、章乃器、陶行知、李公朴等人，成立了上海文化界救国会。随后，他又联合上海其他各界救国会组织，成立了上海各界救国联合会，沈钧儒被一致推选为主席。

此后，“每次爱国群众游行，走在队伍最前面的，总是这位身材矮小、胸前飘洒着美髯、步履沉着坚定的爱国长者”。陶行知曾感慨地说，沈钧儒“在上海领导民众运动，比少年还要英勇，参加游行，走四五十里不觉疲劳”；并写诗赞道：“老头！老头！他是中国的大老，他是同胞的领头。他为了中国得救，他忘了自己的头。唯一念头，大众出头。”

1936年5月31日，在宋庆龄、沈钧儒等人的努力下，全国各界救国联合会在上海宣告成立，要求各党各派立即派遣代表进行谈判，停止内战，一致对外，制定共同抗敌纲领，建立统一的抗敌政权。会后，沈钧儒、章乃器去见上海市长吴铁城，希望得到当局认可，争取合法公开。不料，吴铁城不但不予承认，反而要求解散救国会，否则就把他们拘留起来，并嘲笑说：“你们要做民族英雄吗？那就让你们尝尝民族英雄的滋味吧！”沈钧儒闻之大怒，反问道：“国难深重，市长不嘲笑汉奸卖国贼，而嘲笑起民族英雄，这使我们感到吃惊！市长难道怕民族英雄太多吗？民族英雄有什么罪过？”从而严词拒绝了吴铁城的要求，表示宁可坐牢而不愿卖国。