张治中原定于13日拂晓前开始攻击，但蒋介石因英、美、法、意四国驻华使节等方面正在调停，要张“等候命令，并须避免小部队之冲突”。同日上午9时15分，日本陆战队水兵冲出租界，射击守卫横浜路东宝兴路段的中国保安队，中国军队还击。10点半，商务印书馆附近的中国军队与日军发生小冲突。同日黄昏，八字桥附近日军炮击中国军队，中国军队以迫击炮还击。日军并以坦克掩护步兵攻击八十七师阵地，日舰连续炮击上海市中心。14日拂晓，张治中奉蒋介石令，发起总攻。同日，中国空军出动，轰炸日第三舰队旗舰及在虹口的海军陆战队本部。淞沪之战爆发，意味着中国在华北之外，又开辟了第二战场，名副其实地进入“全面抗战”。很快，淞沪战场就成了中国对日作战的主战场。

战争初起，中国方面以优势兵力进攻日军在沪各据点，双方在上海虹口、杨树浦等处进行巷战。15日至18日之间，中国军队进展至闸北、虹口、杨树浦之线。20日夜，推进至汇山码头，将日军压迫至黄埔江左岸狭隘地区，同时包围日海军陆战队司令部等据点。但是，日军在上海的据点大都以钢筋、水泥建成，异常坚固。8月17日，张治中向蒋介石报告说：“最初目的原求遇隙突入，不在攻坚，但因每一通路，皆为敌军坚固障碍物阻塞，并以战车为活动堡垒，终至不得不对各点目标施行强攻。”这种攻坚战要求中国军队必须配备相应的重武器。张治中报告说：“本日我炮兵射击甚为进步，命中颇佳，但因目标坚固，未得预期成果。如对日司令部一带各目标命中甚多，因无烧夷弹，终不能毁坏。”仅有的三门榴弹炮，一门因射击激烈，膛线受损；一门膛炸；一门不能射击。这种情况，自然无法克敌制胜。

中国军队当时是否完全缺乏攻坚武器呢？并非。关键在于何应钦没有想到，蒋介石也没有想到。11月20日，蒋介石检讨说：“绪战第一星期，不能用全力消灭沪上敌军。何部长未将所有巷战及攻击武器发给使用，待余想到战车与平射炮，催促使用，则已过其时，敌正式陆军，已在虬江码头与吴淞登陆矣。敬之（指何应钦——笔者）误事误国，实非浅尠。”

蒋介石对张治中的指挥不满意。8月20日，陈诚向蒋介石提出，华北战事扩大已无可避免，敌如在华北得势，必将利用其快速装备南下直扑武汉，于我不利，不如扩大沪事以牵制之。蒋介石对陈诚的这一战略思想没有表示肯定或否定，仅答以一定要打。同日，军事委员会将江苏南部及浙江划为第三战区，蒋介石兼任司令长官，顾祝同为副司令长官，陈诚为前敌总司令。张治中被任命为淞沪围攻区第九集团军总司令，张发奎被任命为杭州湾北岸守备区第八集团军总司令，守卫上海左翼浦东。这些举措，说明蒋介石开始重视上海战场，但是，蒋当时还没有在上海长期作战的思想准备，对这次战争的艰难与严酷也还缺乏认识。当日日记云：“本日沪战颇有进展，南口阵地已固，此心略安。对英提案运用其能实现，使倭得转圜离沪，以恢复我经济策源地，以今日战况或有退却可能也。判断情报，倭寇陆海军意见纷〔分〕歧，政府内部不一致，已陷于进退维谷之势也。”次日，日本拒绝英国调停，蒋介石感到事态严重，“忧心倍增”。22日，蒋介石下令成立第十五集团军，以陈诚为总司令，守卫上海右翼长江江岸。