黎家对子女的教育不仅仅沉迷于中国传统文化，而是勇于接受新生事物。祖父顺应形势发展，让孩子们尽量多地接触新学。1905年，祖父将他办了多年的私塾关掉，重新开办了一所新式学校“长塘杉溪家庭学校”。学校的课程除了《四书》、《五经》、古文诗词，后来又陆续增加了格致、算术、物理、音乐、历史、地理、自然和汉语拼音等课程，音乐课里包括民间音乐、锣鼓、笛子、二胡等内容。学校老师除了祖父教古文，他的诗友教诗词外，又到长沙、湘潭等地聘请懂新学的年轻老师教授新学。这种中西学兼收、雅俗共鉴的教学内容和方式，在当时的乡下是闻所未闻的，即使在湘潭城里亦不多见，这说明祖父的思想并非食古不化，而是敢于吸收新思想，与时俱进。同时，这种兼容并包的教学方式，引起了学生们的极大兴趣，不仅给他们打下了坚实的中西文化的基础，开阔了学生的眼界与思想，也为他们以后专学、博学创造了条件。

学校所教的学生，都是黎家的子女，也有一些本族或本家的兄弟姐妹、侄儿侄女，还有本村贫困人家的孩子。一般适龄入学，也有年龄较大的学生。有趣的是，当教授新课时，齐白石也学过一阵子。看到长髯飘飘的齐白石端端正正和自己坐在一起认真听讲、认真做笔记，学生们一方面感到怪异，另一方面，也无不为其认真好学而折服。

先后在长塘杉溪学校就读的有黎氏八兄弟中的老五、老六、老七、老八，黎氏三姐妹中的老二、老三。父亲虽然没有在杉溪学校读过书，但洋溢在家庭里那种勤学思辨、宽容自由的良好氛围，无疑对他的一生影响极大。