《小学识字教本》可以追溯到陈独秀南京入狱期间。1932年10月16日，陈独秀被关押在南京老虎桥模范监狱里，与他同监狱的濮清泉（濮德治）在《我所知道的陈独秀》一文中谈到陈独秀的监狱生活时写道：“他对文字学最有兴趣，成天埋头钻研《说文》。据他说从文字的形成和发展，可以看到社会和国家的形成和发展。我说有什么用处？他说，你不知道，用处可大了，中国过去的小学家（研究《说文》的人）,都拘泥于许慎、段玉裁的《说文解字》和注，不能形成一个文字科学，我现在用历史唯物论的观点，想探索一条文字学的道路，难道没有用？我当然不劝你们青年人去研究这种学问，可是我已搞了多年，发现前人在这方面有许多谬误，我有责任把它们纠正过来，给文字学以科学的面貌。我不是老学究，只知背前人的书，我要言人之未言，也不标新立异，要做科学的探讨。”

《小学识字教本》初名《识字初阶》,研究汉字的规律，解决汉字难认、难记、难写的问题。这是他倾注了很多热情，用心推究而成的书，也是一部多灾多难的书。在狱中，他完成了初稿。

此后陈独秀续写书稿，1940年11月上编完成。国立编译馆向陈独秀约编教师用的中国文字说明书稿，并预支稿费5000元。但时任教育部长陈立夫致函陈独秀，书名用“小学”二字太深奥，要改书名为《中国文字基本形义》,陈独秀复信不允。这样一来，书稿只是油印了50份。陈独秀虽然经济拮据，但也不肯去动用预支稿酬款。在贫病交加之中，他仍继续撰写此书，他托魏建功、台静农、何之瑜等人为他抄录、整理原稿并联系出版之事。同时，他续写下篇。1942年5月13日，当他写到“抛”字时，陈独秀病倒了，遂成绝笔。

影响陈独秀写作进度的另外一个原因是居所失窃。《小学识字教本》书稿及其他尚未出版的书稿的被窃，“偷儿也来光顾过他一回，弄走了两口箱子，到后面山洞头打开一看，全是稿子，偷儿气得要死，点把火给烧了”。这对已经贫病交加的陈独秀来说，无疑是雪上加霜。于是他带着病体，凭着记忆重写此书。

陈独秀的人生轨迹，正如陈长璞所述，爷爷的一生，为开启民众心智沥尽心血，为社会运动历经坎坷，始终顽强地坚持着爱国、民主、科学、社会主义的信念。