1927年，郑州市政筹备处成立后，积极实施河南省主席冯玉祥颁布的十项治豫大纲，很快在郑州建一平民小学校，受到老百姓的关注和欢迎。 　　

　　同年四五月份，市政筹备处派员经过社会调查，看到南菜市街，乾元街，南、北城壕（现南、北顺城街）附近，人口稠密，居民多是生活贫苦的工人，以出苦力的外乡人和做小 生意为营生的，很多儿童流散街头，难以就学。遵照大纲中提出的“建立学校，推行义务教育，以开民智”的要求，和冯先生“要使人人有机会受教育，读书识字”的倡导，市政筹备处公益科派人实地查看，于7月份在县城西南门外的平民公园内辟20多间房屋，划出一个校园，派一赵姓科员，开始筹办郑州平民小学校，先期从开封女师招聘教师两名，开设初小一二年级两个班，每班招男女生40人，于9月份如期开学。因平民小学实行免收学费，家长们得知都高兴地奔走相告，纷纷送孩子们来上学，在社会上引起很强烈的反响。

　　1928年，正式委派市政公益科科员李荣家先生任平民小学校校长，由于李校长对办平民教育热情很高，即拟将其扩充，在平民小学校原有初小基础上，再添两个班，增设高小五年级一个班，招男、女生50人。按教育部规定学生学习课程有国语、算术。还教孩子们学些手工、图画、唱歌等，同时还附设一平民夜校班，不限年龄、性别，学校编写一些简单的字语，旨在帮助扫盲教育。后经批准，更名为郑州市第一小学。

　　学校扩大后，教职工增至8人，学生较多，教室远不够使用。又将5间花房改成教室，添置50套课桌、椅，供高小年级使用，但仍不能从根本上解决问题。因此，学校采用了对初小的班级实行复式教学，让一二年级和三四年级分别在同一教室轮流上课。学校没有电灯，教室照明用的是煤油吊灯。当时学校有8名教职工，有5人是教员，多为兼职，校长兼高小班两门课，其他有的兼职校务、事务、训育课等。学校从上到下把儿童接受启蒙教育为己任，诲人不倦，教师言传身教，给孩子们留下良好的记忆。

　　当时的第一小学虽条件简陋，但平民学校实行的是免收学费，还辟出适中的校址，幽静的环境，解决了儿童受教育的困难，对这种创举和对儿童的关爱，当时受到社会的广泛称赞和平民百姓的热烈欢迎。