1912年（民国元年），按南京临时国民政府颁布《普通教育暂行办法》，吉林省将清末省内所设立之小学堂一律改为小学校，分初等、高等两级。初等一般称国民学校，为国家规定之义务教育学校，由镇、乡负责设立与管理；高等小学由县创办和管理。这时小学的分布多在城镇。

为普及义务教育，又鉴于私塾仍在农村间广为存在的现实，1915年，吉林巡按使颁发《私塾考查规程》和《推广小学办法》，要求各县在乡镇特别是广大农村普遍设立初级小学校，并对私塾着手进行改造。为推行义务教育，在省会吉林市筹设义务教育模范区，同时也要求各县均要仿效。为此，省长公署相继出台一套较为系统的有关推行义务教育的法规和章程，对普及义务教育的目标要求、方法步骤、经费筹措、组织领导等均做了明确规定。对较好的私塾，经过认真整顿，允许改为代用国民学校，承担普及义务教育的任务。同时还鼓励各种形式办学。1915年8月，私立自强学校在长春成立。1920年10月，吉长铁路管理局创办路局的附设小学，招收铁路员工子女上学，免收学费。

由于采取上述措施，吉林省义务教育的步伐较快，各地纷纷创办小学。据1920年11月统计，全省有小学校1349所（含私立250所，女子小学80所），其中国民学校1227所（含代用国民学校）、高级小学校122所。在校学生67073名，其中女生为6353名。女生和私立学校的增长速度比较快。学龄儿童的入学率由1910年近10％增至17％。

1924年，根据民国政府教育部的《学校系统改革案》，废止国民学校和高等小学校的称号，统称小学校，分初级和高级，前4年为初级，可单独设校，后2年为高级。这时义务教育仍在积极倡导，各市县均成立义务教育委员会，专抓该项工作。为提高义务教育的普及率，采取了一些变通的办法，如对在家自修初小课程的，经检验合格者，也发证书。但终因教育经费过紧，承办者不得力，致使原订吉林省普及义务教育的计划未能实现。此外，从1915年至1924年，由于日本帝国主义势力的侵入，南满铁路当局利用其特权，在长春铁路附属地内办学，有长春公学堂及第一、第二小学校，以收日本侨民子弟为主，兼收少数中国儿童。进行的是帝国主义殖民教育。

当时小学教育的内容有所革新。民国伊始，即明确提出要废除读经讲史，所学知识强调实用。在国文课中，加授普通书信、契约、广告和记事文的写作训练，算术科加强珠算训练，还加授簿记教育以及掌握本地钞票用法等，亦注重训练动手能力，使学生会用本地材料制作日用品。1918年开始推行注音字母，国语科的文言文改为语体文。1924年，全省试用教育部颁行的《新学制课程标准纲要》，各学校均据此制定具体的教学内容，对初级和高级小学的培养目标和教育标准均有明确的要求。但在改文言文为语体文的过程中，一度有过反复。直至1930年省教育厅奉教育部训令，小学禁用文言文之后，语体文方才正式确定为国文科的教学内容。这时的小学教育较之清代末期更正规化了，有固定的学制与教学计划。开始，初等小学作为全民义务教育，其课程以修身、国文、算术、体操为必修课，城镇初小又将图画、手工、唱歌列为必修课。高等小学又另加了本国历史、地理、英文、缝纫、农业等科目。

为培养学生具有好的品质，在教学过程中还时时进行孝悌、亲爱、信义等传统道德教育，对女生另加做贞洁淑女的教育。注意培养学生爱国家、爱民族的观念，将原来的修身科改为公民科，讲授关于国家及国际方面的有关事务和公民的责任以及发生过的国耻事件等，让学生牢记于心，增强社会责任感。1929年东北易帜后，根据南京国民政府的要求，又突出以“总理遗教”陶冶儿童，对学生进行以“忠孝仁爱，信义和平”为基本内容的国民道德教育。在小学各年级均开设党义课，初级小学讲孙中山先生革命活动史实的故事，高级小学讲授“三民主义浅说”，使学生对中国国民党党义有初步和具体的了解与认识。

对小学生的考核，按当时教育部颁发的《学生学业成绩考查规程》的要求，小学生的成绩分平时与考试两种。平时成绩由教师考查随时判定；考试成绩则通过考试分学期、学年、毕业三种，评定按等级制，分甲（80分以上），乙（70分以上），丙（60分以上），丁（不满60分）。丙等及格，丁等为不及格，要留级。两次留级后，仍不及格令其退学。学生升级和毕业成绩，除学业分数外，另参酌操行成绩后再确定。当时对操行的考核比较严格。1930年，省教育厅训令各小学根据《中国国民党童子军总章》，组建中国国民党童子军，凡年满12岁以上儿童均可吸收其加入。至1931年“九·一八”事变前，童子军这一组织，已在吉林省内部分县市较为普遍的建立起来。在吉林、长春以及榆树、延吉、敦化、伊通、农安、和龙等县的模范小学和相关的高级小学校均建立了国民党童子军团。