南京市第一中学溯源于光绪三十三年（1907年）创设的崇文学堂，校址为清代江宁府署箭道、西花园旧址。不久思益学校（1903年创办）并入，其后学校三易校名。
1927年，李清悚先生创办首都中区实验学校，实践陶行知教育思想。1933年，学校改称南京市立第一中学。1937年抗战爆发，部分师生西迁，与苏浙皖入蜀师生联合成立国立二中。1945年，学校于原址复校，推行“真教育”。
新中国成立后首任校长朱刚倡导“为祖国而教，为祖国而学”。1953年，学校被确定为14所江苏省重点中学之一。1998年，学校深化素质教育，推行“中学导师制”。2000年，学校被评为国家级示范高中、江苏省模范学校。2004年，被评为首批江苏省四星级高中。
2010年，学校明确了“培养人格健全、具有创新素养的现代公民”的育人目标，积极探索创新人才的培养模式，开启国际化进程，续写新的百年华章。