소금장수를 하던 아버지는 장제스가 여덟 살이던 때 청일전쟁이 일어나고 쑨원이 흥중회를 조직하며 본격적으로 혁명운동에 나서던 1894년에 세상을 떠났다.
그 뒤 홀어머니 밑에서 자랐는데 집안은 배를 곯을 정도는 아니어도 상당히 궁색했으며 장제스는 어린아이의 몸으로도 잠시도 쉴 새가 없이 집안일을 거들고 또 공부에 힘써야 했다고 한다. 그의 어머니는 유교적 예법이 몸에 밴 사람으로서 어린 장제스에게 행동 하나하나를 예법대로 하기를 강요하고 조금만 어긋나도 가차 없이 매를 들었다.
이때 하던 공부도 당연히 전통적인 한학이었다. 하지만 세상은 빠르게 바뀌고 있었고 17세가 되던 해에 그는 서양식 학문을 익히기로 결심하고는 잠시 근대식 고등학교에 다니다가 1907년에 일본으로 가서 도쿄의 진무 학교에 입학했다. 사관생도 후보를 가르치는 이 학교를 다니며 그는 쑨원과 그의 삼민주의를 알게 되었고 일본식으로 소화된 ‘근대 문명’을 익혔다. 조국을 서구 열강의 침략에서 지키는 동시에 근대적으로 개혁해야 한다는 문제의식에 확실히 접속한 셈이다.
그리고 당시의 쑨원과 마찬가지로 그 구체적인 방법은 “일본을 배우자”는 것이었다. 또한 쑨원보다 젊었으며 군대식 기율이 몸에 맞았던 장제스는 일본의 군국주의 문화에도 심취했다. 그래서인지 1910년에 진무 학교를 졸업하고 사관학교 진학이 당장에 어렵게 되자 다카다 포병연대에 들어가 사병으로 1년 동안 복무했다. 일본이 대한제국을 병합하고 본격적으로 제국주의와 군국주의의 깃발을 휘두르기 시작하던 때였다.