1877년 독일 남부 뷔르템베르크의 칼프에서 태어나 목사인 아버지와 신학계 집안의 어머니 밑에서 자랐다. 1890년 신학교 시험 준비를 위해 괴핑엔의 라틴어 학교에 다니며, 뷔르템베르크 국가시험에 합격했다. 1892년 마울브론 수도원 학교를 입학했으나 기숙 생활에 적응하지 못하고, 시인이 되기 위해 도망쳐 나왔다.
1899년 낭만주의 문학에 심취한 헤세의 첫 시집 《낭만적인 노래》와 산문집 《자정 이후의 한 시간》이 출간됐다. 특히 첫 시집《낭만적인 노래》는 라이너 마리아 릴케의 인정을 받았으며, 문단에서도 헤세를 주목하기 시작했다. 1904년 장편 소설 《페터 카멘친트》를 통해 유명세를 떨치게 되었으며 문학적 지위가 확고해졌다. 같은 해 아홉 살 연상의 피아니스트 마리아 베르누이와 결혼했으나, 1923년 이혼하고 스위스 국적을 획득했다.
1906년 헤세의 자전적 소설 《수레바퀴 아래서》를 출간했다. 1919년 자기 인식 과정을 고찰한 작품 《데미안》과 《동화》 《차라투스트라의 귀환》을 출간했다. 인도 여행을 통한 체험은 1922년 출간된 《싯다르타》에 투영되었다. 1946년 《유리알 유희》로 노벨문학상과 괴테상을 동시에 수상했다.
1962년 8월 9일 세상을 떠날 때까지 자기실현을 위해 한시도 쉬지 않고 꾸준히 노력했다. 뇌출혈로 사망한 후 아본디오 묘지에 안치되었다.