뉴욕에서 태어났다. 그가 열두 살 때 부유한 무역상이던 아버지가 사업에 실패하고 죽자 가세가 급격히 기운다. 학교를 그만두고 가게 점원, 은행원, 농장 일꾼, 교사 등을 전전하나 변변한 일자리를 얻지 못하자 무역선과 포경선, 군함을 타고 남태평양 여기저기를 떠돈다. 이때의 경험을 바탕으로 『타이피』(1846) 『오무』(1847) 같은 해양모험소설을 발표해 호평을 받으며 작가의 길로 들어선다. 그러나 문명 비평과 사회 풍자를 담은 실험작 『마르디』(1849)를 발표하면서 평론가들에게 냉대받고 책 판매도 부진해 생활고에 시달린다. 그의 최고작이자 미국 현대문학의 걸작으로 꼽히는 『모비 딕』(1851) 또한 그가 죽을 때까지 초판 삼천 부도 채 팔지 못했을 만큼 외면받는다. 절망과 분노 속에서 은둔하면서도 그는 자신이 속한 시대와의 갈등 그리고 창작의 고뇌를 담은 『피어』(1852) 「필경사 바틀비」(1853) 등의 뛰어난 중단편과 장편, 그리고 방대한 시편을 발표한다.
상징이 풍부한 작품들로 미국 사회와 서구 문명에 대한 탁월한 통찰력과 비판의식을 보여준 허먼 멜빌은 1920년대에 이르러 재평가되면서 오늘날 19세기 미국문학을 대표하는 작가로 꼽히고 있다.