Родился в 1815 году, в Джорджии.

Окончил академию Вест-Пойнт, участвовал в войне с семинолами и Мексиканской кампании, по окончании которой преподавал в родной академии. Автор учебника «Rifle and Light Infantry Tactics / Тактика стрелков и легкой пехоты», хорошо известного как на Юге, так и на Севере.

В армии Конфедерации с марта 1861 года. Командовал корпусом в сражении при Шайло, в котором был ранен. Участвовал в обороне Коринфа и Туллахомской кампании.

Сложные личные отношения с генералом Брэкстоном Брэггом заставили Харди перейти под командование Джозефа Джонстона, но вскоре он был вынужден вновь служить в Теннессийской армии Брэгга.

Командуя корпусом в этой армии, Харди принял участие в Чаттанугской кампании и битве за Атланту. Руководил обороной и эвакуацией Саванны.

Конец войны Харди встретил на посту командующего обороной атлантического побережья в армии Джозефа Джонстона. В своем последнем сражении при Бентонвилле, в начале апреля 1865 года, Харди потерял своего единственного сына, служившего в его корпусе и убитого в этом сражении.

После войны он удалился в свое поместье в Алабаме, где и скончался в 1873 году.