자는 치천(稚川), 호는 포박자(抱朴子)이고 신선술에 능했다. 본래 산동성 동부의 호족 집안 출신이며, 할아버지와 아버지는 오나라의 관리였다. 오나라가 갈홍이 태어나기 2년 전에 망하자 강소성으로 이주했다고 전해오고 있을 뿐이다.