南霁云是魏州顿丘县人。少年时贫贱，替人驾船。安禄山反叛，钜野县尉张沼起兵讨贼，提拔他为军官。尚衡攻打汴州贼将李廷望，用他为先锋。被派遣到睢阳，与张巡商议事情。退下来后对人说“：张公开诚布公待人，真是我应该追随的人。”于是留在张巡处。张巡坚持劝他回去，也不走。尚衡携带金银布帛来迎接，霁云谢绝不受，于是侍奉张巡，张巡厚加礼遇。开始城被围时，筑台招募敢死之士，几天了都没人敢应征。不久，有人忍痛吞声悲泣而来，原来是霁云。张巡与之相对流泪。南霁云擅长骑马射箭，见到贼兵要近到百步以内才发射，无不应声而倒毙。
子南承嗣，曾任涪州刺史。刘辟反叛，因疏于防范而被贬到永州。