Država je nastala godine 384. kada je Qiang poglavica Yao Chang, koristeći naglo slabljenje države Raniji Qin poslije poraza na rijeci Fei, digao ustanak i osnovao nezavisnu državu. Pod njegovim sinom Yao Xingom je Kasniji Qin uspio anektirati ili vazalima učiniti veliki broj država sjeverne Kine. Država je, međutim, značajno oslabila 407. nakon pobune Helian Boboa, koji je od teritorije Kasnijeg Qina odmetnuo državu Xia. Tu je slabost konačno iskoristio Liu Yu, regent južne kineske dinastije dinastije Jin koji je 417. pokorio državu Kasniji Qin i pogubio njenog posljednjeg vladara Yao Honga. Usprkos relativnog kratkog trajanja, Kasniji Qin je imala važnost za dalji tok kineske historije s obzirom da je, zahvaljujući misionarskom radu redovnika Kumarajive, bila prva kineska država koja je službeno prigrlila budizam.