فلم يزل في السجن بقية أيام السفاح وأيام المنصور وأيام المهدي وأيام الهادي وبعض أيام الرشيد وأخرجه الرشيد وهو شيخ ضرير فسأله عن خبره فقال يا أمير المؤمنين حبست غلاما بصيرا وأخرجت شيخا ضريرا فقيل إنه هلك في أيام الرشيد وقيل عاش إلى أن أدرك خلافة الأمين.

  شهد يوم الزاب مع مروان في إحدى الروايتين إبراهيم بن الوليد بن عبد الملك المخلوع الذي خطب له بالخلافة بعد أخيه يزيد بن الوليد بن عبد الملك فقتل فيمن قتل وفي الرواية الثانية أن إبراهيم قتله مروان الحمار قبل ذلك.

  لما انهزم مروان يوم الزاب مضى نحو الموصل فمنعه أهلها من الدخول فأتى حران وكانت داره ومقامه وكان أهل حران حين أزيل لعن أمير المؤمنين عن المنابر في أيام الجمع امتنعوا من إزالته وقالوا لا صلاة إلا بلعن أبي تراب فاتبعه عبد الله بن علي بجنوده فلما شارفه خرج مروان عن حران هاربا بين يديه وعبر الفرات ونزل عبد الله بن علي على حران فهدم قصر مروان بها وكان قد أنفق على بنائه عشرة آلاف ألف درهم واحتوى على خزائن مروان وأمواله فسار مروان بأهله وعترته من بني أمية وخواصه حتى نزل بنهر أبي فطرس وسار عبد الله بن علي حتى نزل دمشق فحاصرها وعليها من قبل مروان الوليد بن معاوية بن عبد الملك بن مروان في خمسين ألف مقاتل فألقى الله تعالى بينهم العصبية في فضل نزار على اليمن وفضل اليمن على نزار فقتل الوليد وقيل بل قتل في حرب عبد الله بن علي وملك عبد الله دمشق فأتى يزيد بن معاوية بن عبد الملك بن مروان وعبد الجبار بن يزيد بن عبد الملك بن مروان فحملهما مأسورين إلى أبي العباس السفاح فقتلهما وصلبهما بالحيرة وقتل عبد الله بن علي بدمشق خلقا كثيرا من أصحاب مروان وموالي بني أمية وأتباعهم ونزل عبد الله على نهر