Serdivan’ın da içinde bulunduğu Sakarya (Adapazarı) bölgesi, verimli toprakları, ormanları, akarsuları, gölleri ve önemli göç yolları üzerinde bulunması dolayısıyla eski çağlardan beri sırasıyla Frigler, Bithinyalılar, Kimmerler, Lidyalılar, Persler, Romalılar ve Bizanslıların hâkimiyeti altına bulunmuştur.
Roma Bizans devrinde bugünkü Adapazarı havzasında yerleşim izine rastlanmamaktadır. Osmanlı Devletinin bölgeyi fethinden sonra 1300’lü yılların ilk yarısında göçebe Türk boyları bu bölgeye yerleşmişlerdir.
Serdivan’ın yerleşim yeri olarak kullanılmasının Adapazarı’ndan daha sonra olduğu belirtilmektedir. İlk olarak 17. yüzyılda buraya yerleştirilen Rum tebaa tarafından kurulduğu tahmin edilmektedir. İlk adının “Petrades” olduğuna ilişkin bilgiler bulunmaktadır. Zaman içinde “Sardovan” ve bugünkü ifadeyle “Serdivan” adı kullanılmaya başlamıştır.
Bugünkü Serdivan yerleşim yerinin kurulması, Lozan Antlaşması çerçevesinde yapılan nüfus mübadelesine bağlıdır. Mübadele sürecinde, Serdivan’da ikamet eden Rum nüfus giderken yerine Müslüman nüfus gelmiştir. Yeni gelenler, Rumların boşalttığı mekânlara değil, yeni bir alana (bugünkü Serdivan) yerleşmiştir.
1923 yılında 400 hane ile (mübadele ile gelen) kurulan Serdivan Köyü’nün bir yerleşim planı yapıldığı bilgisi bulunmaktadır. Söz konusu yerleşim planında, üç ana yol ve bu yollara çıkan ara sokaklar öngörülmüştür. Ayrıca her evin iki cephesinin yola bakması ve evler ile diğer mekânların birbirlerinin görüşünü engellememesi hedeflenmiştir. Fakat kısa süre sonra salgın hastalık gibi sorunlar nedeniyle Ege Bölgesine göç başlamış ve köyün nüfusu kısa sürede 2/3 oranında azalmıştır. Geride kalanlar ise yerleşim planını ve arazi kullanım ilkelerini uygulamadan yapılaşmayı sürdürmüşlerdir.
Serdivan Köyü daha sonraki yıllarda da göç almaya devam etmiştir. 1928 yılında Arnavutluk, 1934 ve 1951 yıllarında Bulgaristan ve Yugoslavya ile 1948’de Karadeniz Bölgesi’nden gelenlerle nüfusu daha da artmıştır.
Köy statüsünde olan Serdivan’da 2 Şubat 1956 yılında Belediye teşkilatı kurulmuştur. 12 Eylül 1980 sonrası kurulan Milli Güvenlik Konseyi’nin tüm ülke genelinde il merkezi belediyelerine yakın ya da iç içe geçmiş diğer belediyelerin kaldırılması ve ana belediyeye bağlanmasını öngören 34 sayılı kararı gereği 13 Nisan 1981 tarihinde Adapazarı Belediyesi ile birleştirilmiş ve tüzel kişiliği kaldırılmıştır. Bu karardan kısa bir süre sonra, 1 Şubat 1982 yılında tekrar belediye teşkilatı kurulmuştur.
6 Mart 2008 tarih ve 5747 sayılı Kanun ile Serdivan ilçe statüsüne geçmiştir. Kazımpaşa ve Yazlık alt kademe belediyeleri ile Adapazarı Belediyesine bağlı Böşköprü mahallesinin katılımıyla Serdivan Belediyesi’nin görev ve yetki alanı genişlemiştir. Son durum olarak, Serdivan Belediyesi, Sakarya Büyükşehir Belediyesi metropoliten alanında yer alan bir ilçe belediyesi olarak varlığını sürdürmektedir.
Ayrıca, 1992 yılında kurulan Sakarya Üniversitesi'nin kampüsü de Serdivan ilçe sınırlarında bulunmaktadır.