Mersin’in tarihteki ilk adı Kizzuvatna olduğu bilinmektedir. Ardından Şehir, Hitit’ler döneminde Kue, sonra ise Kilikya olarak adlandırılmıştır. Bölgedeki ilk yerleşimin Cilalı Taş Devri’nde olduğu bilinmekle birlikte bugüne kadar yapılan tüm kazılar yörenin geçmişte çok önemli bir merkez olduğunu ortaya çıkarmıştır. Gözlükule Höyüğündeki çalışmalarda, Yeni Taş Çağı’ndan İslam uygarlıklara kadar 33 katman olduğu tespit edilmiştir. Ayrıca bu kazılarda, üst katmanlara doğru bulunan tarımsal aletler ile çanak-çömlekler, toplumun üretim ekonomisi ve toplumsal bilinç açısından gelişimini ortaya koymaktadır. Mersin yöresinin yazılı tarihi ise; Hurri, Luvi, Kizzuvatna gibi krallıkların kültürleriyle daha sonraları yöreye egemen olan Hitit, Asur ve Babil krallıkları tarafından oluşturulmuştur. M.Ö. 528’de bölge Perslerin, M.Ö. 527’de Yunanların, M.Ö. 334 ise Makedonların eline geçmiştir.
Antik Yunan döneminde adı Zephyrion olan şehirde ticaret yapıldığı ve adına para basıldığı bilinmektedir. Antik Yunan’ın ardından Kilikya ve Roma eyaletinin bir parçası olan şehir, Roma İmparatorluğu döneminde adını imparatorun adından alarak Hadrianopolis olmuştur. M.Ö. 620/621 yıllarında ünlü felsefeci olan Roma devlet adamı Marcus Tullius Cicero şehrin valisi olduğu bilinmektedir. Şehir 7. yy. da Emeviler tarafından fethedilmiş olup, sonrasında da sırasıyla Mısırlı Tolunoğulları, Bizans İmparatorluğu, Klikya Ermeni Krallığı, Karamanoğlu Beyliği, Memlük Devleti ve 1473 yılında Ramazanoğulları Beyliğince fethedilmiştir. Ardından Osmanlı İmparatorluğu Ramazanoğulları Beyliği’ni ele geçirince vasal bir devlet şeklini alan şehir, 1607 yılında bölgenin tamamen Osmanlı İmparatorluğunun himayesine geçmesiyle imparatorluğun bir parçası haline gelmiştir.
Amerikan İç Savaşı esnasında, Pamuk önemli bir ticaret malı haline gelmesiyle birlikte, 1866 yılında genişletilen şehir önemli bir ticaret merkezi halini almıştır.
1918 yılında Fransız ve İngiliz askerleri tarafından işgal edilen şehir 1922 yılında Mustafa Kemal Atatürk ordusu tarafından kurtarılmasının ardından 1924 yılında il yapılmıştır. Mersin, 20 Mayıs 1933 yılında İçel (büyük Mersin) ilini oluşturmak üzere İçel iline katılarak ilin merkezi Mersin yapılmış, eski İçel ilinin merkezi olan Silifke ise ilçe olmuştur.
Mersin, 2 Eylül 1993’te çıkarılan kanun hükmünde kararname ile büyük şehir olmasının ardından, 28 Haziran 2002’de ilin İçel olan adı, Mersin olarak değiştirilmiştir. 2004 yılında çıkarılan kanun sayesinde ilin sınırları genişletilmiş, ardından 2012 yılında çıkarılan diğer bir kanun ile 2014 Türkiye yerel seçimleri sonrası büyükşehir belediyesinin sınırları il mülki sınırları olmuştur.