Kars Çayı’nın üzerindeki ve iç kale altındaki üç kemerli Taş Köprü,1579 yılında Osmanlılar döneminde Sultan III. Murat’ın emri ile Lala Mustafa Paşa tarafından,şehrin imarı sırasında yapılır.1715 yılında yaşanan taşkın sırasında yıkılan ve sadece ayak temelleri kalan köprü,dört sene sonra Kars eşrafından,Hacı Ebubekir Karahanoğlu tarafından yeniden yaptırılır.1877-1915 yılları arasındaki Rus işgali sırasında sökülen Taş Köprü’nün kitabesi tahrip edilir. Köprüyü yaptıranların torunlarından Müstak Hatifi Karahanoğlu,Hattat Hamit Aytaç tarafından yeniden yazılan kitabeyi yerine konmak üzere Kars’a gönderir,ancak bu yazıt yolda kaybolur.Daha sonra,Hamit Aytaç'ın öğrencilerinden birinin yazdığı kitabe,orta kemer üzerine yerleştirilir.Köprü o zamanın parasıyla,4200 kuruşa mal olur.Ustalar günde iki paraya,işçiler bir paraya çalışır.40 para bir kuruş olduğuna göre,köprünün yapımı bir hayli masraflı olmuştur...