Penyebaran agama Islam di Kabupaten Karo ini sudah ada sejak lama. Hal ini ditandai dengan banyaknya masjid-masjid yang merupakan peninggalan sejarah di Bumi Turang.
Salah satu peninggalan sejarah Islam di Karo adalah Masjid Lama Kabanjahe, yang terletak di Jalan Masjid, Kelurahan Lau Cimba, Kabanjahe. Dibangun pada tahun 1902 dan selesai pada tahun 1904 membuat masjid ini menjadi masjid tertua di Kabupaten Karo.
Sejarah Masjid Lama ini didirkan oleh pedagang Islam yang datang ke Kabanjahe khususnya dari Aceh. Niat untuk memabangun masjid keran belum ada satupun masjid di Kabanjahe pada saat itu untuk tempat mereka sholat. Biaya pembangunan Masjdi ini dibantu oleh Sultan Langkat.
Terlihat dari luar, bangunan masjid berwarna putih dengan paduan warna hijau di beberapa bagiannya ini, sudah tampak kental dengan sejarahnya. Bangunan masjid ini, terbuat dari papan yang disusun mendatar pada bagian dindingnya, dan menurun di bagian serambinya. Atap tiga tingkat dari masjid ini juga kental dengan historikalnya yang khas dengan arsitektur Melayu.
Hingga saat ini bangunan masjid tersebut masih terjaga sejak pertama dibangun. Salah satu ciri khas historikal dari masjid ini adalah bedug yang terbuat dari kayu berukuran kurang lebih 1,5 meter.
Bahkan, lokasi sholat antara laki-laki dan perempuan yang bersampingan juga masih dipertahankan. Sebelah kiri ruang ibadah kaum pria, sedangkan di sisi kanan ruang ibadah wanita. Didalam masjid ini terdapat juga 3 Al-quran berukuran besar.
Setelah berdirinya Masjid Agung Kabanjahe di Jalan Veteran, Populira Masjid Lama relatif berkurang, namun Masjid ini merupakan tempat ibadah yang tetap menjadi sebuah bukti sejarah.
