1992 yılında kurulan Karaman FK, 2012 yılına kadar yerel amatör liglerde mücadele etti.
2012-2020 yılları arasında Bölgesel Amatör Lig'de (BAL) yer aldı. 2019-2020 sezonunda BAL 7. Grup'ta 22. hafta sonunda 3. sıradayken, COVID-19 pandemisi nedeniyle sezon iptal edildi ve Türkiye Futbol Federasyonu (TFF) kararıyla tarihinde ilk kez 3. Lig'e yükseldi.
11 Şubat 2022 tarihinde yapılan kongrede, belediye bünyesinden çıkarak kulübün ismi Karaman Futbol Kulübü olarak değiştirildi.
2022-2023 sezonu play-off finalinde Alanya Kestelspor'u 2-1 mağlup ederek, 2023-2024 sezonunda 2. Lig'de oynamaya hak kazandı.
Karaman FK, Karaman ilini profesyonel liglerde başarıyla temsil etmeye devam etmektedir.