история колледжа началась в 1965 году, когда 11 июля официальным приказом № 120 областного управления Профтехобразования было открыто новое Городское профессионально-техническое училище  № 139. Задача стоявшая перед коллективом и учащимися того времени это строительство нового светлого общества на всей территории Советского Союза.

В 2017 году колледж вошел в десятку лучших колледжей республики среди учебных заведений технического профиля.

Не смотря на возраст колледж молод, потому что каждый учебный день наполняется звонкими молодыми голосами.

Карагандинский железнодорожный колледж является одним из ведущих учебных заведений и заслуженно пользуется авторитетом и уважением.