Пролегает по территории юга России от Азовского и Чёрного морей на западе до Каспийского моря на востоке. Дорога проходит по территориям Калмыкии, Дагестана, Чечни, Ингушетии, Адыгеи, Карачаево-Черкесии, Ставропольского края, Краснодарского края, Кабардино-Балкарии, Северной Осетии — Алании, Ростовской области. Управление дороги находится в Ростове-на-Дону.
Строительство ж. д. на Северном Кавказе началось с прокладки линий Шахтная- Аксай (1861 г.), Зверево-Шахтная (1871 г.), Аксай-Ростов (1875 г.). В 1872-1875 гг. построена линия Ростов-Владикавказ. К октябрю 1917 г. общая длина дороги составила 5000 верст. Во время Гражданской войны и военной интервенции были разрушены ж.-д. пути, станции и другие ж.-д. объекты, которые после войны были не только восстановлены, но и значительно реконструированы. В 1922 г. дорога получила название Северо-Кавказской железной дороги.
в 50-60-е гг. построены участки с электрической тягой Минеральные Воды — Кисловодск, и Белореченская — Куринский (1957г.) и далее до Туапсе через Сочи (1958г.). Построена линия к Волго-Донскому каналу и Цимлянскому морю от станции Куберле. важным этапом в развитии дороги явилась постройка линий Дивное — Элиста (1969г.), Зверево — Краснодонская (1971 г.), Анапа — Юровский (1977 г.), Краснодар — Туапсе (1978 г.), обход Ростовского транспортного узла и создание ряда крупных грузовых станций, в т.ч. Ростов-Западный (ст. Казачья) и ст. Красный Сад (1983-1985 гг.).
В конце 80-х — начале 90-х гг. получили развитие направления Благодатное — Буденновск, Песчаножопская — Красная Гвардия. Через дерег дорога прошла по двухпутному мосту на участке Гудермес — Червлёная (1989 г.). Электрифицирована линия Тимашевская — Протожа; введена электрическая централизация на участке Цимлянская — Куберле. Построены западный обход станции Батайск (1990 г.) и восточный обход станции Лихая (1991 г.).
После боевых действий в Чеченской республике на участке Грозный-Гудермес контактная сеть демонтирована, на участке Грозный-Беслан движение прекращено, а пути и электросеть демонтированы. В настоящее время на СКЖД реализуется проект «Комплексная реконструкция участка 9 км – Юровский – Анапа – Темрюк – Кавказ» для увеличения пропускной способности участка между Волгоградом и портами Таманского полуострова. Продолжается строительство второго пути на линии Тимашевская-Крымская. В Сальске ведется возведение нового железнодорожного вокзала. В 2019 году завершено строительство подходов и моста через Керченский пролив.