30 августа 1861 года в Таганроге было открыто первое женское училище.
В 1862 году в нем уже обучались 74 воспитанницы. К 1864 учебному году училище было преобразовано в Мариинскую гимназию ведомства императрицы Марии Фёдоровны.
В гимназию могли быть приняты девочки любого сословия, вне зависимости от вероисповедания и подданства, в возрасте старше 8 лет, которые умели писать и читать по-русски.
В 1918 году здание Мариинской женской гимназии было передано 4-классному железнодорожному училищу, позже получившее новое название - трудовая семилетняя школа № 6.
В 1935 году школа была преобразована в среднее учебное заведение с 10-летним сроком обучения.
В годы Великой Отечественной войны в просторном здании бывшей гимназии был развернут госпиталь.
Современная Мариинская гимназия преобразована в начале 1990-х годов из железнодорожной школы-гимназии № 15 станции Таганрог. Она берёт своё начало от двух старейших учебных заведений на юге России: Мариинской женской гимназии и железнодорожного училища.
Ныне расположена на углу Комсомольского переулка и улицы Чехова.