Основан в 1838 г. как военное управление на западном берегу Суджукской (ныне Цемесской) бухты, на участке между устьем р. Цемес и развалинами турецкой крепости Суджук-Кале (основана в 1722 г., разрушена русскими войсками в 1812 г.). С 1839 г. называется Новороссийск - "город в Новороссии". Новороссия - так с конца 18 в. официально называлось всё обширное пространство причерноморских степей, освобождённых из-под турецкого владычества и вошедших в состав России. С присоединением Закубанья это название было распространено и на него.
Вокруг укрепления возникло гражданское поселение.
В период Крымской войны 1853-56 гг. Новороссийск был разрушен артиллерией англо-французской эскадры. В 1860 г. упразднён. В 1866 г. учреждён вновь.
С 1866 г. Новороссийск - центр Черноморского (Новороссийского) округа (отдела) Кубанской области, в 1896-1920 гг. - Черноморской губернии.
В 1879 г. близ Новороссийска были обнаружены богатейшие залежи мергелей - основного сырья для производства цемента. В 1882 г. Черноморским обществом "Портландцемент" построен первый в Новороссийске цементный завод "Завод" (ныне - завод "Пролетарий"). В 1883 обществом "Русский стандарт" введён в строй нефтеперегонный завод.
Развитие города ускорило проведение в 1888 г. железной дороги Екатеринодар - Новороссийск. При станции Новороссийск были открыты железнодорожные мастерская и депо. В 1896 г. акционерным обществом Владикавказской железной дороги было завершено строительство морского порта (2 мола, 8 пристаней, восточный пирс, элеватор и др.). Новороссийский порт становится крупнейшим на Северном Кавказе центром российского экспорта зерна и семян масличных культур, нефти и нефтепродуктов, цемента. В 1898 г. в Новороссийске построен цементный завод "Цепь" (ныне завод "Октябрь"). В 1912 г. в строй вошло ещё 7 цементных заводов (в 1917 г. насчитывалось 10 цементных заводов).
Во время Гражданской войны по приказу В.И. Ленина 18 июня 1918 г. в Цемесской бухте была затоплена часть кораблей русского Черноморского флота (1 линкор, 10 эсминцев и другие суда). В ходе войны Новороссийск был ареной жестоких боёв. 26 августа 1918 г. город был взят Добровольческой армией генерала А.И. Деникина, 27 марта 1920 г. - частями Красной Армии.
Во время Великой Отечественной войны 1941-45 большая часть города была захвачена немецко-фашистскими войсками в сентябре 1942 г. (начиная с 10 сентября), дальнейшее их продвижение на юго-восток было приостановлено. В ночь на 4 февраля 1943 г. южнее Новороссийска, в районе посёлка Станичка высадился десант моряков, захвативших плацдарм (впоследствии - "Малая Земля"), который удерживался 225 дней. Новороссийск был полностью освобождён 16 сентября 1943 г. Город был почти полностью разрушен. Отстроен заново лишь к середине 1960-х гг.
Указом Президиума Верховного Совета СССР от 14 сентября 1973 г. городу Новороссийску присвоено почётное звание "Город-Герой".
