Профессор Бенуа Поль Клапейрон, специалист в прикладной механике, заметил молодое дарование, выделил его среди своих учеников и сделал своим помощником. По предложению профессора выпускник был оставлен в институте для приготовления к профессорскому званию, которое он получил уже в 29 лет.
В 1833 году Павел Петрович как профессор института вошел в состав Петербургского комитета строений и гидравлических работ.
Начало профессорской деятельности совпало с постройкой первых железных дорог с паровой тягой.
Основные принципы проектно–изыскательских работ и строительства железных дорог общего пользования в России определились еще в период постройки Московского шоссе, законченного в 1833 году.
Эти принципы и другие условия применительно к железным дорогам были тщательно сформулированы Мельниковым, литографированы и опубликованы. Это позволило учебные занятия в институте по железнодорожному транспорту начать за семь–восемь лет до начала постройки Петербурго–Московской магистрали и подготовить группу инженеров, которые могли хорошо разбираться в тонкостях железнодорожного дела.
Необходимы были научные исследования в области экономической эффективности и технической возможности строительства железных дорог в России. Мельников, непрерывно совершенствуя курс прикладной механики, превратил его, по существу, в курс механики железнодорожного транспорта. 
В 1835 году академик Михаил Остроградский, работавший в Институте инженеров путей сообщения, познакомил Павла Петровича с чешским инженером профессором Францем Герстнером, приехавшим в Россию по приглашению горного ведомства. Мельников, член комиссии по рассмотрению предложений Герстнера о строительстве железных дорог в России, поддержал идею – представить Герстнеру право построить одну железнодорожную линию. В 1837 году эта железная дорога (Петербург – Царское Село – Павловск) была сдана в эксплуатацию.
В 1839 году, уже после ввода в строй первой железной дороги в России, Павел Мельников и Николай Крафт ведомством путей сообщения, придававшим особое значение железным дорогам как новым путям сообщения, были командированы на 15 месяцев в Соединенные Штаты Америки. Эта поездка дала нашим ученым обширный материал по проектированию и строительству железных дорог, созданию подвижного состава, возведению инженерных транспортных конструкций.
1 февраля 1842 года был объявлен указ Николая I о строительстве железной дороги, в соответствии с которым Павел Мельников был назначен начальником Северной дирекции (Петербург – Бологое), а Николай Крафт – начальником Южной дирекции (Бологое – Москва) строительства магистрали. 
Из 325 км северного участка строительства магистрали Петербург – Москва около 200 км проходили через болота.
Важнейшим сооружением дороги стало земляное полотно, которое отсыпали стазу же под два пути. Подсчитали, что общий объем переработанного грунта составил 46 миллионов кубометров. Был разработан технологический процесс укладки элементов верхнего строения пути.
Павел Петрович, не понаслышке зная, что такое труд землекопа, и желая облегчить участь рабочих, заказал в Америке четыре экскаватора и столько же паровых копров. Он лично сконструировал для узкоколейного пути вагонетки, которые использовались для транспортировки грунта, разрабатываемого паровыми экскаваторами при строительстве Петербурго–Московской ж.–д. магистрали. Экскаваторы и копры были переданы подрядчикам и некоторое время успешно работали на строительстве дороги. 
На дороге возвели 184 моста, среди них несколько по–настоящему уникальных; соорудили 34 станции. Пассажирские здания, которые еще только привыкали называть вокзалами, строились на станциях по типовым проектам. Николаевский (нынешний Московский) вокзал в Петербурге стал первым сооружением в стране, где было построено металлическое покрытие над пассажирскими платформами и примыкающими к ним концевыми участками железнодорожных путей.
Значительную работу по организации вопросов эксплуатации первой железной дороги опять пришлось решать Мельникову со своими соратниками – вчерашними учениками Николаем Липиным, Петром Собко, Станиславом Кербедзом и другими. 
Павел Петрович вникал во все подробности проектирования и строительства вокзалов и производственных сооружений, хотя эта сторона деятельности при возведении Петербурго–Московской железной дороги была по распоряжению царя отдана архитекторам. Отличные деловые отношения, переросшие в личную дружбу, связывали Мельникова с главным архитектором стройки Константином Тоном.
После 1851 года Мельников организовал ряд экспедиций для изыскательских работ по постройке новых железных дорог в соответствии с проектом создания сети железных дорог в европейской части России.
В 1860–е годы Павел Петрович представил правительству уточненный план сети железных дорог, по которому намечалось сооружение железнодорожных линий общей протяженностью 7117 км. Им же анализировались возможности прокладки «островных» железных дорог на востоке страны: Пермь – Тюмень и Иркутск – Чита. Он считал, что «сеть должна спешить перешагнуть за Волгу».
В 1857 году было образовано Главное общество российских железных дорог, которое стало привлекать иностранный капитал к строительству магистралей. Приглашение общества работать в его составе Мельников не принял, хотя все его проектно–изыскательские материалы были переданы в ведение Главного общества. Центр строительства железных дорог переместился в Москву. В январе 1858 года Мельникова назначают инспектором частных железных дорог и членом Совета Главного управления путей сообщения и публичных зданий, через некоторое время он становится членом Комитета железных дорог.
В 1862 году Мельников был назначен исполняющим обязанности, а в 1863 году – главноуправляющим путями сообщения и публичными зданиями (одиннадцатый руководитель ведомства путей сообщения в его истории). В 1865 году ведомство было преобразовано в министерство, и Павел Петрович стал первым министром путей сообщения.
За то время, когда он был министром (1862–1869), в России были построены около 4700 км железных дорог. По его инициативе на многих заводах начали делать паровозы, вагоны, рельсы и другое оборудование для транспорта. Мельников принял участие в создании Коломенского паровозостроительного завода. Под его руководством был построен новый Ладожский канал, соединивший Неву с Волгой. В 1868 году Мельников учредил первое в России железнодорожное училище в г. Ельце для подготовки машинистов, дорожных мастеров и телеграфистов.
О нем говорили: «Этим человеком Россия может гордиться».
В 70–х годах Мельников работал в Департаменте государственной экономии Государственного совета. Последние годы своей жизни ученый прожил на станции Любань. Умер Мельников в 1880 году и был похоронен под алтарем любанской церкви.
В 1955 году бюст Мельникова был установлен на постаменте на месте захоронения останков выдающегося инженера. 
Это не единственный памятник первому министру. Уже в начале XXI века в честь 200–летия Павла Петровича Мельникова был установлен памятник на Комсомольской площади (в сквере у трех вокзалов) в Москве. 
В 2005 году Министерством транспорта Российской Федерации была учреждена медаль Павла Мельникова. Согласно положению ею награждаются руководители и специалисты организаций всех видов транспорта, дорожного хозяйства, геодезии и картографии, сотрудники министерства, центрального аппарата федеральной службы и федеральных агентств, находящихся в ведении министерства, их территориальных органов и иные лица за достижение высоких производственных показателей, повышение уровня эффективности и качества транспортного обслуживания, содействие и личный вклад в развитие транспорта и дорожного хозяйства в муниципальных образованиях и субъектах Российской Федерации».