Однако его творческий путь не был усыпан розами. Случались неудачи, которые он остро переживал. В 1895 году Рахманинов заканчивает свою первую симфонию, которая в начале 1987 года была исполнена в одном из «Русских симфонических концертов» под управлением А.К. Глазунова. Симфония потерпела фиаско, её не поняли. По словам родственницы Рахманинова Л.Д. Ростовцевой-Скалон Глазунов флегматично стоял у пульта и также флегматично её провёл. Это до такой степени расстроило Рахманинова, что он несколько лет ничего не писал. Он впал в депрессию и потерял веру в свои способности. Ему тогда даже пришлось лечиться у психиатра. Но самым лучшим лекарством для композитора была музыка. В 1900 году Рахманинов возвращается к композиторской деятельности; он пишет две части второго фортепианного концерта, законченного годом позже; тогда же написана вторая сюита для двух фортепиано. Наряду с творческим подъёмом происходит очень важное событие в жизни Сергея Васильевича: он женится на своей двоюродной сестре Наталье Алексеевне Сатиной, с которой пройдёт весь свой долгий жизненный путь. Успешное исполнение его Второго концерта для фортепиано с оркестром в 1901 году полностью восстановило силы Рахманинова и помогло вернуть уверенность в своих творческих возможностях. Второй концерт для фортепиано с оркестром, написанный в 1901 году, - одно из знаменитейших произведений Рахманинова. Здесь сочетаются характерная для композитора колокольность и стремительное бурное движение. В этом национально-колористическая черта гармонического языка Рахманинова. Разлив певучих, по-русски широких мелодий, стихия деятельного ритма, блистательная виртуозность, подчиненная содержанию, отличают музыку Третьего концерта. В нем проявляется одна из самобытных основ музыкального стиля Рахманинова - органичное сочетание широты и свободы мелодического дыхания с ритмической энергией. Вторым концертом открывается плодотворнейший период в композиторской деятельности Рахманинова. Появляются прекраснейшие произведения: прелюдии, этюды-картины. Созданы лучшие романсы, среди них: «Сирень», «Вокализ», «У моего окна». Крупнейшие симфонические сочинения этих лет - Вторая симфония, симфоническая поэма «Остров мёртвых». В эти же годы созданы: поэма-кантата «Колокола», прекрасное произведение для хора а cappella «Всенощное бдение», оперы «Скупой рыцарь» по А.С. Пушкину и «Франческа да Римини» по Данте.
Не меньшую известность Сергей Рахманинов приобрёл как пианист. С 1900 года Рахманинов постоянно концертировал в России и за рубежом. В 1899 году он с успехом выступал во Франции, а в 1909 году в Америке. Слушателям Рахманинова казалось, что он не знает никаких пианистических трудностей: таким блестящим, виртуозным было его исполнение, отличавшееся огромной внутренней силой. И вместе с тем Рахманинов играл необычайно певуче. Современники признавали Рахманинова величайшим пианистом ХХ века. Но он также был и талантливым оперным и симфоническим дирижёром, давшим своеобразное толкование многих классических произведений. Впервые за дирижёрский пульт он встал, когда ему исполнилось всего двадцать лет, - в 1893 году, в Киеве, как автор оперы «Алеко». В 1897 году начал работать вторым дирижёром в Московской частной русской опере С.И. Мамонтова, где приобрёл необходимую практику и опыт. Он пробыл там только год, но этот год сыграл важную роль в его жизни: там он встретился с выдающимися русскими художниками - В. Серовым, К. Коровиным, Врубелем – и артистами, там же завязалась тесная дружба с Ф.И. Шаляпиным. До этого Рахманинов дирижированию никогда не учился, хотя и чувствовал, что «способен дирижировать». Ему помогли природная одарённость, исключительный вкус, феноменальная память и безупречный слух. 3 сентября 1904 года состоялся дирижёрский дебют Рахманинова в Большом театре. Здесь он вёл целый ряд спектаклей, прежде всего оперы русских композиторов. Под руководством Рахманинова были осуществлены новые постановки «Ивана Сусанина» М.И. Глинки и «Пиковой Дамы» П.И. Чайковского. С 1899 года Рахманинов выступает как дирижёр с гастролями в других странах. В мае 1907 года в парижской «Гранд Опера» Рахманинов провёл один их четырёх исторических концертов русской музыки (другими концертами дирижировали А. Никиш, К. Шевиллар и Н. Римский – Корсаков). Впервые выступая с концертами в США, он не только дирижировал собственными сочинениями, но и предложил интересную трактовку произведений таких композиторов, как Чайковский и Моцарт.