После успеха фильма «Мы из джаза» режиссёр Карен Шахназаров решил продолжить тему и снять ещё одну музыкальную историю. Руководство «Мосфильма» идею одобрило, но съёмки разрешило только зимой. Режиссёр не стал спорить и вместе со съёмочной командой они уехали в тёплую Абхазию — снимать «Зимний вечер в Гаграх».
У главного героя фильма был реальный прототип — степист Алексей Быстров, звезда 50-х. Он был одним из первых советских чечёточников, выступал с оркестром Эдди Рознера, был лауреатом Сталинской премии. С режиссёром он познакомился на съёмках фильма «Мы из джаза» — учил степу Игоря Скляра и Александра Панкратова-Чёрного. К тому времени Быстрова уже мало кто помнил, а сам он сильно пил. На репетициях он рассказывал, что женат на оперной приме Большого театра, а дочь вышла замуж за дипломата. До премьеры «Мы из джаза» танцор не дожил, а после его смерти стало известно, что он давно разведён и жил один в коммунальной квартире… Его судьба стала основой сценария «Зимнего вечера в Гаграх».
После премьеры режиссёру позвонила женщина и сказала, что это какая-то мистика — фильм как будто снят про её отца! Оказалось, что это дочь Алексея Быстрова — она давно уже не общалась с отцом и понятия не имела о его знакомстве с миром кино.
На главную роль режиссёр пробовал Петра Щербакова, Евгения Леонова и Олега Ефремова. Евгений Евстигнеев сам пришел к Шахназарову — он тайком взял почитать сценарий и загорелся ролью забытого танцора. И ходил к нему до тех пор, пока режиссёр не согласился… В пользу актёра сыграло то, что он был очень музыкальным и когда-то играл в джазовом оркестре на ударных. Ударникам вообще научиться бить чечётку довольно просто — они прекрасно чувствуют ритм. Евстигнеев не просто танцевал степ, а импровизировал и фактически был сам себе хореограф. Правда самые сложные элементы за него станцевал профессиональный чечёточник — ученик того самого Алексея Быстрова.
На роль танцора-любителя Аркадия режиссёр планировал взять Игоря Скляра, но того не отпустили из театра. Особых мук выбора не было — с Александром Панкратовым-Чёрным режиссёр уже работал, степ танцевать его уже учили, так что утвердили его… На съёмках тренировки с профессиональными танцорами продолжились, актёр делал успехи, и в сцене последнего урока Александр Панкратов-Чёрный станцевал уже свою импровизацию.
На роль дочери Беглова пробовалась актриса Ирина Цывина. Роль она не получила, но пробы к этому фильму потом стала называть «первым свиданием» — через год она стала женой Евгения Евстигнеева. Роль дочери сыграла Светлана Аманова. Её героиня выходит замуж за журналиста, а вскоре после выхода фильма актриса тоже вышла замуж за журналиста — главного редактора газеты «Московский комсомолец» Павла Гусева.
Дочь Беглова в детстве сыграла 7-летняя Анна Иванова. Режиссёр осмотрел более сотни кандидаток, пока не встретил Аню — его поразило сочетание хрупкости, работоспособности и мышление взрослого человека. После съёмок родители девочки решили, что у неё есть танцевальное будущее и отдали её в хореографическое училище. Анна Иванова стала балериной, солисткой Большого театра и директором театра «Московский балет».
Певицу Ирину Мельникову отчасти списали с Аллы Пугачёвой. Ей же и предложили эту роль, но Пугачёва не хотела играть скандальную звезду и попросила переписать сценарий. Шахназаров отказался что-либо менять, и отдал роль Наталье Гундаревой. Актриса очень хотела сама петь в фильме, но уговорить режиссёра не удалось — все сольные партии исполнила Лариса Долина.
Песня «Пчела и бабочка» была написана и спета ещё в 1950-х годах французским певцом Анри Сальвадором. С наших экранов она впервые прозвучала в фильме «Когда деревья были большими», правда, без слов.
У песни «Дружба», которую пела героиня Натальи Гундаревой, была целая история. Впервые она вышла на пластинке в 1937 году с упоминанием композитора Поля Марселя — Леопольда Русакова. В том же году он был арестован, пластинку с песней перевыпустили, и композитором указывался уже Владимир Сидоров, а фамилия Марселя больше никогда не встречалась… Худсовет постановил исключить песню из фильма, и уцелеть ей удалось только по просьбе Иосифа Кобзона.