Композитор Марк Минков без раздумий согласился поработать с Кареном Шахназаровым над музыкальной комедией, однако не все композиции автора пришлись ко двору.

Для создания музыки к комедии "Мы из джаза" Карен Шахназаров обратился к Марку Миткову, с которым успел поработать над дебютной полнометражкой "Добряки". Композитор с радостью откликнулся и сочинил четыре песни. Однако место в сценарии нашлось лишь для двух: "Спасибо, музыка" и "Старый рояль". Удручающая ситуация до глубины души задела Минкова и со словами: "Не больно-то мне и нравится этот ваш джаз", – он гордо хлопнул дверью.

Тогда музыкальный редактор картины Минна Бланк обратилась к Анатолию Кроллу, который с коллективом часто гастролировал по Америке и Европе. В Москве же о джаз-бэнде музыканта почти никто не слышал, поэтому Кролл буквально ухватился за возможность попробовать себя в кино. В сценарии ленты будто описывалась его молодость, что тоже привлекло композитора.

Уже на следующий день после встречи с режиссером Кролл показал наброски к паре сцен, однако руководство "Мосфильма" неожиданно отмело его кандидатуру.

Реакция худсовета на отснятый материал оказалась неоднозначной: в высоких кабинетах задавались вопросом, пойдет ли зритель на фильм о джазе. В этом не был до конца уверен и сам Шахназаров. Кто-то из чиновников и вовсе назвал фильм откровенно неудавшимся.

Несмотря на обиды, композиции Минкова в картине все же прозвучали. К исполнителю главной роли Игорю Скляру прочно приклеилось прозвище "Старый рояль", а вся страна долгие годы напевала песни из фильма. Если лента и не затмила успех музыкальной комедии "Веселые ребята", то несомненно очаровала зрителя.