1927年11月27日，国立音乐学院成立。

国立音乐学院是上海音乐学院的前身，是中国所有音乐院校中历史最为悠久的一所。这是中国现代第一所专业音乐院校。创办时蔡元培任院长，萧友梅任教务主任，不久改由萧友梅任代理院长。建院初期提出“输入世界音乐，整理我国国乐”的宗旨，学制与课程设置大体仿照当时欧洲音乐院校。

1929年，南京政府修正大学组织法，规定仅传授一种专门技术的学校都应改为专科学校，并公布了“专科学校组织法”。国立音乐学院也于此时更改为国立音乐专科学校，萧友梅任校长。他将当时在上海甚至全国各地能够找得到的著名中外音乐家，或高薪聘请或苦言相劝，网罗在自己的麾下。就连国文、英文等共同课，他也是请水平最高的人来教。如易韦斋、龙榆生（时为暨南大学国文系主任）曾任这所学校国文课的教师。同年年9月改名为国立音乐专科学校。

1929年，世界著名钢琴家、俄罗斯的查哈罗夫旅居上海。为请其任教于国立音专，萧多次登门拜访，并将月薪提至400元（普通教授为200元）。实践证明，查哈罗夫从那时起直至1942年病逝于上海，对中国钢琴教学水平的提高发挥了重要作用。

1930年秋，萧友梅聘请留美回国的著名音乐家黄自任教务主任。此后，二人携手为中国刚刚起步的专业音乐教育作出了巨大的贡献。

1941年太平洋战争爆发后被汪伪政权接管，改称国立上海音乐院。抗日战争胜利后，自重庆返沪的国立音乐院接收了国立上海音乐院，并与上海私立音乐专科学校合并，定名为国立上海音乐专科学校。新中国成立后改名为上海音乐学院。

在国立音乐院成立之前，中国近代专业音乐教育的创建，经历了近八、九十年时间的漫长的探索之路，直至国立音乐院的诞生，才正式建立起中国近代历史上的第一所高等音乐学府，揭开了中国专业音乐教育史的新页，开辟了由高等音乐学校来培养音乐专门人才的道路。

因此，上海音乐学院的校史也可谓是中国专业音乐教育史的最重要组成部分之一，发掘、查寻、抢救、采访、采集、编制、整理并研究上音校史，以史鉴今，既为学校提供了珍贵的历史档案，并成为校园文化的溯源和载体，同时也将为探寻一条更为宽广的发展中国专业音乐教育的道路，作出重要的贡献。