国科大的研究生教育，发端于中国科学院的人才培养。1950 年，中国科学院启动研究实习员的招考和培养工作。1955年8月，《中国科学院研究生暂行条例》由周恩来总理签发后颁布实施。1964年9月，中国科学院在北京试办“中国科学院研究生院”。

1978年，恢复招生后的首批研究生入学。1982年，中国科学院党组批准研究生院同时使用“中国科学院研究生院”、“中国科学技术大学研究生院”两个名称。2000年12月，学校更名为中国科学院研究生院。2005年，中国科学院管理干部学院并入中国科学院研究生院。2012年6月，中国科学院研究生院更名为中国科学院大学，并于2014年开始招收本科生，形成了覆盖本、硕、博三个层次的高等教育体系。

国科大是中国科学院“率先建成国家创新人才高地”任务的重要承担者，是完成“出成果、出人才、出思想”战略使命的重要依托。学校的核心使命是利用科教融合平台，遴选中国科学院最优质教育教学资源，提供给研究生和本科生，培养造就德才兼备的科技创新创业人才，为国家的创新驱动发展服务，为人类的文明进步做出贡献。

国科大始终秉承中国科学院的育人传统，坚持在高水平科研实践中培养创新创业人才，在学研究生已经成为国家科技创新的生力军，中国科学院的重大成果和产出都有他们的付出和贡献。截至2021年12月，分布在各研究生培养单位的23个国家重大科技基础设施、两个国家研究中心、73个国家重点实验室、191个中国科学院重点实验室、8个国家工程研究中心、17个国家工程技术研究中心、14个国家工程实验室，以及众多国家级前沿科研项目，为学生培养提供了世界一流的科研创新实践平台。