设于兰州。1943年2月，由国民政府教育部批准设立。1943年3月26日，国立西北图书馆筹备委员会召开第一次会议；同年4月1日，开始正式筹备。1944年7月7日，正式开馆。筹委会由刘国钧、袁同礼、刘季洪、蒋复璁、陈训慈、冯国瑞等人组成，并指定刘国钧为筹委会主任。筹备期间，该馆总务主任何日章与甘肃教育厅商定，暂定在兰州中华路民众教育馆内办公；正式开馆时又向兰州政府商谈租用曹家厅14号皋兰书院旧址的一部分作为馆舍。

国立西北图书馆成立时正值抗日战争最艰苦的时期，财力的贫乏曾使教育部于1945年4月下令暂行停办，并在6月正式关闭。随着抗日战争的胜利，教育部采纳中华图书馆协会的意见，恢复了国立西北图书馆。

在馆藏建设方面，1947年刘国钧曾总结并提出“国立兰州图书馆的目的，要做到西北文化问题的研究中心；西北建设事业的参考中心；西北图书教育的辅导中心” 。这是国民政府时期西北国立图书馆服务和馆藏的宗旨。其藏书的重点为：极关重要之普通参考书；与开发西北有关之水利交通、农林畜业、卫生医药等重要科学著作；西北文献、地方志乘；国家基本名著；境内有关各民族之历史记载；不易购得之巨著巨制；文学方面暂以中文著作为先，西文次之，境内各民族之著作则随时购集之。在出版方面，该馆注重对西北问题研究的支持与推动，编制相关书目和资料。1944年5月成立“西北文物研究室”；1948年8月成立“西北资料专室”。

国立西北图书馆设立是国民政府振兴大西北图书馆事业的核心，无论是对于抗战时期还是抗战胜利后国民政府开发大西部计划都有重要意义。