向达是湖南溆浦人，早年靠寡母含辛茹苦拉扯着读完小学、中学后，考入南京高等师范学校。1924年以优异成绩毕业，入上海商务印书馆编译所任编辑。任职期间，工作之余他辛勤笔耕，每天不写到1500字不罢休。

1930年，向达到北平任北平图书馆编纂委员会委员。他利用馆藏的丰富文献，着重于敦煌俗文学写卷和中西文化交流等领域的研究。除了翻译《世界史纲》《印度现代史》，向达还开始接触到外国探险家在中国西北考察的著作，翻译并于1930年发表了《斯坦因黑水获古记略》《斯坦因敦煌获书记》，又着手翻译勒柯克的《高昌考古记》和斯坦因的《西域考古记》。他同时利用新材料，提出新观点，发表了一批中外文化交流史和敦煌学的论著。

正是在这里，向达开始了中外文化交流史和敦煌学的研究。他完成力作《唐代长安与西域文明》（1933年刊于《燕京学报》专号），奠定其在学术界的地位，从此在中西交通、中外文化交流方面卓然成家，为中外学界所瞩目。翌年刊出《中西交通史》，受北京大学历史系之聘，讲授《明清之际西学东渐史》。

1935年秋，向达赴欧洲，先在素以收藏东方善本著称于世的牛津大学鲍德里图书馆工作，抄录了中西交通史上的重要资料。1936年秋转赴伦敦，在不列颠博物馆东方部检阅敦煌写卷、汉籍及俗文学等写卷，抄录了与来华耶稣会士和太平天国有关的重要文献。但当时对于从敦煌遗物国而来的求学者，外国人并不欢迎，甚至极尽嘲讽阻拦。

向达在1936年2月从伦敦寄给国内的信中写道：“弟来英目的在看British Museum大英博物馆之敦煌卷子，管理人员为Dr.Lionel Giles翟里斯，前后见到两次，俱甚冷淡，且对人表示拒绝。弟助其工作，有一次曾以可否允人对于敦煌卷子作一通盘研究相询，彼亦表示拒绝。此种情形，大有陷弟于进退两难之势。然现已至此，不能不尽力想办法，庶不致如入宝山，空手而反返。现在拟托其他英国人代为转圜，将来研究一层或百有万一之望也。”