1942年今井武夫又担任了上海陆军部高级军官，两年后晋升为陆军少将，1945年8月15号，日本天皇宣布无条件投降，今井武夫奉命等待向中国军队投降，当时他住在南京，负责和冈村宁次一起整理日军投降的文件，他每天起床都要徒步去工作，遇到各色各样的中国人，但没有人厌恶他，起初他以为那些人不知道自己是日本人，但后来才发现人们认出了他。
今井武夫还在自己的日记中写道：有一次，他汽车在南京半路抛锚，恳求过往的市民帮忙推车，他以为中国人不会帮他，却没想到很多人都伸出了援手，这样大度的国民让他钦佩不已，在中国居住的那段时间内，今井武夫被深深折服，回忆录中他曾经写道：至明治维新后，日本人一直觉得自己非常了不起，只会欺负其他国家，但经过二战失败后，日本人也应该好好反省，原来两国之间的差距是这么多。
