中国建立的全国性农史专业研究机构，是在南京农学院农经系农史组（前金陵大学农经系农史组）的基础上，于1955年7月经农业部批准在南京成立的，由中国农业科学院和南京农业大学（1984年7月南京农学院改名为南京农业大学）双重领导。著名农史学家万国鼎为第一任主任（1957～1963）。该室1969年曾被撤并，1978年恢复。室藏古农书3万余册。全室设有农业科技史、农业史、古农书研究整理等研究组，1981年开始招收硕士研究生，1986年招收博士研究生。1981年与中国农史学会筹委会（1987年9月中国农史学会正式成立）共同创办了农史学术刊物《中国农史》（季刊），国内外公开发行。该室与日本、英国、美国、法国、东南亚国家和港、澳、台等地的有关专家建立了资料交换与学术交流的关系。

该室建立以来，十分重视农史资料的搜集与整理工作，1956～1959年间，曾组织研究人员从全国各地40多个大、中、小城市的100多个文史单位和一些知名藏书家所收藏的近4000部笔记、杂考等古书中收集了1540多万字的资料，整理成《中国农史资料续编》157册，连同前金陵大学农经系收集整理的《中国农史资料》456册，共计613册，4300多万字。该室还从全国8000多部方志中搜集摘抄了3600多万字的农史资料，分别整理为《方志综合资料》、《方志分类资料》、《方志物产资料》三大类，计680册。这些资料内容丰富，为农史研究提供了方便。

为了继承和发扬中国古代农业的优良传统，贯彻“古为今用”的方针，该室对农业科学技术发展的历史渊源及其发展规律进行探索；编辑出版了专著专辑40多部，约700多万字，如《中国农学史》，《中国农学遗产选集》的稻、麦、棉、粮食作物、杂粮、油料作物、豆类、麻、柑橘、茶、古兽医集锦等专辑，《农业遗产集刊》，《农史研究集刊》，《传统农业和现代农业》，《北方旱地农业》，《中国农业科技发展史略》，《太湖地区农业史稿》，《中国近代农业科技史》等。《中国农学史》研究，曾获农牧渔业部科技进步一等奖，《北方旱地农业》研究，曾获中国农科院技术进步二等奖。《传统农业和现代农业》一书，已由日本农山渔村文化协会出版了日文译本。

该室人员还致力于专项课题的研究，在农业起源和作物起源，中国农业生产发生和发展的规律，中国古代农业生产中的作物栽培技术、耕作制度、土壤肥料、农田水利、农业生产工具、畜牧兽医、果树蔬菜、农业经营管理、传统农业和农业现代化等方面，共撰写出200多篇论文，约150多万字，在全国有关学术刊物上发表。

中国农业遗产研究室还积极开展了古农书的整理和研究工作，迄今已辑释、校译和评注了《氾胜之书辑释》、《齐民要术校释》、《四民月令辑释》、《元刻农桑纪要校释》、《四时纂要校释》、《农政全书校刊》、《农桑经校注》、《补农书校释》、《司牧安骥集》、《中医全鉴》等。其中《齐民要术校释》获得农牧渔业部科技进步二等奖。

为了弘扬祖国文化遗产，宣传中国悠久的农业历史和光辉的科技成就，普及和传播农史知识，该室研究人员还以“史话”、“选读”等多种形式撰写科普读物。其中有《五谷史话》、《农业史话》、《蚕业史话》、《肥料史话》、《古代农学家故事》、《陈旉农书选读》、《古代茶叶诗词选注》等。