新中国成立，徐邦达与大收藏家、鉴定家张珩一道，被新成立的上海市政府聘为文物管理委员会顾问，后调至北京就任中央文物局文物处业务秘书。从此，开始了以收集、鉴定古书画文物为主的生涯。

　　1953年秋，徐邦达赴故宫博物院参与绘画馆的筹建。

　　新中国初创时的故宫博物院的文物仅是昔日紫禁城藏品的十分之一，书画卷册就更微乎其微了。紫禁城的藏品，除一部分古书画卷册被溥仪带到东北，大部分散落民间;其余九成以上在解放前夕运去了台湾。

　　摆在徐邦达等人面前的是如何才能使故宫博物院绘画馆藏品尽快丰富起来。为此，他跋山涉水奔波于各地，悉心察访。任何一点信息、一点线索，他都不放过。

　　北京琉璃厂，是徐先生经常光顾的地方。1953年一天傍晚，他照例来此徘徊，无意间竟在宝古斋发现了《水村图》的线索。店老板告诉他，前天有个来自东北通化市郊县大栗子沟的老者，到店里称其家藏有许多珍稀古书画，并开有一个单子，其中就有《水村图》。

　　老板见老者灰头土脑一副乡下人打扮，加之自己对古书画价值也有些懵懂，就没把这当回事。现在说给老相识徐邦达听，也只是聊博一笑。谁知说者无心，听者有意。徐邦达仔细看了单子，心一下就被《水村图》勾住了。

　　他记下单子的主人姓王，立即与东北的文物机构联系，点名要《水村图》，请他们快些派人到大栗子沟收购。去者是个书画鉴定的门外汉，花了200元，购得一帖有赵孟钍鹈?木聿帷?

　　徐先生展开那购回的卷册，简直哭笑不得。

　　五十年代，徐邦达听北京琉璃厂经营书画文物的靳伯声说，曾任国民党吉林省政府主席的郑洞国，率部起义时，曾将一些价值极高的书画珍品，藏在一个小皮箱中。皮箱中的珍品就是溥仪当年从紫禁城带出文物中的一小部分。这些珍品中有唐代人临摹的《王方庆万岁通天进帖》。“万岁通天”是武则天的一个年号。据史载：武则天曾传问晋代大书法家、一代书圣王羲之后人王方庆有无王羲之手迹，王方庆遂向宫进帖10卷。此外，还有五代后唐画家胡环的《卓歇图》，五代杰出书法家杨凝式的《夏热帖》，元代著名画家王蒙的《太白山图》卷等共5件。

　　民国成立十数年后，溥仪预感到紫禁城不可能成为久居之所。他请来宫中遗老，对宫中所藏文物字画清点核查，打上宣统御览之印，悄悄将其中1200余件书画卷册，带出紫禁城。先是藏于溥杰家，后又带到日本人卵翼下的伪“满洲国”“都城”——长春。

　　1945年春夏之交，苏联红军攻入东北，溥仪仓皇出逃，“宫中”一片混乱，许多文物字画就此散落民间，不知去向。

　　翌年，国民党军进驻东北。郑洞国来到长春，他很喜欢字画，于是请来靳伯声为其代为收购。靳于此间为郑购了不少珍品。

　　为了征集书画珍品正日夜奔波的徐邦达，当然不会放过这个极有价值的线索。他开始追踪探访，得知1948年10月，郑洞国率部起义前，装有5件珍品的皮箱，始终带在身边。直到起义与解放军接洽时，才将皮箱交给负责接收的解放军部队。当时说是代管，但事后再无人提及此事。徐邦达了解到这些情况，立即通过有关人士查访当年负责接收的部队，终于在那个部队存放文件的保险柜中，找到了那只皮箱。

　　可打开皮箱一看，5件珍品只剩下两件，另外3件去向不明。徐邦达并未就此罢手，而是千方百计穷究线索，几经辗转，终于又找到了另两件。

　　就这样，短短数年，徐邦达不辞辛苦，悉心查访，经发掘和抢救，绘画馆就汇集了3000多件“失散重聚”的珍品。