1948年底，南京国民政府最高法院检察署检察长郑烈辞职。司法行政部部长谢冠生先后遭到向哲浚、倪征日奥等婉言谢绝后，有意请杨兆龙出任此职。 杨兆龙对此亦婉言推辞。

　　杨兆龙的妻妹沙轶因系中共南京地下党成员。闻知杨兆龙婉拒出任最高法院检察署检察长之后，意识到机会难得，一面劝姊夫暂缓推辞，一面迅速向中共地下党领导请示。果然，沙轶因的上级指示，力劝杨兆龙接受此职，并明确要求，请其设法营救在押的中共党员。

　　事关重大，杨兆龙认为必须有中共组织的郑重委托与保证，将来能为其作证才行，决不能仅凭姨妹一个口信就贸然行事。故要求派代表与之面谈。随后，中共南京市地下党市委成员白沙来访，明确要求营救中大学生朱成学、华彬清、李飞三人，并欢迎杨兆龙留下来，还说像他这样精通法律的专家，在新社会必定大有可为。白沙代表组织，保证其以后身家性命之安全。杨兆龙表示“做一些伸张正义之事，本是我平生之所愿，” 遂答应设法营救。

　　在南京地下党做出这种承诺之后，杨兆龙接受中共地下党的要求，出任国民政府最高法院检察署检察长。

　　杨兆龙走马上任后，恰逢国共和谈在北平召开。何应钦组阁后，张知本接替谢冠生出任司法行政部长。此次张自沪抵南京莅任，杨率留京官员去火车站迎接。同车赴寓所途中，杨兆龙谈及，和谈之声甚嚣尘上，各方面要求释放政治犯者颇多，而所谓政治犯大都是些热血青年，思想“左”倾，并非罪犯，把他们长期关押在监所内，实属不当，建议将他们释放出去。张知本对此当即大力支持，但以此事阻力甚大为虑。双方就具体步骤达成共识。 最后，在杨兆龙等人努力下，成功释放包括大量中国共产党员在内的政治犯万余人。

　　1949年2月，杨兆龙还以司法应当统一为由，撤销了司法行政部的特刑司和中央及各地的特刑庭。在南京解放以前，总统府及行政院方面遇有特难法律问题时，常来征询杨兆龙的意见，包括最重要的一件事杨兆龙成功地营救许闻天。

　　由于许闻天事件的妥善处理，何应钦与行政院秘书长黄少谷对杨很重视，张知本对杨处理此事的方式也非常赏识。后来曾分别来电催杨赴广州。“杨此时已决定留下，故均未从命。” 杨兆龙晚年谈及促使其留下不走的原因时对女儿说：“关键是你妈妈思想非常“左”倾，她早盼着共产党了。他认为我们家如果跟蒋走，等于自取灭亡。如果去国外，实与当白俄无异。只有留下来才会有前途。此外，你姨妈的劝说和白沙代表组织的保证也起了作用。”

　　当时仍供职于司法行政部和中央大学的杨兆龙与孙晓楼教授合作，在上海创办《新法学》月刊。首期发表由他撰写的创刊词《“新法学”诞生的前夕——法学界的贫乏》，在法学界引起强烈反响。杨兆龙在这篇文章中，列举了已往法学界的“五大毛病”，如“法学内容的陈腐”、“研究范围的狭窄”、“法律技术的机械”、“法律见解的肤浅”、“适应及创造能力的薄弱”等。 对此种种问题，作者提出了对策，“必须从三方面努力，即(1)从法学者本身的修养努力;(2)从法律教育的改进充实;(3)从一般社会风气的转移努力”。 这篇文章发表后，著名法学家郭卫教授特撰文“转播”，称“《新法学》内容精湛，而杨兆龙君对于我国法学界之现象，论之尤为透彻，”使其“多具同感，且甚钦佩”，文风直言不讳，“正足以表见其耿介之性”。

　　《新法学》之后连续三期，又连载了杨兆龙的力作《大陆法系与英美法系的区别究竟在哪里?》。杨兆龙针对“国内一部分学法之士对于大陆法与英美法之区别所发生的误解”， 对“何谓大陆法与英美法”做出清晰的界定， 并详细叙述了大陆法与英美法的历史。 在此基础上，作者才提出“大陆法与英美法是否各成一个独立的体系?” 的问题，并给出了否定性的答案。 最后，对“大陆法与英美法的区别”做了详细的解释，并指出“从法律的内容讲，我们在大陆法与英美法中所发现的区别比从前少得多;实际上这种区别在近百年来是在不断的减少”， 认为将来“二者之区别，……一定会在短期减少到无足轻重的程度”。