同治七年(1868年)3月17日生于苏州。父亲俞祖仁有病,故俞陛云出生后即跟随他的祖父母,由祖父亲自教育,《曲园课孙草》就是俞樾(号曲园)为此而编写的。
1881年与彭雪琴尚书之长孙女(名见贞,字素华),结婚。
光绪十年(1884年)应县试考取秀才第一名。 1885年9月赴浙江应乡试,俞陛云中举人第二名,称亚元。
1894年彭夫人病故。1895年11月俞陛云的祖父为他续娶杭州名门之女许之仙为妻(即俞平伯之生母,也通诗文)。
1898年(光绪二十四年)戊戌科中进士后参加殿试,与夏同龢、夏寿田同登戊戌科进士前三名,俞陛云以一甲三名赐探花及第,授编修。
1902年(光绪二十八年)钦命出任四川副主考。翌年由江苏巡府以俞陛云长经史,不独以科贸见长,保举应经济特科复试,名列一等。
1912年(民国元年)任浙江省图书馆监督(馆长)。
1914年被聘为清史馆协修,编修清史,不久由此移居北京,与爱新觉罗·溥仪私交甚厚。
1932年3月,接溥仪邀佐政伪满洲国书,撕信逐使,终生不与往来。
1937年芦构桥事变后,他不愿出任敌伪工作,居京郊寓所,以卖字谋生,闭门以书、画自娱,保持民族气节。
1950年10月12日卒于北京。