1914年6月15日，安德罗波夫出生在俄罗斯帝国斯塔夫罗波尔州古纳·兹卡耶车站一个铁路工人家庭。父亲是俄罗斯人，母亲是阿塞拜疆的穆斯林。
年轻时的安德罗波夫[1]1930年至1936年，安德罗波夫先后做过工人、电报员、电影放映员和水手等工作。
　　1936年，在水运专科学校毕业后，被分配到雷宾斯克一家造船厂工作，任苏联共青团组织委员。
　　1937年，任苏联共青团雅罗斯拉夫州州委书记。
　　1938年，任该州团委第一书记。
　　1939年，他在25岁时加入苏联共产党。
　　1940年，当选为卡累利阿-芬兰苏维埃社会主义共和国团中央第一书记。苏德战争初期，安德罗波夫参加了卡累利阿游击队。
　　1944年，苏联红军解放彼得罗扎沃茨克之后，他被任命为彼得罗扎沃茨克市党委第二书记并在该市的一所国立高等学校学习。
　　1947年，第二次世界大战结束后，安德罗波夫当选为卡累利阿-芬兰苏维埃社会主义共和国党中央第二书记。
　　1950年至1951年，任第三届苏联最高苏维埃代表。
　　1951年至1953年，调到莫斯科中央机关工作，先后担任苏共中央对外联络部检查员和苏共中央第一处处长，同时进入莫斯科高级党校学习。
　　1953年至1957年，调任苏联外交部第四欧洲司，工作范围为波兰和捷克斯洛伐克相关事务，后被派往苏联驻匈牙利使馆任公使衔参赞。
　　1954年，任苏联驻匈牙利特命全权大使。
　　1956年，安德罗波夫成功解决匈牙利事件。
　　1957年，被召回莫斯科，任命为苏共中央联络部部长，主管社会主义国家相关事务，曾多次跟随赫鲁晓夫出访东欧国家并参加他们的党代表大会。赫鲁晓夫下台后，又多次陪同勃列日涅夫出访和参加东欧国家的党代表大会。
　　1961年10月，苏共二十二大起当选为苏共中央委员。
　　1962年至1967年，任苏共中央书记。
　　1962年3月起，连续当选为第六至十届苏联最高苏维埃代表。
　　1967年，安德罗波夫被免去苏共中央书记职务，接替谢米怡斯内伊任国家安全委员会（克格勃）主席。并兼任苏共中央政治局候补委员。
　　1973年4月，升为苏共中央政治局正式委员。
　　1976年，获大将军衔（相当于军兵种元帅）。
　　1982年5月，重新当选为苏共中央书记。
　　1982年11月，接任苏共总书记。
　　1984年2月9日，安德罗波夫因长期肾病而病逝，终年69岁。[2]