加里宁出生于俄罗斯帝国的Tverskaya Gubernia，为农家子弟，年轻时曾受雇于地主。后来前往圣彼得堡的炮兵工厂工作，并且于1891年参与革命运动；1898年加入俄罗斯社会民主工党。后来加里宁加入列宁的布尔什维克，并且之后有好几次被帝俄政府逮捕与脱逃的纪录。 　　十月革命之后，1919年加里宁成为俄罗斯共产党（布尔什维克）中央委员；同年三月，加里宁成为俄罗斯最高苏维埃中央执行委员会委员长，等同于当时的国家元首；1922年苏维埃社会主义共和国联盟成式成立之后，加里宁成为苏联最高苏维埃中央执行委员会委员长。最高苏维埃改组之后，加里宁成为最高苏维埃主席团主席，到年1946年过世为止都保有这个地位。1925年开始为党政治局委员。 　　加里宁与列宁一样都是相当关心劳工与农民的领导人，常常以国家领导人身份与一般市民接触并且了解市民的希望，并且展现一个“好爷爷”的风范；在大清洗期间也有不少人写信给加里宁，而加里宁也常常介入审判，因此救了不少无辜的人。很多人也称呼加里宁为“亲切的祖父加里宁”。但是在卡廷大屠杀屠杀波兰士兵的事件中，加里宁却也有在公文上签名批准。 　　第二次世界大战后的1946年，加里宁于莫斯科过世；而苏联也将过去属于德国东普鲁士的哥尼斯堡改名为加里宁格勒。