Hij speelde een cruciale rol in de ontwikkeling van Cluny als toonaangevend centrum van het kloosterleven in West-Europa tijdens de Middeleeuwen.
Odilo werd geboren in een adellijke familie in Auvergne, Frankrijk. Zijn vader was Berald de Mercœur en zijn moeder, Gerberga, werd non na de dood van haar man. Odilo ging naar het seminarie van St. Julien in Brioude en trad later toe tot het klooster van Cluny rond 991 onder abt Mayeul.
Odilo werd abt van Cluny kort voor de dood van Mayeul in 994 en leidde het klooster ongeveer vijfenvijftig jaar. Onder zijn leiding bloeide Cluny op en werd het bekend om zijn strikte naleving van de Regel van Sint Benedictus. Tijdens zijn ambtstermijn steeg het aantal aangesloten kloosters van zevenendertig naar vijfenzestig.
Invoering van Allerzielen
Een van Odilo's meest opmerkelijke bijdragen was de instelling van Allerzielen op 2 november, als een dag gewijd aan het bidden voor alle overleden zielen.
Odilo stierf op 1 januari 1049 tijdens een bezoek aan de Priorij van Souvigny. Zijn nalatenschap wordt gekenmerkt door zijn grote toewijding aan gebed, liefdadigheid voor de armen (met name het verkopen van kerkschatten tijdens hongersnoden) en het bevorderen van vrede in de samenleving door zowel spirituele begeleiding als praktische hervormingen. Hij werd kort na zijn dood heilig verklaard vanwege de wijdverspreide verering en erkenning van zijn heiligheid.