V histórii obce sú známe dve zmienky o vzniku Ostrého Grúňa. Prvá hovorí, že vtedy ešte osadu Ostrý Grúň založili ľudia utekajúci pred Turkami od juhu z maďarských hraníc, čomu by nasvedčovalo vtedajšie umiestnenie osád, ktoré akoby sa pred niekým skrývali a tiež priezviská maďarského pôvodu ako sú - Baláž, Seget, Jánoš. Druhá hovorí o tom, že prvé obydlia osady vystavali drevorubači majiteľa hradu Revište, ktorému patrili všetky lesy ležiace v povodí rieky Hron až po vrch Vtáčnik. Obidve zmienky spadajú do 16. až 17. storočia. Názov Ostrý Grúň dostala osada podľa vrchu Ostrý Grúň, pod ktorým sa nachádza.
Nakoľko osada Ostrý Grúň mala podľa vtedajších zákonov málo domových čísiel na to, aby bola samostatnou obcou, patrila k obci Kľak a neskôr k obci Hrabičov. Samostatná obec vznikla 2. januára 1951 odčlenením od obce Hrabičov a vytvorením vlastného výboru.
Obyvateľstvo Ostrého Grúňa sa zamestnávalo hlavne drevorubačstvom, ktoré tvorilo jeho hlavnú obživu, ďalej roľníctvom a chovom dobytka. Až do vystavania lesnej dráhy si obyvatelia zarábali aj vyvážaním stavebného a palivového dreva zo štátnych lesov. Ostrý Grúň mal aj svoj mlyn s elektrickým osvetlením. V roku 1930 mal Ostrý Grúň spolu s obcou Hrabičov 1284 obyvateľov.
Významné dátumy z histórie obce: