První písemná zmínka o obci pochází z roku 1307, kdy je obec zmiňována v Zemských deskách brněnských. Krahulov byl původně samostatný zemský statek s tvrzí (zničena asi za vpádu Matyáše Uherského na Moravu), ze které se jižně od kostela dochovaly valy. Počátkem 14. století drželi Krahulov páni z Jakubova. V roce 1398 zdědil od Bočka z Ruttendorfu Přibek z Polánky, po něm pak Krahulov zdědil jeho syn Erasmus, který se pak roku 1406 spolčil s Janem z Raussenpruku. Někdy v tuto dobu pravděpodobně zanikla tvrz v Krahulově. V roce 1407 však prodal ves Hovorkovi z Hartvíkovic, ten však v roce 1409 byl zabit a obnovil se jeho spor s Benešem Cardíkem z Kameničky a ten si nárokoval Krahulov. Ještě v roce 1418 si vesnici nárokoval i přes to, že v roce 1410 daroval Krahulov markrabě Jošt Moravský Mikuláši z Mochova. V témže roce však jeden z věřitelů Hovorky z Hartvíkovic Smil z Heraltic vtrhl do Krahulova a získal tak nějaké majetky. Mikuláš z Mochova následně prodal Krahulov Janovi z Petrovic, po něm pak vlastnili vesnici v roce 1464 Mikuláš z Petrovic a Jindřich z Ratibořic. Jejich potomek Kristofor Petrovský z Hrochova prodal roku 1499 „ves Kraluhov i s kostelním podacím“ bratrům Zdenkovi a Burjanovi z Valdštejna a na Brtnici, od té doby Krahulov náleží k panství brtnickému. V roce 1882 byla ve vsi založena škola.
Kolem roku 1886 byla na území vesnice postavena dráha ze Zastávky u Brna do Okříšek, stanice v Krahulově byla ale uvedena do provozu až v roce 1887. V roce 1912 pak několik domů ve vsi zničil požár. Během první světové války odešlo do války celkem 42 občanů Krahulova. Ke konci války bylo ve vsi ubytováno sedm italských válečných zajatců, kteří pracovali v zemědělských profesích pro vesnici a pomohli tak hospodářské situaci obce. V roce 1919 byl vysázen pro padlé občany Sad svobody a v roce 1921 byl do sadu umístěn památník padlým v první světové válce. Roku 1923 byla postavena nouzová silnice mezi Pokojovicemi, Krahulovem a Heralticemi a mezi lety 1929 a 1930 byla postavena silnice k železniční stanici. V roce 1929 byla také obec elektrifikována. V roce 1937 pak byl do vesnice zaveden i telefon. Před začátkem druhé světové války byla zavedena všeobecná mobilizace, která se dotkla i krahulovských občanů, ale ti se vrátili zpět a snad žádný nezemřel. Roku 1940 byl rozšířen lihovar v obci.
V roce 1945 vznikl v obci Svaz české mládeže a organizační složka Junáka. V roce 1947 pak byla do památníku obětem 1. sv. války zasazena pamětní deska obětem 2. sv. války, jimiž byli Leopold Stoklasa, učitel Emanuel Krajina a jeho syn Emanuel Krajina. Roku 1948 pak byla postavena spojka silnice z Třebíče do Okříšek se silnicí z Krahulova do Pokojovic a také byla postavena hasičská zbrojnice. Roku 1948 byla kompletně rekonstruována škola. Později byla zrušena organizace Junák a v obci bylo roku 1950 založeno pionýrské hnutí. V roce 1958 bylo v obci založeno JZD, to se však v roce 1963 rozpadlo a sloučilo se se státním statkem, který obhospodařoval Parný mlýn a farmy v Červené Hospodě, Řípově a Kracovicích. V roce 1959 byl do užívání JZD předán Steklý rybník, který se stal rekreačním střediskem. V roce 1963 bylo postaveno v rámci Akce Z fotbalové hřiště a kolem roku 1973 dětské hřiště. Kolem roku 1968 byl zrušen Český svaz mládeže a v roce 1971 byl v obci založen Svaz socialistické mládeže. Roku 1973 byla schválena stavba velkého sila u železniční trati. V roce 1976 byla zrušena škola v obci. V roce 1980 se obec stala součástí města Třebíče.
Po sametové revoluci bylo zrušeno JZD a jeho majetky byly rozděleny mezi soukromníky, roku 1993 vzniklo soukromé zemědělské družstvo, které pak roku 2000 se stalo součástí družstva v Okříškách.
Od 1. ledna 1980 do 23. listopadu 1990 obec byla součástí města Třebíč. Od 13. listopadu 2002 obec užívá znak a vlajku.
V letech 2006–2010 působila jako starostka Jitka Vančová, od roku 2010 do roku 2014 tuto funkci zastával Jaromír Jurka, od roku 2014 do roku 2018 funkci starosty vykonával František John. Od roku 2018 je starostou Jiří Müller.