《史记》记载，周武王一日梦见天帝将赐予他一个儿子，名字叫做虞。《左传》记载：“邑姜方娠太叔。”根据各代记载考证，邑姜乃姜太公吕尚之女，后为周武王发的妃子，一日梦见上天对自己说：“余命女生子，名虞，余与之唐。”不久之后，果然产下一子，手上有一“虞”字，即后来的唐叔虞。周武王去世后，年幼的成王继位，一日，成王和虞玩耍，将一片梧桐叶撕成玉圭的形象交给虞，戏言将封他为唐国的国君，此时，成王身边的史官以君无戏言为由立即要求给虞备车马赴唐国就任，这就是唐叔虞的来历。
唐叔虞的儿子晋侯燮父徙居晋水，把唐国改名为晋国。五世之后的晋靖侯年代，晋国的历史开始有了准确的记载。而此时，天下风起云涌，国人暴动，世道颇为不太平，晋国就在这个时代开始崛起。
晋靖侯的重孙晋穆侯有儿子，长子名仇，少子名师，据传晋人师服曾预言，两子之名嫡庶颠倒，预示晋国将有一场动乱。晋穆侯死后，其弟殇叔自立为君，太子仇出奔，内乱开始。仇就是后来的晋文侯。此时，西周被犬戎所灭，中国历史正式进入春秋时代。
《史记》载：“平王之时，周室衰微，诸侯强并弱，齐、楚、秦、晋始大，政由方伯。”由此可见，晋国在春秋初期已经有所壮大。晋文侯仇去世之后，其子昭侯伯即位，将其叔师分封到曲沃城不久，晋国发生动乱，晋昭侯被人杀死，公子成师有意夺权，未果。
公子成师之后，其孙曲沃武公开始继续和晋国国君进行主宗的争夺，“曲沃武公伐晋侯缗，灭之，尽以其宝器赂献于周釐王。釐王命曲沃武公为晋君，列为诸侯，於是尽并晋地而有之”。鲁桓公二年（公元前710年），曲沃武公率兵进入陉庭，联合陉庭同晋国对抗，并于第二年春天俘虏了晋哀侯。但是由于没有得到周王室的正式承认，虽然此时曲沃武公的势力早已经超过晋国，武公还是没能够登上晋国君主的位置。是年，周恒王下令虢仲讨伐曲沃武公，武公败退曲沃。
此后经过28年的积蓄，曲沃武公最终再次发动讨伐晋国的战争，最终攻陷晋国首都翼城，杀死晋侯。曲沃武公把缴获的晋国宝器都献给周釐王，以求得继承权的合法。收受武公贿赂的周天子遂授予其晋国君主的称号，即晋武公。也正是晋武公的努力，使得晋国的实力大大增强，为后来春秋争霸中占有有利地位奠定了基础。
武公死后，其子晋献公即位。此时，晋国的东方，齐桓公势力已经相当强大。晋献公是一位十分有作为的国君，在他的带领下，晋国开疆辟土，先后伐灭霍、魏（此魏非战国之魏国，却是其龙兴之地）、耿等诸侯国。“西有河西，与秦接境，北边翟，东至河内”。
而晋献公最为人所熟知的是其讨伐骊戎时，娶美女骊姬及其妹。骊姬后生一子，当时的太子为申生，骊姬想设法使晋献公废太子立自己所生的儿子为太子。除太子申生以外，公子重耳和公子夷吾都是献公成年的儿子，且有较好的品性、能力，深得世人喜欢。骊姬设法将太子申生先调离都城，后设计使晋献公对太子申生产生间隙，申生最终自杀而亡。骊姬后又恐重耳、夷吾对自己的儿子构成威胁，遂以“公子重耳和公子夷吾和太子同谋”之罪要晋献公赐死二子。公子重耳、夷吾为避灾祸，先后逃亡。不久晋献公用假途灭虢的计策灭亡了南边的虢国和虞国，奠定了晋国成为春秋时期大国的基础。
献公死后，骊姬之子奚齐即位，随即被大臣里克杀死。最终，夷吾通过秦穆公的帮助回归晋国，成为晋惠公。晋惠公随后处死里克，并且对国中许多大夫大开杀戒，失去民心。
晋惠公即位后，遇荒年，秦国以大米相助，次年，秦国饥荒，晋国却以怨报德，趁机攻打秦国，大败而归，晋惠公被俘。秦穆公的夫人为晋惠公之姐，经过一番求情后，秦国释放晋惠公，以太子圉当质子。后圉私自逃回晋国。晋惠公薨，太子圉立，是为晋怀公。
而此时晋献公之子重耳还在逃亡。重耳逃亡期间，路过卫国，饥寒交迫，向一位农夫乞讨，农夫给了他一把黄土，重耳很生气，认为农夫是在戏弄他，随从狐偃则说道：“这是上天要赐给我们土地啊！说明我们复国在望。”重耳意会，随后从农夫手中接过土块，继续前行。终于皇天不负有心人，鲁僖公二十四年（公元前636年），重耳得到秦国的帮助，秦穆公委派公孙枝率领秦军三千，保护重耳重返晋国。因为重耳早已声名在外，国内拥护者甚多，于是重耳杀死晋怀公，即位，是为晋文公。
据《国语》记载，晋文公即位后励精图治，任用贤才、修明政务、奖惩分明，是公认的好君主。他采取了一系列改革措施，“安排百官，赋职任功，弃责薄敛，施舍分寡。救乏振滞，匡困资无。轻关易道，通商宽农。政平民阜，财用不匮”。晋文公对晋国的崛起起着至关重要的作用。
晋文公死后，其子晋襄公继位。随后秦晋两国友好关系破灭，晋襄公死后，年幼无知的晋灵公即位。此时，晋国的实力开始下滑。
随后晋成公、晋景公即位。春秋争霸剑拔弩张，楚庄王成为当时的霸主，齐国不断向晋国发起挑衅，随后两军在鞍决战，晋国打败齐国，将三军编制为六军，这些军队的领军成了以后在晋国专政的六卿，是为三军六卿。
公元前403年，周天子封韩、赵、魏三家为诸侯，战国时代开始，晋国名存实亡，公元前349年，韩、赵两国杀晋君，晋亡。
这就是历史著名的三家分晋。