刘文静年轻的时候他的父亲战死沙场，他承袭了父亲的职位。在隋朝的末年，他担任了晋阳令，与宫监斐寂是非常要好的朋友。

在李渊出任留守的时候，一次交谈中，刘文静认为李渊是一个胸怀大志的人才，于是两个便开始了频繁的交往。等到他见到李渊儿子李世民的时候，他觉得李世民的气度跟历代的君王很相似，他对李家父子俩特别看重。后来，因为他与李密的关系被关了起来，李世民去牢中看他，在牢中他们进行了交谈，他们两个对话一拍即合，随后便开始筹备暗中起义的事情，准备伺机而动。

不久，副留守被击败，李渊也因此被抓，李世民想让刘文静和斐寂劝说父亲让他加入起义的队伍中，他们劝说李渊说：“如今这个世道兵荒马乱，您有嫌疑的罪名，又没有立下什么功，恐怕自身都难保，应该想些办法脱身。现在这个地方兵强马壮，府库充盈用这个来做事情，必然会立大功。”李渊听后，认同了他们的看法。之后，刘文静常为李渊出谋划策，以讨伐为名来募集兵力，又伪造文书调出仓库里的物品留着已备一时之需。他们先发制人，进行了起兵反隋的计划，逐渐建立起唐朝的帝国。