李密与袁绍一样，都是“四世三公”子弟，家族历代都曾担任“三公”的最高官位。李密的父亲去世后，他继承了蒲山郡公的爵位。年少时，李密曾担任隋炀帝杨广身边的侍卫，但因经常东张西望而被免去差事。然而，李密并不气馁，回家后努力学习，立志成为有学问的人。
有一次，李密骑着牛在大街上，将《项羽传》挂在牛角上阅读，被宰相杨素发现。杨素对他很感兴趣，觉得他有抱负，于是与他交流。杨素认为李密才华横溢，告诉自己的儿子杨玄感，将来有什么重要事情可以找他商量。从此，杨玄感与李密成了好友。
后来，杨玄感起兵造反，邀请李密担任谋士。然而，杨玄感不懂军事，也不信任李密，导致多次关键时刻不用李密的计谋，最终导致兵败被杀。李密幸存后，加入了翟让领导的瓦岗军，开始了“福瓦岗、祸瓦岗”的一段历史。
李密到达瓦岗后，向翟让献上了“攻取荥阳，争夺天下”之策。在他的全力协助下，翟让很快夺取了荥阳。随后，在大海寺杀死了隋朝名将张须陀，李密深得翟让信任和重用，实力和威望在起义军中迅速增长。不久之后，李密主动请缨，率领七千精兵攻占了天下第一大粮仓——洛口仓，让百姓取粮，从而赢得百姓的归附，瓦岗义军的实力大幅增长。由于李密功勋卓著，备受民众推崇，翟让和其他将领一致拥戴他为主，号称“魏公”。这一时期被称为李密“福瓦岗”的阶段。
