张陵死后，有两个人继承了他的事业，一个是张陵的儿子张衡不是发明浑天仪、地动仪的那个张衡，另一个是张修。张修可能是张陵的徒弟，也可能只是冒五斗米道之名招摇撞骗。张衡死后，其子张鲁就成了五斗米道的三代目。
当时张鲁和张修都依附于益州牧刘焉，张鲁是督义司马，张修是别部司马，刘焉派这两个人一起攻杀了汉中太守苏固。随后张鲁又杀了张修，兼并了他的军队。
张鲁的行为形同反叛，但刘焉却默认了。这是因为张鲁的母亲是一个挺有姿色的巫婆，她和刘焉常常在深夜里关灯对剧本。有了这一层关系，刘焉便对张鲁的行为睁一只眼闭一只眼。刘焉死后，刘璋上位，张鲁很不恭顺，刘璋便将张鲁母亲一家尽数杀光。
双方撕破脸皮之后，张鲁公开割据汉中郡与刘璋为敌，刘璋几次想征讨张鲁都失败了。
不光刘璋，朝廷也无力征伐张鲁，不得不承认他的地位，任命其为镇民中郎将（一说镇夷中郎将）、汉宁（张鲁改汉中郡为汉宁郡）太守。但张鲁不太感冒，一度想过称“汉宁王”。张鲁的功曹阎圃（pu）说，一旦这么干就相当于彻底和朝廷决裂，再也没有缓和的余地了。张鲁这才放弃了称王的想法，给自己留条回头路。
张鲁建立的是一个政教合一的政权，刚入教的人称为鬼卒，学习道义并经过考察后，可以升级为祭酒，也就是小头目；有能力的、带领教徒多的，再升为大祭酒，就是高级领导。最高级别的叫师君，就是张鲁本人。
张鲁的统治深受百姓爱戴，原因有两点：第一，不设官吏。没那么多闲人整天骚扰百姓；第二，慷慨布施。张鲁建了一些无偿供给行旅食宿的邸舍，谓之“义舍”。义舍中放置米肉，路人吃多少拿多少，全凭自觉。
那张鲁靠什么维系统治呢？
宗教。
张鲁不断给百姓灌输鬼鬼神神的思想——人在做天在看，做了坏事或者不诚信会有报应，义舍里的米肉拿多了鬼神就找你来了，犯了罪自己跪下忏悔，原谅三次，继续犯罪的话才动刑。
张鲁治下的汉中郡成了乱世中的一块乐土。
汉献帝建安二十年（公元215年）三月，曹操从关中出兵，准备拿下汉中郡。
从关中进入汉中郡，需要路过武都郡。武都郡当时已经被氐人占据，他们对曹操采取敌对态度，不允许曹操穿过他们的地盘。曹操命张郃、朱灵为先锋击溃了挡路的氐人。四月，曹操到达武都郡的河池县，氐王窦茂率数万大军拦路。五月，曹操攻破并屠杀了河池。七月，曹操率军到达阳平关前。
对于曹操的到来，张鲁很慌，打算投降。张鲁的弟弟张卫不同意，张鲁就派张卫和大将杨昂率数万大军镇守阳平关。阳平关是天险，是汉中郡的屏障，曹操十万大军连攻三天无果，军粮供应还出现了问题，但曹操最终还是攻破了阳平关。
怎么攻破的呢？三种说法。
据《三国志·武帝纪》及《三国志·刘晔（yè）传》记载，曹操攻阳平关不下，便下令撤军。张卫等人很高兴，打退了曹操，能吹半个世纪。结果一天夜里，曹操趁守备松懈又摸了回来，强行攻关。张卫大惊，落荒而逃。
据《三国志·张鲁传》裴松之注引《魏名臣奏》记载，当时曹军攻打阳平山上敌人的营寨，晚上军队撤下来的时候“误入贼营”，张卫等人慌忙逃走。
据《三国志·张鲁传》裴松之注引《魏晋世语》记载，一天夜里，有数千头麋鹿闯入了张卫的大营，此时曹操的一支部队又恰与张卫相遇，曹军鸣鼓吹号，张卫以为曹操发起了总攻，便投降了。
我们之前说过，当某一历史事件出现不同说法，在没有明显事实错误、逻辑漏洞或者详略差距过大的情况下，还是应当以正史为准。所以还是应该相信《三国志·武帝纪》的记载。另外，同为正史的《后汉书·刘焉传》在记载这一事件时，也是说“操破卫”，而不是“鲁守自坏”或者“野麋坏卫营”。
张鲁听说阳平关失陷了，自己已经无险可守，就打算投降，阎圃说，先撤退，谈谈条件再投降。
张鲁向南撤退，并且封存了府库的家当留给曹操。张鲁不是忠厚，是聪明。他把宝贝留给曹操，把后路留给自己。