1934年12月31日夜里，中央政治局在贵州省瓮安县猴场镇召开会议，决定部署红军抢渡乌江、攻占遵义。突破乌江天险后，为迅速攻占遵义城，中革军委总参谋长刘伯承亲率红一军团第2师第6团向遵义兼程疾进。

红六团是中央红军的一个主力团，团长朱水秋、政治委员王集成接到任务之后，立即率全团向遵义前进。

1月6日下午，红军袭占距遵义15公里之外的国民党军的一个外围据点，全歼守敌1个营。在对俘虏进行审讯过后，红六团摸清了遵义守敌及城防工事情况。经过研究，朱水秋、王集成决定让部队化装成国民党黔军的溃军，智取遵义城。刘伯承采纳了这一建议。 

1月6日晚，红六团第1营营长曾保堂等人化装成黔军，让几十个经过教育的俘虏在前面带路。部队到达遵义城下后，向城楼上的国民党守军喊话。国民党守军以为这是“自己人”，便打开了城门。红军战士们蜂拥而入，从两侧攻上城楼，迫敌投降。之后，二十多个司号员一齐吹响冲锋号，红军大部队乘机迅速突进城区。国民党守军乱作一团，弃城而逃。

1月7日凌晨，红军毫不费力地占领了遵义城。1月9日，中央红军举行了隆重的入城仪式。毛泽东、张闻天、周恩来、朱德等中央领导走在红军大部队的前面，在南门关桥头下了马，亲切地和欢迎群众的代表一一握手。

随后，中央红军按照中革军委命令，以红一军团第二师推进到娄山关、桐梓地区，红一师集结在遵义东北之新街，红十五师在老蒲场；红三军团在遵义城以南的刀靶水、尚稽场、懒板凳，扼守乌江北岸；红九军团在遵义东北的湄潭；红五军团在遵义东南的球场；干部团驻在遵义城担任警卫工作。

遵义是中央红军长征以来占领的第一个大城市。经过几天的征战，中央红军控制了以遵义为中心的黔北的广大地区，为遵义会议的召开创造了有利的条件。