罗少伟，1918年生于陕西省汉阴县蒲溪镇。罗少伟从小父母双亡，孤苦伶仃，无依无靠、8岁便给地主家放牛。早晨踏着露水出去，晚上顶着月亮回来，冬无棉衣，夏无单衫，从来没吃过一顿饱饭。14岁那年，他实在忍受不下去了，想进城去帮工找一碗饭吃。不料，刚进城便被抓了壮丁，分在当时杨虎城的警二旅四团一营三连三排当兵。1935年他离开杨虎城的军队，参加了共产党领导的陕南抗日第一军，以后整编为红十五军团警卫团。
1940年，罗少伟的所在部队进驻到山东，那时他已是一位连长。
当时，山东曹县韩村集新驻扎一批日本侵略者，占了一座地主的院落当作据点，四处烧杀掳掠，常常把妇女抢到据点里去，无恶不作。冀鲁豫军区决心拔掉这个钉子，给日伪军以沉重打击。罗少伟知道这个消息后，坚决要求让他们连去执行这光荣任务。一天晚上，罗少伟带了一个侦察班，摸进了村子，利用熟悉的地形，悄悄地爬到了日军指挥所的房顶上。这时敌人正在酣睡，他轻轻揭开瓦片，把一个个拉开弦的手榴弹，从房顶上投了下去。这些房子里，不仅住着日军，而且堆放了不少炮弹炸药，因此顿时变成了一片火海，把正在做着“大东亚共荣圈”美梦的侵略者，炸得血肉横飞。这爆炸声也是一个信号，埋伏在村子周围的八路军，听到爆炸声，便一齐冲进村里。经过不到一夜的战斗，八路军全歼守敌107名，缴获了大批战利品。
1942年，抗日战争进入了最艰难的阶段。为了源源不断地充实抗日力量，进一步培养提高中青年军事干部的素质，冀鲁豫军区办了个陆军中学，专门培训营以上的军事干部，学军事、学文化。罗少伟当时被抽调在陆军中学学习。在陆军中学学习的干部既不准带武器也没有掩护的部队，日本鬼子有时一天包围几次，他们也只好一天跑几回。有一天，罗少伟和其他六位同志一起睡在一间小房子里，敌人突然包围了陆军中学，把他们抓住送到济南城郊的一座监狱里。在关押期间，敌人对他们百般严刑拷打，但这七个人都视死如归，大义凛然，没有一个人屈服。日军便把他们一个个分别关在连腰都直不起来的小洞里，门上只留一个小口子通风透光。
关押了一段时间后，敌人便把他们押出监狱外面去挖壕沟和修路。罗少伟利用这个机会，详细观察了地形。这个监狱墙高、地险、岗严，门上有两道岗，外面还有铁丝网。可是他也看到，如要越狱也有有利条件。这个监狱外紧内松，晚上监狱内的看守只有两个人，如冲出大门后，可以掩蔽的地形很多，有利于逃走。经过多次和同志们慎重研究后，都一致同意想办法越狱，以最小的代价逃出敌人的罗网。一天晚上在劳动回来的路上，罗少伟向同志们传话说：“我已观察好了路线，今晚动手吧!”便由一个洞口一个洞口传了过去。
深夜，两个日本看守鼾声大作，罗少伟向隔壁墙上拍了三下。这是动手信号。然后，他拿起一块看守允许他搬进来当枕头的大石头，把门用劲砸开。声音虽然不大，却惊醒了正在酣睡的看守。“谁?”当这个看守还没来得及问第二句话，罗少伟已迎面将大石头砸过去。一石头把他打死。罗少伟迅速砸开了其它洞口的门，低声喊道：“跟我来!”七个同志像七只下山的猛虎，紧靠着墙边向大门冲去，在大门上他们又经过一番搏斗，夺取了三支枪，把守门的哨兵打死，一齐冲出大门，顺着小路跑出去了。敌人在后面紧追不舍。罗少伟指挥大家利用浓黑的夜色和熟悉的地形，一面走，一面打。敌人一直追了两天两夜，毫无收获，只得狼狈地收兵。
为了表彰罗少伟的英勇行为，冀鲁豫军区杨得志司令员签署命令通报表扬，号召根据地军民向罗少伟学习。
1946年8月，党中央点名教导旅一团去执行迎接王震所率的南下支队北返延安的任务。时任一团团长的罗少伟便率领部队去横山无定河边扫除敌人据点。无定河河宽水急，当地群众叫它“鬼河”。敌军驻守无定河南岩的头目叫胡老五，他认为八路军没有船只，想渡过“鬼河”是不可能的，因此背水扎营，只注意堵截王震率领的北返部队，根本未理会北岸的一团。敌人迷信“鬼河”，给了一团暗渡偷袭的一个好机会。可是当时的战士绝大多数是“旱鸭子”，想渡过河去也是困难。经过找当地群众了解、测试，找到了水流平缓的河面，准备从这里偷渡。罗少伟第一个“扑通”一声跳进河里，两手划水游向对岸。战士们一看见团长都跳下去了，也纷纷渡过河水。河南的敌人忽然看见一团出现在他们后面，措手不及。一团一举歼灭了800多人，扫清了无定河边的守敌，圆满完成了迎接王震率领的北返部队的任务。王震司令员高兴地说：“有这样的部队，我可以再打一个来回。”
罗少伟原在冀鲁豫六分区十一团当团长，1944年到达陕北后，中共军委将几个小团整编为一个大团，原十一团编为教导一旅一团二营。罗少伟由团长改任二营营长，他毫无怨言，能上能下。组织上征求他的意见时，他说：“团长营长都是干革命，一切服从党安排。”在他任营长不久，便愉快地带领全营同志进清泉沟开荒生产。他和副营长张顺国一起种了三亩棉花、三亩蓖麻，早出晚归，辛勤劳动，秋天都获得了好收成。他当团长打仗是带头冲杀，当营长生产也是带头劳动，背粮食拣大口袋，开荒时拣大镢头，和战士们一起搞生产竞赛，把生产搞得热火朝天。
1947年，3月，蒋介石调动了20多万军队，从南、北、西三面向陕甘宁边区进犯，并狂妄叫嚣：“三天占领延安!”
根据党中央的部署，教导旅固守延安的正面，把住革命圣地的大门。罗少伟奉命带着一团在茶坊、马坊南山松树岭一带的深山密林中加紧构筑工事，分成三道防线阻击敌人。
14日凌晨，敌人向教导旅前沿阵地小林坪南面、冯子良和菜场两侧采取集团进攻和迂回包围。为了巩固正面防御阵地，罗少伟和政委魏志明冒着枪林弹雨，亲自到前沿阵地进行现场指挥。敌人依仗着炮火和优势兵力，气焰非常嚣张。但罗少伟沉着、果断、机警地指挥着部队，利用有利地形，阻击着敌人。他们白天步步抗击，晚上转移阵地牵制敌人，把敌人引到丘陵沟的地形上来，使有机械化的敌人无用武之地。三天过去了，敌人未能越雷池一步，延安岿然不动。16日，敌人恼羞成怒，疯狂猛扑。这一战斗打得十分激烈艰苦，一团有些阵地丢了又夺回来，子弹扔完用手榴弹，手榴弹扔完拼刺刀，到处展开了肉搏战。敌人的整编第一师集中了全部兵力火力向一团二营阵地马坊北山猛攻，其中有一个营的兵力已突入了四连一排阵地，情况十分危急。罗少伟身边的参谋人员都建议把预备队拉上去，但他沉着冷静地分析形势，认为不到万分紧要关头，决不能动用预备队。他知道四连是个老红军连队，这个连队从来都是硬骨头，伤亡再大，斗志是不会削弱的。在这个时候，需要的是压倒敌人的大无畏气概。于是，罗少伟在前沿上振臂高呼：“同志们，冲呀!把敌人打下去!”阵地上顿时杀声震天，四连的战士们听见他们的团长在呼喊，从阵地上一跃而起，端着步枪奋力冲杀。二营营长张顺国立即命令两侧的五连六连从左右出击，抄敌人的后路。一霎时，只见山坡上烟尘滚滚，刀光闪闪，敌人转眼间遗尸遍地，又一次狼狈退却了。
保卫延安的阻击战整整打了七天七夜，毙伤敌人共5000余人，打破了胡宗南“三天占领延安”的梦想，为党中央和延安人民安全转移赢得了时间，为以后的“三战三捷”创造了有利条件。在这七天七夜里，整个一个团，上至团长、政委，下到每一个战士，几乎是没有合过眼。罗少伟作为指挥员，更是昼夜都战斗在最激烈的前沿阵地上。
在一团指战员中间，还广泛流传着“一条皮带”的故事。
1948年西府战役中，罗少伟派了一个侦察组去敌人那里抓“舌头”，以便了解敌军情况侦察组马到成功，一下子抓回来20多个俘虏，大家喜气洋洋。第二天，罗少伟叫全体侦察组到他那里去。大家想，这回团长要表扬我们了。到了团指挥所，罗少伟问过抓俘虏的情况后，突然问道：“为什么缴获的步枪里，有一支没有皮带?”原来，有一个战士因裤带断了，便顺手解下皮带用了。这个战士想，这还不是小事一桩，何必这样认真!因此，他嘴里一直在强辩着，谁知罗少伟却一下子严肃地批评起来：“从缴获敌人的枪支上，私自拿走皮带，这便是违犯纪律，‘三大纪律八项注意’是怎么讲的?违犯纪律是小事一桩?”听到团长的批评，这个战士才认识到自己的错误，忙把皮带从腰里解下来交公，并承认了错误，尴尬地站在那里。罗少伟见他认识了错误，便又叫警卫员去取一条裤带给这个战士。并诙谐地说：“乱弹琴!你想提着裤子去打仗?”说得大家原来绷紧的脸都笑开了。
1949年10月1日，中华人民共和国成立了。西安解放后，罗少伟被任命为第六军十六师副师长，奉命进驻新疆哈密。
可是，正当各族人民庆祝自己的解放时，新疆广阔的草原上又燃起了弥漫的硝烟。惯匪乌斯曼，国民党军事委员会中将参议、哈密专员尧乐博斯和美国前迪化领事马克南，纠集一小撮民族败类、反动头人、间谍特务，利用解放军进疆时间很短和历史上长期形成的民族隔阂，到处造谣惑众，发动暴乱，企图把新疆各族人民重新置于水深火热之中。土匪所到之处，烧杀抢掠，无恶不作。人民流离失所，一批解放军战士，前往农村牧区帮助农牧民发展生产，也惨遭屠杀。刚刚解放了的土地上，又笼罩在一片刀光血影之中。
这些土匪令人发指的罪行，激起全军指战员极大的愤恨。在一次第十六师党委研究剿匪部署的会议上，副师长罗少伟激动地站了起来，请求师党委允许他亲赴前线指挥，以便掌握匪情，捕捉战机，全歼匪徒。
1950年3月26日，罗少伟匆匆吃过早饭，披上皮大衣，带上通讯参谋和警卫员，坐上吉普车出发了。他们首先来到离哈密100多公里的了墩。这是第十六师四十六团二营五连的驻地，已接近了土匪经常出没的地方。罗少伟向五连的全体指战员传达了师党委会议的精神，进行了动员，下达了剿匪命令，并详细检查了剿匪的准备工作。他非常清楚，土匪依靠天山险峻，地形复杂，经常出没无常，到处骚扰，机械化部队根本用不上。所以，要剿匪便要进山，要进山便要马匹，离了马匹寸步难行。罗少伟在五连详细检查了马匹饲养情况和饲草饲料准备情况。他看见马草储存不多，便命随他的武装部队乘的两辆卡车立刻去拉运马草，又命令通讯参谋带着一个班去帮助打马草。等到一切工作安排就绪以后，他才放下心来，准备去七角井前沿驻地检查工作。
4月1日早晨，边疆的天气仍然是春寒料峭，罗少伟等迎着晨光，冒着寒风，由了墩出发，奔赴七角井部队驻地。汽车在两山夹道中颠簸地行驰着，爬上了一条漫长的斜坡。这里叫车轱辘泉，离七角井还有20多公里。车刚爬上坡顶，突然左边的山沟里枪声大作，埋伏在这里的40多名土匪蜂涌而上，突然袭击。罗少伟在车上大喊一声：“打，冲过去!”可是，汽车中弹熄火，他们已被土匪团团围住。后续部队没有赶到，终因众寡悬殊，除司机一人被俘外，罗少伟和机要秘书李玉庆、参谋马玉章、报务员宋万成、警卫员杨状元均壮烈牺牲。噩耗传来，全师指战员无不悲痛。4月2日下午，罗少伟的遗体运回哈密时，战士们悲愤万分，含泪振臂高呼“为罗副师长报仇!”“为死难烈士报仇!”一个个心中燃起了复仇的火焰，有的战士咬破指头，用鲜血写了请战书，请求奔赴剿匪战场。那些正在风雪弥漫的天山深处追剿土匪的战士，闻讯以后，更是怒火中烧，英勇杀敌。在中共中央新疆分局的领导和新疆军区的指挥下，剿匪前线捷报频传。不久活捉了土匪大头目贾里木汗，又活捉了土匪头子乌斯曼。经过公审，执行枪决。于是，新疆全境土匪全部肃清，草原重见光明。