1924年，今潍坊市坊子区南眉村一带大兴纺织，布匹、棉纱集散络绎。这里商会招聘武装保安人员，18岁的乔德三前往报名，经考核留用。他借商会允许习武随便使用子弹的机会，苦练枪法，白天打飞鸟，晚上射香头，成就了他的子弹“长眼睛，能盯踪”的传说；还操习点穴擒拿之术，地功拳、四通捶把握得滚瓜烂熟。1927年，应聘昌邑县衙当马弁。秋天一日，衣衫破烂的一老一小被捆绑而来，罪名是偷了财主东家的钱粮，还有私通绑匪嫌疑，第二天要动大刑逼供。乔德三负责看押，心起恻隐，放走了他们，自己则携带着马弁短枪，星夜逃离县境。不日，县府贴出告示悬赏缉捕“通贼内奸乔德三”。
有枪则有胆。他兑现自己的诺言，1928年秋，潜回朱里，侦候数日，结果了放狗咬过他的恶霸地主刘某的性命。“私报公仇”，大快人心，家乡百姓交赞他为民除害，立德如山。
这年冬天，乔德三相继联络了朱里附近穷困潦倒、犷悍无赖的张魁元、李洪祥、乔明九、马重恩等十五六人，拉起了“杆子”（土匪）队伍，立寨昌邑东京埠，仿效水浒好汉排座次，编制黑话便联络。乔德三有胆量、行事狠、谋事周、枪法准，有强烈的“头领欲”，霸气袭人，年龄恰在这帮人中间，有“中心”之寓意，故被推为头头——“乔八”之名由此而来。山民闻讯，又给后缀上“爷”字——“乔八爷”便响亮问世了。
乔八到处打探哪里有富户，谁有枪支，迟早会去“访访”。掠得钱粮枪，威势震四方。地主老财们视他为眼中钉肉中刺，然而无可奈何，常用诅咒求得一时嘴爽，如起内讧，当面不便表露，就望着背影骂：“叫你出门碰上乔八！”一次经过掖县城门，乔八把手枪卷在还冒着热气的大饼里，老远就对着卫兵喊：“老总老总，吃饼吃饼！”卫兵垂涎欲滴，有点感动，还想掩饰：“你大吆小喝什么，进去进去，在边下等等。”乔八幸免搜身，进去，一转眼不见人了。其实，乔八若遇不测，一勾扳机，即可“秒杀”卫兵。聚啸山林后，乔八名声像滚雪球那样越来越大，也得助于杂军匪痞的造势——杀了人或抢了东西，为转移视线，往往留字 “乔八不敬”、“乔八笑纳”等绵里藏针的恐吓纸条。因此，在相当广的地面上，谈乔色变，闻风丧胆。当局通告活捉或悬赏击毙他，形同虚纸，谁都害怕，怕惹麻烦，怕掉脑袋，就用阳奉阴违来应对。乔八过胶济线犹如持有“绿卡”，守者明知是他，却不敢阻拦，心照不宣地“一致放过”。
乔八的频繁活动，震惊了潍县、昌邑县府。两府联手延请号称“匪贼克星”的马洪彪带领他的专业剿匪队，以相当半连的兵力攻打东京埠。事前，乔八已经得到受过他们接济的山民送来的情报，做了周密防范，安排弟兄们分头把守要隘。当马兵进入射击圈，乔八率先一枪，群弹齐发无虚，毙伤二十多，其余溃败逃命。此后，乔八强悍名声更震，寨主地位愈发巩固，竟与官府对峙相安五六年。
1936年年初，乔八萌生了搞大钱的念头。带着七八个弟兄窜到济南，利用一个雨雪交加夜问津民生银行，飞檐走壁，蹿房越脊。没料想到省城金融要处的戒备非同一般，刚一落地，不知触到什么“消息”，整个银行院落唰地灯光齐明，未等反应过来，子弹从高处倾泻下来，当即有人倒地。情况万急，乔八啪一枪，击断灯泡映照下的电线，顿时漆黑，趁机逃跑。很快知道，一个倒地弟兄因伤被逮，熬不过刑罚，供出了 “招兵买马壮队伍” 的劫银动机和队伍盘踞地。
