20岁时，刘黑七跑到青岛去谋生。那个年代，社会黑暗，民不聊生，哪里又有穷人的幸福可言?刘黑七漫无边际地溜达了一个多月，仍没有找到活儿。后来，在一个同乡的荐引下，他去码头扛大包，卖苦力。所得工资相当微薄，拼死拼活干上一天，也仅够自己吃饭。刘黑七断断续续干了一年，仍旧两手空空。迫不得已，他又回到平邑县的老家，继续给地主当长工。

羊倌生活不仅使刘黑七熟悉了周围山地环境，而且练就了一身翻山越岭的好本事。到外面闯荡之后，刘黑七见了些世面，心变野了，越来越不安分。他见当地匪伙打家劫舍，为所欲为，于是也渐渐生了结伙为匪的念头。

1915年，刘黑七扯起“打富济贫”的旗号，开始网络人马。起初，他约集同村的林传聚、赵春荣，三人弄了一把鬼头刀、一支马冲子，东抢西夺。不久又联络了当地的地痞流氓夏兴德、李满、苏四等8个人，占山为王。当时正是兵荒马乱的年代，人民难觅活路，附近一些无业游民纷纷投奔刘黑七，做起土匪。这样，人越聚越多，4年的工夫，就发展到三四百人，有了钢枪，有了人马，活动范围方圆达100余里，成为沂蒙山区的一条毒蛇。

1927年2月10日，刘黑七向南孝义村(今山东平邑县柏林区)勒索钱粮。

这时，接连三年大旱，群众逃荒的逃荒，讨饭的讨饭，在家里的早已是吃树皮、嚼草根，路边横七竖八地到处躺着饿得不能动的人。平邑县西北有座小山，山上出一种可以吃的土一一“面石”，四面八方的饥民都来挖，回到家里上锅一炒，当面吃。可吃了以后就干结，大便不通，没办法，大便时只好用挖子向外挖，痛苦不堪。