刘金山出生于京剧世家，父亲是著名的京剧花脸演员，父亲希望金山子承父业，而金山却忍受不了那压腿、练功的枯燥和辛苦。当金山高中毕业后，开始理解并敬慕父亲的演艺辉煌时，他已经不可能成为京剧演员了。当各类艺术院校都将刘金山拒之门外后，为了生存刘金山干起了装卸工、裁纸工、影剧院场务等工作。正是因为有了如此的生活体验，当刘金山真的成为演员，在舞台和银幕上饰演各种不同角色时，他总是显得那么得心应手。哪怕是遇到只有一点戏的小人物，也要将人物的心态表现得淋漓尽致。知道如何演戏、如何做人的刘金山，牢记父亲对他说过的话：“做演员就是一个露脸的事，大家分工不同都是劳动。不论到什么时候，千万不能自以为是。” 刘金山曾演的话剧《厕所》轰动一时，后来走上影视之路，和著名导演英达合作了多部情景剧。在热播剧《闲人马大姐》饰演的潘大庆深得观众的喜爱，而他在电视剧《小兵张嘎》中扮演的胖翻译，《前门楼子九丈九》中扮演的麻管家，《沙家浜》中扮演的胡传魁等一系列反面角色，使他成为了家喻户晓的明星。 唱歌是刘金山最大的爱好，他曾和李琦、臧天朔等全国知名的胖子组成了“千斤组合”合唱团在春晚亮相。但很多人不知道，年轻时的刘金山是一个留着披肩发，戴着耳环，背着吉他的摇滚青年。他曾经跟当时几个比较好的哥们组建了自己的乐队，而且还担任主唱，他还是风靡全国的摇滚乐队“黑豹乐队”的创始人之一。节目现场，刘金山“重温旧梦”，给大家带来了一首极具震撼力的摇滚歌曲，真正体现了重量级男人的魅力。年轻时候的刘金山整天游手好闲，无所事事，后来经过老师介绍做了装卸工。有一次在搬东西的时候，刘金山一不小心踩到了立着一个钉子的木板上，当时脚差不多都快穿了，但他仍然忍着疼痛继续搬。刘金山现在回忆起这事，说自己当时可能有“自残”的倾向。那究竟刘金山当时为什么要这样“自残”呢？那段经历对刘金山今后的路有什么影响呢？ 戏中的刘金山是反面角色，但现实生活中的他是一个性情中人，特别讲义气。在剧组，刘金山经常自己掏钱请大家吃饭，他对待别人都是一视同仁，连对在剧组打工的人员都很客气。刘金山爱喝酒，曾经因为喝酒胃出血三次住进医院，他看不惯别人强迫不会喝酒的人喝酒，如果遇到这种情况，他一定会上前挡酒，不管喝多少，他都奉陪到底。但又是什么原因让刘金山后来下定决心戒酒呢？刘金山有一位漂亮的妻子，很多人说胖子都是很浪漫的，而刘金山却从来没有送过妻子一束花。但是，两人却做过不少浪漫的事，夫妻俩经常一起去滑冰、游泳。刘金山还经常骑着他的大二八飞鸽牌自行车带着妻子满北京城转悠，穿胡同、逛商场、逛大街，他说这也是一个极大的乐趣。 刘金山是个比较直爽的人，他说孝顺父母、尊老爱幼是中华民族的传统美德，人一定要孝顺，这是一个人非常重要的品德。 绝对不能和没有孝心的人交朋友。他自己也身体力行，尽孝力诚，用实际行动表达对父母的一片孝心。在父亲病逝的前一年，刘金山基本上把戏都推掉，一心一意陪着父亲走完最后的人生。在这期间，他的很多好朋友都来帮忙照顾。刘金山说人的一生是短暂的，父亲这人生最后的过程更是需要加倍呵护。常言道“久病床前无孝子”，但我们看到的却是一个尽心尽力的孝子。刘金山把父亲叮嘱自己的几句话：“学艺要先学做人”、“戏缘就是你的人缘”、“台风可以带出你的人品来”一直铭记于心，在演戏时脚踏实地做好每一件事。父亲过世后，刘金山对母亲更是孝敬有加。虽然拍戏工作很忙，但经常打电话问候，一有时间就去看望母亲。他说尽孝并不是表现在自己要每天守在父母身边，而是要有一颗真诚的孝心，给父母最大的关爱和照顾，多想着父亲。这样从良心上说，自己将来也没什么遗憾。 为了拍好《大惊小怪》这部影片，刘金山可是没少受罪。制片方为增加影片卖点，特意将外景地选在马来西亚。刘金山拖着肥硕的身体，忍受着潮湿的热带气候，随着剧情一会儿海里，一会儿船上，一会儿又钻进茂密的原始森林。在拍摄现场，不论导演如何说，刘金山的口头语是“行”、“好”、“马上到”，没有一点含糊。为塑造好《大惊小怪》中这个“落难”的老板，刘金山没少让导演“糟踏”自己。赤膊露背，身上涂抹着黑色的油彩，就连演员最在意的那张脸也没有放过。 对于出道20年的刘金山来说，大小角色塑造了无数个，从话剧《大江湾湾》中的男主角到影片“阿满”系列喜剧，刘金山是一步一个脚印走出来的。特别是在前苏联导演执导的话剧《灵魂出窍》中出演喜剧角色后，更使他从此在喜剧表演领域中一发不可收拾。
1996年，在陈佩斯主演的电视剧《为了新生活前进》客串角色。
1998年，出演许同均执导的电影《好汉三条半》。
1999年，在电视剧《楼转乾坤》饰杨望金。
2000年，在丁晟执导的电影《大惊小怪》中，饰演王天贵；同年在蔡明主演的电视剧《闲人马大姐》饰潘大庆。
2001年，在《东北一家人》饰演金老二的哥哥金老大，并演唱《东北一家人》片尾曲；同年，在春晚与李琦、刘惠、尹相杰等人表演《康定情歌》。
2002年，在电视剧《党员马大姐》饰潘大庆；同年在电视剧《爸爸叫红旗》饰经理。
2003年，在李幼斌主演的电影《惊心动魄》饰演角色刘金山；同年在电视剧《前门楼子九丈九》饰佟六；后又在电视剧《二哥》饰王总；后又在在电视剧《小兵张嘎》中饰胖翻译，被观众熟识。
2004年，在电视剧《人生几度秋凉》饰刘督办；后又在电视剧《国家形象》饰江东；同年刘金山受邀加盟央视春晚，与喜剧演员冯巩等合作表演小品《让一让，生活真美好》。
2005年，在电视剧《追杀横路靖六》饰横路靖六；同年在电视剧《杨光的快乐生活1》客串铅笔厂厂长；后又在电视剧《谁为爱情买单》饰李查得父。
2006年，和于荣光、童蕾合作，在电视剧《狼毒花》饰演母猪龙；同年在电视剧《杨三姐告状》饰陶钰；后又在电视剧《血色玫瑰》饰郑元龙。
2007年，出演赵本山、宋丹丹主演的电影《落叶归根》，饰演黑店老板；同年在佟大为、马伊俐主演的电视剧《奋斗》中饰石康男友；后又在电视剧《闯关东》中饰吴掌柜。
2008年，与刘桦搭档，主演电影《万家灯火》；同年在在电视剧《北方有佳人》饰张宗昌；同年又在电视剧《我是一棵小草》饰胖哥。
2009年，在电视剧《中天悬剑》饰演韩东山；同年在刘惠宁执导的电视剧《我是业主》饰陈自强；后又在冯远征、陈冲主演的电视剧《人到中年》饰马科。
2010年，在徐克执导的《狄仁杰之通天帝国》饰演薛勇；同年8月，在赵宝刚执导的电视剧《婚姻保卫战》中刘金山和于娜饰演一对“老夫少妻”。
2012年，与演员英达、洪剑涛合作，加盟戏剧电影《我和你》。
2011年，在郭富城、陈奕迅主演的电影《全球热恋》中饰演华叔；同年刘金山又受邀加盟央视春晚，与喜剧演员冯巩等合作表演相声剧《还钱》，这是他第二次登上春晚舞台；后又在在动画片《老夫子之小水虎传奇》为大蕃薯配音，这是他首播动画作品。
2014年，在赵宝刚执导的青春偶像剧《青年医生》中搭档孙红雷上演了一出急诊室“情”缘；同期在辛柏青主演的电视剧《跟我回家》中饰演大老板张总；同年12月，由金依萌执导，刘金山主演的电影《一路惊喜》也在贺岁档上映。
2015年1月，做为开年第一位嘉宾将做客北京文艺频道明星讲述栏目《光荣绽放》。8月20日，刘金山与杨颖、倪妮合作喜剧电影《新娘大作战》上映。同年，出演电视剧《糊涂县令郑板桥》，在剧中饰演利大反派范仁福。
2016年，参演抗战轻喜剧《迷雾1945》。
2019年10月22日，主演的电影《那一夜，我给你开过车》宣布定档11月15日。。
刘金山饰演的人物个个鲜活生动，深入人心，塑造的一些小人物栩栩如生，被誉为“黄金配角”。在演戏过程中，哪怕是只有一点戏的小人物，也会将人物的心态表现得淋漓尽致。
刘金山以自成一派的表演俘获了全国观众的认可，成功地塑造了那些生活化的小人物，并赋予那些角色独特的魅力，或幽默或厌恶。与那些老好人角色相比，刘金山所塑造的反派角色更深入观众之心，被称之为国内具有特色的反派专业演员。
