柳开出身高门大姓的河东柳氏（柳宗元和柳公权）都是这一氏的。而大名所在的河朔地区，自中唐乱世以来兵火不熄，强藩悍将打斗不已，故民风颇为剽悍，百姓习武蔚然成风。柳开虽是富家子弟，但受到当地风气熏染，自幼也喜好操弓舞剑，不仅练就一身过人的射箭功夫，而且胆子特别大。《宋史》本传记载：后周末年，某日夜间突然有强盗闯入家里，大家都惊恐不敢动，才十三岁的柳开抽剑就冲了过去。强人只得翻墙逃跑，结果被柳开挥剑劈掉两个脚趾。
柳开年轻时已写出不少名篇，从而博得许多知名学者和官员的青睐，像大名知府王祜和翰林学士卢多逊都对他的文章大加赞赏。对于柳开的文学成就，元人修的《宋史?儒林传》这样评价：宋初，杨亿等仍沿袭唐人声律之体；柳开、穆修“志欲变古而力弗逮”；自欧阳修出，倡导古文，王安石、苏轼、曾巩继之，“宋文日趋于古矣”。由此足见其在宋代散文史上不可小觑的地位。
在宋太祖开宝六年（973），他报名科考，结果一试中举，此时他不过二十六岁。
柳开入仕后，官运一度顺畅。他先做了五年多州衙里的司寇参军、录事参军一类幕僚官，协助知州处理文案和刑狱。
太平兴国四年（979），宋太宗亲率大军征讨五代余孽——北汉，他奉命督运淮南八州的粮草供应军需。不幸的是，这次北伐却以失败告终。战后柳开升任了常州知州，又调任润州，同时获得监察御史的官衔，几年后，改任河北路的贝州知州，官衔也迁为殿中侍御史。
雍熙二年（985），柳开与当地驻军的监军发生了冲突和争吵，因此被贬为上蔡县令。
雍熙三年三月，在宋太宗亲手策划下，朝廷大军兵分三路再次北伐契丹。在这场北伐过程中，柳县令曾随东路大军押运军粮。在即将抵达涿州时，大将米信遭遇到辽朝万余骑兵的阻击，当双方交战僵持不下之际，辽军将领派人前来请降。懂些兵略的柳开闻听，连忙主动向米信建议：兵法云“无约而请和，谋也。”对方肯定在使计，我军应抓紧进攻，必能取胜。但米将军犹豫不决，过了两天，敌军果然再度发起猛攻。事后获悉辽军当时确是弓矢用尽，用缓师之计麻痹宋军，以争取时间赶运装备。
当宋军班师撤回后，柳开直奔京师宫门向天子上书，声言愿效死北疆。翌年五月间，朝廷派柳开出使河北。此时，经历了北伐激烈的战事，他尚武的本性已经无法按捺。前代多少名将壮志豪情，驰聘沙场，扬名史册，令血性男儿振奋不已。一时他心中郁积已久的热血沸腾起来，便不甘心继续从事地方文官的案牍琐事。于是再次上书皇帝道：为臣蒙受非常的恩典，没什么可以报答朝廷。臣今年刚满四十岁，胆力正壮。现在匈奴未灭，愿陛下赐给臣下步骑数千，我愿出生入死，攻取幽蓟，虽战殁沙场，死而无恨。他既决心已下，就全然不顾以后的事了。
这时正是第二次北伐失败后的次年，朝廷上下笼罩在一派恐辽的悲观情绪之下，契丹军队气焰嚣张，出没河朔各地，烧杀抢掠，根本无视朝廷驻军的存在。此时此刻，竟有文官自愿上前线任职，宋太宗不能不为之感动。于是下诏：凡文臣中有懂武略、善兵器者，愿意改换武职，一律予以鼓励。一时，还真有三位像柳开那样的文官也表示响应，愿意在国难当头下“投笔从戎”。朝廷便将这四位文臣改换为武官，其中柳开由殿中侍御史转为崇仪使，出任宁边军（今河北博野县以东）长官。宁边军属宋朝边境沿线设置的地方机构，与州同级，不过防务职责往往重于民事。
此时官场的文武分工仍然相当严格，文臣可以转换为武官身份，但通常并不能进入军队中指挥作战。
柳开来到河北前线后，干劲十足，力图在防务活动中也展现出过人之处。由于不能直接统管军队，他便发挥自己善兵略的特长，向辽境展开分化瓦解工作。
其实，柳开也过于天真，自第二次北伐失败后，朝廷已彻底放弃收复幽云的计划，采取了全面防守的战略，自然不会真正支持主动进攻的任何方案。他虽抱憾壮志未酬，也只能服从调令。
全州地处荆湖南路西南端，与南部边疆的广南西路接壤，属不发达的汉蛮杂居之地。当时，州城西面有粟姓部落数百人经常抢掠闹事，前任一直未能解决。这对柳开来说算是小事一桩，既然无法在北疆战场纵横，那么在此边荒之地也不妨牛刀小试。他恩威并施，几番下来，很快就招抚了这些闹事的人，因此获得朝廷30万钱奖赏。
但在全州期间，柳开强悍粗糙的作风也暴露出来。一名军卒大概不服处罚，就向上面提起控诉，结果被他下令痛打了一顿，又被在脸面刺上字押往开封。正当柳开准备接任桂州（今广西桂林市）知州时，军卒的冤情反映上来。当此之时，朝廷正大力整顿五代遗留下来无法无天的弊政，树规立矩，禁止官员滥施刑罚。结果，他受到御史台的查处，被连削两级，贬为团练副使的闲差。
以后，柳开官复原职，先后到陕西、河北数地做知州。随着年龄的增长，他大概也渐趋缓和，出格的事少有发生，只是在邠州（今陕西彬县）任内，为了减轻当地农民繁重的负担，他才做了一件向上司威胁摊牌的事，从而取消了这一苛政。
宋真宗登基后，他按例获得升迁，由崇仪使转为如京使，不过官阶相同，都属七品衔，改任代州（今山西代县）知州。这一年，他已51岁。在回朝述职期间，柳开曾向新皇上了一道奏疏，希望天子励精图治、宰执大臣恪守原则、边关武备不可松懈、地方衙门务汰冗员、官场浮躁尤当戒除等等。遗憾的是，朝廷对他洋洋洒洒的献言，并未加以重视。