利比亚各派政治力量都清楚地看到，伊德里斯王朝已处于风雨飘摇之中，王朝政权随时都有被推翻的可能。据有关方面透露，当时至少有四个政治集团曾有发动政变夺取政权的图谋。第一个集团是包括前首相巴库什在内的知识分子和军官集团，这个集团谋划过接管政权的计划，但因内部分歧而迟迟没有采取行动。第二个集团是以军队参谋长阿卜杜勒·阿齐兹·沙勒希为首的王室力量，他们企图获得国王首肯体面接管政权，如此招不成再采取行动。由于国王迟迟未公开表态，他们贻误了行动时机。第三个集团是以军队一名上校为首的军官集团，据说该集团得到伊拉克支持，但由于种种原因，迟迟未能采取行动。第四个集团便是以卡扎菲为首的自由军官组织。这个组织的领导人和骨干成员名不见经传，但为发动政变做好了充分准备。
卡扎菲所依靠的是两个支部的骨干力量。他在塞卜哈学习时，与阿卜杜·萨拉姆·贾卢德一道创立了第一支部，此后又建立了一系列的支部，统称“第一支部”系统。在此基础上，卡扎菲号召支部的每个成员都应该创立自己的学习支部，称之为“第二支部”。按照卡扎菲亲自制定的条例，各个支部的成员彼此要互不相识；参加第二支部的成员需要卡扎菲亲自逐一审批。卡扎菲转到米苏腊塔学习后，又在这个城市建立了第一支部和第二支部。他还创立了自由军官组织的外围组织，即民间组织，在工人、农民、教师、商人和文职人员中吸收民间组织的成员。卡扎菲在班加西军事学院学习时，非常重视在军队中发展成员。他对发展对象逐个进行考察，搜集他们的材料，逐个审批。
卡扎菲为发动政变而进行的准备工作既精心又辛苦。他在谈到这段经历时说，为准备暴动，他们召开的会议越来越多，遇到的困难也就越来越多。他们必须在节假日开会，通常在深夜开会。他们必须把会议地点选在远离城市的地方，有时不得不奔赴数百公里远的地方开会，这些地方自然条件和气候条件往往都很恶劣。有的会议时间较长，他们就在野外露宿。为了解决活动经费问题，他们决定自由军官组织的成员都必须交出自己的全部工资。卡扎菲对发动政变的每个细节都做了精心安排。他把自由军官组织的骨干力量分配到全国各地，每个兵营里都配备两名军官，负责搜集与发动政变有关的各种情报，其中包括武器储备，军官名单及其上级领导等等。
年初，自由军官组织召开了一次重要会议。与会者一致认为，他们的组织已发展到相当成熟的程度，王室政权情报部门随时都可能侦破自由军官组织的计划，逮捕组织的领导成员。他们决定尽快采取行动，发动名为“耶路撒冷行动”的军事政变。会后，卡扎菲即向自由军官组织成员发出第一次警报，要求他们核查对士兵、交通工具、武器和弹药的控制情况。当收到一切准备就绪的信号后，他把发动政变的日期确定为年3月21日。
卡扎菲领导的自由军官组织举事前夕，情况发生了变化。他们获悉，埃及著名女歌唱家定于年3月21日晚在班加西举办个人演唱音乐会。卡扎菲认为，这场音乐会将给他们的暴动带来诸多不便，第一，举办音乐会的音乐家是埃及女歌手乌姆·库尔舒姆。她是阿拉伯歌坛上最有影响的一位女歌手，在全体阿拉伯人看来，她是位音乐天才，是位传奇人物，颇受欢迎和尊重。在这一天晚上举事是一件极不得体的事，也是对乌姆·库尔舒姆极不尊重的事。第二，乌姆·库尔舒姆举办的这场音乐会是为巴勒斯坦法塔赫游击队举行的义演。支持巴勒斯坦事业是所有阿拉伯国家义不容辞的责任，卡扎菲及其同事们对巴勒斯坦事业一直采取坚决支持立场，不愿做任何不利于巴勒斯坦事业的事。第三，卡扎菲领导的自由军官组织事先拟定了一份拘捕的王室政权高级人物名单，这份名单中的绝大多数人士将出席这场音乐会。按照惯例，这场音乐会可能要延续到次日凌晨，被拘捕人物的行踪不便掌握，这对拘捕他们造成许多困难。如在这种场合拘捕他们，也将造成不良影响。
卡扎菲再三斟酌，权衡利弊，决定推迟举事日期。卡扎菲把发动政变的日期改为3月24日，但他了解到，伊德里斯国王在这一天驾临班加西，王室和军队加强了警卫工作，从而增加了发动政变的困难。卡扎菲决定第二次推迟发动政变的时间，把政变时间定于6月5日。
政变前夕，自由军官组织的一些成员突然被通知调防，卡扎菲怀疑他们的政变计划可能泄密。此外，这一年的6月5日正值第三次中东战争爆发3周年，卡扎菲担心官方可能举办纪念活动，给他们的活动带来不测因素。为防止意外，卡扎菲第三次推迟政变时间。
年7月，伊德里斯国王去土耳其和希腊度假消夏。8月，国王把利比亚上议院和下议院的领袖召到希腊首都雅典，交给他们一封信件，宣布退位。这一消息传到利比亚后，利比亚形势更加混乱，各种政治力量蠢蠢欲动。卡扎菲了解到，军队参谋长沙勒希兄弟领导的宫廷集团准备在9月4日之前采取行动。与此同时，卡扎菲被通知于9月11日去英国接受第二次为期6个月的培训。
卡扎菲感到，发动政变已经成为一件刻不容缓的事情。于是，他与贾卢德在的黎波里东南不远的塔尔胡纳召开了一次紧急会议，决定将政变时间确定为年9月1日凌晨2时30分。他们还制定了详细的行动计划，决定采用突然袭击的方式夺取政权。政变前，卡扎菲对王室的军力部署进行了分析。他认为，王室在班加西的兵力最强，因为国王卫队就驻扎在这里。这支卫队通常被称为昔兰尼加卫队，对国王忠贞不贰，且装备精良，能否顺利解决这支卫队便成为整个政变计划成败的关键。为此，卡扎菲决定留在班加西，委派他的助手穆萨·艾哈迈德突袭昔兰尼加卫队，委派他的另一名助手穆斯塔法·卡鲁比占领贝卡军营和广播电台。他派贾卢德去的黎波里，主持在首都的行动。此外，他还派自由军官组织的其他成员分赴其他地区同时分头行动。
年9月1日早晨6点，是班加西广播电台早祷的时间。像往常一样，很多人打开收音机，听着里面报祷人吟唱的《古兰经》。突然，广播中断了，接着是一曲军乐打破了死一样的沉寂：“伟大的利比亚人民啊，奉救苦救难、大慈大悲的真主之命，向你们宣布：为了履行你们自由的意志，为了实现你们可贵的意愿，为了真正响应你们再三发出的要求变革、渴望纯净、力促行动与先发制人、亟待革命和进攻的呼吁，你们的武装力量已经摧毁了反动、落后、衰败的政权……”很多人都被收音机里传出的声音惊住了，包括正在苏尔特沙漠一座帐篷里的老夫妻阿布·迈尼亚尔·卡扎菲和艾莎，他们俩面面相觑，瞠目结舌：虽然在广播里讲话的人并没有宣布自己的名字和身份，但他们还是从断断续续却又非常熟悉的声音听出来，在广播电台里宣布推翻伊德里斯国王的人，正是他们的小儿子穆阿迈尔·卡扎菲。实际上，直到一星期之后，外界才知道，这场政变的发动者正是只有27岁、默默无闻的信号兵中尉卡扎菲。其实卡扎菲走到政坛中央极具戏剧色彩，那个据说预谋了10年之久的军事政变，从头到尾混乱无序、阴差阳错。
政变成功后，在一次电视谈话中，卡扎菲和自己的同伴们眉飞色舞地回忆起那天的诸多细节，听起来就像一场闹剧。年8月31日深夜，卡扎菲与青年军官们按照计划，采取行动。卡扎菲命令他的重要助手奥马尔·米海什乘傍晚的飞机前往首都的黎波里组织军营的接管工作。当米海什到达班加西机场时，发现飞机已满员。幸亏一个机场官员是他的朋友，总算走了后门上了飞机。到了的黎波里机场，他拦了一辆出租车驶向军营，下车时居然糊里糊涂地把武器和子弹丢在了车上。在班加西，按照计划，卡扎菲和两个上尉要在凌晨1点接管贝卡军营和电台。他们正要出发时，先是来了两个宪兵，让他们帮忙修摩托车，卡扎菲推托明天再去；好不容易把这两个宪兵打发走，另一个同谋者却惊慌失措地跑过来，说他们已经暴露。卡扎菲还是决定，“必须不惜一切代价勇敢地对付这个局面”。他把子弹和轻机枪塞满吉普车，一马当先地率领军队去占领班加西电台。当他走到半程回眸一望，却惊讶地发现，在前往班加西的路上，竟然只有他一个光杆司令。原来，在前一个岔路口，他的随行车队朝着贝卡军营方向开去了。卡扎菲于是独自一人行驶在去班加西的路上，“沿途没有灯，什么都没有”。更为可笑的是，负责占领的黎波里国家广播电台的军官开车绕城一周，竟然没有找到电台，只好慌慌张张地原路返回。负责接管的黎波里城外防空部队的贾卢德和霍尼，指挥着名士兵，到行动时才发现只有发子弹可供使用，好在一路没有遇到任何抵抗。
就是这样一场仓促上阵、漏洞百出的军事政变居然获得了成功。政变发生时，留守国内的王储兼首相哈桑·里达王子则在王宫中喝得酩酊大醉。他听到枪声立即从宫中逃出，藏到游泳池里，次日被捕。这几乎是一场不流血的政变，革命军仅在突袭班加西的王室卫队时发生了小的冲突，1人被打死，15人受伤。卡扎菲带人进入班加西广播电视大楼后，直接进到值班广播员室，要求广播员播送军乐曲。广播员惊恐不安，放了歌曲却不是进行曲。当卡扎菲要他为革命的第一篇声明录音时，广播员的语调显然惊慌失措。最终不得不由卡扎菲亲自读第一篇声明——实际上，这是卡扎菲仓促之中准备的，他在一张纸上潦草地写下几个要点，其余是广播时临时加上去的。
