L'apparition de cette organisation a coïncidé avec celle du conflit de décembre 1946 avec MESSALI El Hadj lequel avait privilégié l'adoption de la voie de la lutte légale, considérant que les élections étaient un moyen de lutte politique et les assemblées, un outil de propagande pour les revendications du Parti du Peuple et l'obtention du soutien de la gauche française et de la droite modérée.
Toutefois, les opposants, avec à leur tête Lamine DEBAGHINE, considéraient que cela se ferait au détriment de la préparation de la bataille décisive et induirait la défection des militants révolutionnaires qui rejettent la politique coloniale.
Au cours du premier congrès du mouvement tenu les 15 et 16 février 1947 à Alger, celui-ci a donné son accord pour le création d'une organisation para militaire , l'Organisation Spéciale, et Mohammed BELOUIZDAD fut désigné à la tête de cette organisation.

Les origines du mouvement armé remontent à la collaboration avec les Allemands de certains membres du Parti du Peuple Algérien, lorsque ces derniers avaient commencé à s'entraîner au maniement des armes durant l'été 1939. Le groupe de travail avec les allemands était dirigé par le militant Mohamed Bouras, chef des Scouts Musulmans, ce qui lui a valu d'être exécuté le 04.05.1941.
Ces compagnons continuèrent quant à eux d'activer et formèrent des cellules d'action révolutionnaire. Leur action se poursuivit jusqu'à la création en 1944, sous la direction de Mohamed BELOUIZDAD, de l'organisation de choc, qui entreprit la collecte des armes et l'entraînement à leur maniement. La foi en l'action militaire se renforça davantage après les massacres du 8 Mai 1945 et ASSELAH Hocine et Mohamed BELOUIZDAD apparurent sur le devant de la scène avec comme credo, la libération de l'Algérie au moyen de la lutte armée.

L'action de l'Organisation Spéciale était axé autour de la formation militaire et l'entraînement au maniement, collecte et distribution des différentes armes et explosifs. L'accent était également mis sur la formation de la conscience nationale puisant ses valeurs de combat dans à la religion musulmane. L'Organisation avait adopté une organisation rigoureuse caractérisée par la discipline , la mobilisation des hommes et de leurs compétences, le tout consigné dans le règlement intérieur de l'organisation spéciale.
L'Organisation avait une structure pyramidale dotée d'un état-major constitué du chef de l'Organisation, du chef d'état-major et de l'instructeur militaire. Elle disposait de responsables au niveau des wilayas, des départements de Constantine, d'Alger et d'Oran ainsi que Chlef-Dahra et la Kabylie et d'un responsable des réseaux de renseignements et des liaisons.
Les liaisons entre l'Organisation et le bureau politique du MTLD avaient lieu par le biais d'un intermédiaire appelé délégué spécial.

L'état-major de l'organisation a œuvré à la mise en place de réseaux spécialisés pour l'aider à accomplir ses missions militaires et exécuter ses opérations. Ces réseaux sont :
- Le réseau des explosifs chargé de la fabrication de bombes et de l'étude de la destruction des infrastructures coloniales.
- Le réseau de la signalisation : spécialisé dans les liaisons radio et électriques
- Le réseau de complicités chargé de fournir les caches pour les militants afin qu'ils ne tombent pas entre les mains des forces coloniales ainsi que les caches pour les armes et les munitions.
- Le réseau des liaisons : chargé d'acquérir des appareils de transmission et de s'entraîner à leur utilisation.
- Le réseau des renseignements, chargé de surveiller les comportements et les mouvements des appareils militaires, policiers et administratifs français et qui sanctionne les traîtres.

Les recrues étaient soumises à un règlement précis et rigoureux . Elles étaient distribuées comme suit :
- Le demi -groupe constitué d'un chef et de neuf membres
- Le bataillon composé d'un ou plusieurs groupes
Ces groupes étaient soumis à une formation militaire théorique et pratique. Les études étaient axées sur l'étude de la religion musulmane dont toutes les recrues étaient tenues d'observer les préceptes et éviter les interdits. Venait ensuite l'initiation aux études historiques au cours desquelles le conscrit étudiait l'histoire d'Algérie, de la préhistoire jusqu'à l'histoire de la résistance populaire et la mise en évidence des hauts faits d'armes des Algériens.

En raison de son état de santé, Mohamed Belouizdad fut dispensé de la direction de l'Organisation Spéciale. Hocine Aït Ahmed lui succéda à la tête de l'Organisation et oeuvra à la doter financièrement pour l'achat d'armes . L'attaque de la poste d'Oran fut organisée à son époque mais l'implication de Aït Ahmed dans la crise berbériste de 1949 a conduit à sa destitution et Ahmed Ben Bella fut désigné à sa place.
La direction de l'organisation spéciale passa par trois phases entre 1947 et 1950 et elle connut une réorganisation et une restructuration à l'époque de Ben Bella au cours de laquelle furent dévoilés les complots colonialistes contre l'Algérie et ses valeurs religieuses, linguistiques et historiques. Des grèves et des manifestations furent organisées et les élections furent boycottées. L'Organisation ainsi devint un outil militaire pour préparer la révolution armée.
Malgré la clandestinité de l'organisation et ses contacts limités avec le MTLD, sa découverte en mai 1950 fut un choc pour tous. Les membres de l'organisation furent pourchassés, réprimés et arrêtés et pour finir, l'organisation fut dissoute.
Craignant les représailles, le MTLD se défendit de toute relation avec l'Organisation Spéciale et cette attitude eut des conséquences négatives, entraînant une dégradation des relations entres les membres de l'organisation et les politiciens du MTLD , notamment après l'émergence de la crise entre le Comité Central et les partisans de MESSALI El Hadj qui déboucha sur la création du Comité Révolutionnaire pour l'Unité et le Travail.