In den zwanziger Jahren wird in Paris der Theologiestudent René Voillaume auf die Regelentwürfe aufmerksam, die Charles de Foucauld 1899 in Nazaret ausgearbeitet hatte. Mit vier Gleichgesinnten geht er 1933 in die Sahara nach El- Abiodh-Sidi-Cheikh und beginnt dort mit ihnen nach dieser Regel ein monastisches Leben zu führen. Sie wollen von Ansatzpunkt aus das Erbe Charles de Foucaulds wieder aufnehmen.

Nach dem Zweiten Weltkrieg führten ein tieferes Verstehen des Lebens und der Schrften Charles de Foucaulds zur Entstehung von kleinen Wohn- und Lebensgemeinschaften von zwei bis drei Brüdern. Eine damals völlig neue Art der Ordenslebens entstand. Es war ein Wagnis, die "Klostermauern" zu verlassen und den Alltag der kleinen Leute zum Inhalt und zum neuen Rahmen eines Ordenslebens zu machen. Und es bleibt bis heute eine Herausforderung, unter diesen Bedingugngen die traditionellen Ordensgelübde der Armut, der Ehelosigkeit und des Gehrosams zu leben.

Im Wesentlichen sind drei Elemente, die das Ordensleben der Brüder unter den Menschen bestimmen : Arbeiten in Berufen der unteren Lohnstufen, die nicht im innerkirchlichen Bereich beheimatet sind, geschwisterliches Leben mit den Nachbarn und das Gebet.

Die Gemeinschaft verbreitet sich rasch mit etwa 250 Mitgliedern in 43 Ländern. Im deutschprachigen Raum leben heute Kleine Brüder Jesu in Hamburg, Duisburg, Stuttgart, Nürnberg, Zürich, St. Pölten und Wien.