К этому времени при госпитале в Иерусалиме уже действовал христианский храм Святого Иоанна Предтечи. Христиан-подвижников, служивших при госпитале и храме, становилось все больше. По имени храма они назывались братьями-иоаннитами и установили через паломников и купцов прочные связи с христианским миром Западной Европы. И когда в 1099 году рыцари-крестоносцы, добравшиеся наконец до Иерусалима, пошли на штурм городских стен, братья-иоанниты, как свидетельствуют древние хроники, тоже взялись за оружие и ударили мусульманам в спину.

По этой причине Готфрид Бульонский, предводитель крестоносного войска, завоевавший Иерусалим, но умерший год спустя, и его преемник Балдуин, первый король иерусалимский, оказывали щедрое покровительство госпиталю Святого Иоанна Предтечи. Братья-иоанниты получали многие привилегии.

Кроткие идеи помощи неимущим и больным, явившиеся основой создания братства, все теснее смыкались с мыслью о необходимости борьбы с неверными. Стоит ли удивляться, что одному из провансальских рыцарей, обосновавшемуся в Иерусалиме, пришла мысль основать особое братство — полумонашеское-полувоенное. Члены его должны были отречься от мира и носить монашеское одеяние, но вместе с тем взять на себя и необычные для монахов обязанности — защищать Святую землю от неверных с оружием в руках и иметь, кроме монашеского, рыцарское звание.

История сохранила имя рыцаря-основателя — Пьер Жерар. Он разработал устав, взяв за образцы уставы монашеских орденов, которых к тому времени уже немало появилось в Европе — например, бенедиктинцы, цистерцианцы. Ордена отличались один от другого принципами, на которых строилась монастырская жизнь и взаимоотношения с мирянами, а также цветом и покроем одежды.

Свои принципы и свои одежды были определены и для членов ордена госпитальеров, или иоаннитов. В 1113 году устав ордена утвердил папа римский Пасхалий II, поставив во главе его Пьера Жерара.

С этого события ведет свое начало особый раздел в истории западноевропейского рыцарства — рыцарские ордена, с которыми связаны многие важные события.

Каждый, кто вступал в орден иоаннитов, давал три обета — послушания, целомудрия и бедности. Члены его отрекались от всего своего имущества в пользу наследников или, что случалось чаще, в пользу орденской братии. Позже иоанниты получили право приобретать поместья, однако не могли завещать их кому-нибудь, кроме ордена.

В качестве символа ордена был выбран белый крест с раздвоенными концами. Первоначально его нашивали на левое плечо черного плаща, причем рукава у плаща были очень узкими, что символизировало отсутствие личной свободы. Позже иоанниты стали носить красные плащи с крестом, нашитым на груди.

Орден делился на три категории — рыцари, капелланы и служащая братия. С 1155 года глава ордена стал называться Великим магистром или гроссмейстером, а также «стражем Иерусалимского гостиного дома» и «блюстителем рати Христовой». Он торжественно избирался на всю жизнь из самых знатных и доблестных рыцарей ордена.

Великий магистр в своем высоком ранге признавался, подобно монархам, государем, властвующим Божьей милостью. После своего избрания он сообщал об этом всем европейским государям. Рыцари-иоанниты считались подданными Великого магистра и приносили ему присягу в верности. Были у главы ордена, как и у королей, символы власти — корона, «меч веры» и печать с ликом Великого магистра.

Для решения важнейших вопросов собирался генеральный капитул. Члены его перед началом собрания передавали Великому магистру кошель с восемью динариями, что символизировало отказ рыцарей от земных благ. Резиденция ордена поначалу помещалась в госпитале Святого Иоанна в Иерусалиме.