Иоанн XXIII первым предложил идею собора на конклаве кардиналов в январе 1959 года. По его словам, ему хотелось видеть реформистский собор, который обновил бы Церковь и привел бы ее в соответствие с послевоенным миром. Он желал начать процесс примирения, который воссоединил бы различные церкви христианского мира. Он искал нового сближения с протестантизмом. Он также хотел навести мосты между Римско-католической и Восточной православной церквями, которые были разделены взаимными объявлениями об отлучении в 1054 году.

Курия была в ужасе. Были предприняты упорные попытки помешать проведению собора папы или, если это не удастся сделать, по крайней мере отсрочить его. Несмотря на такое противодействие, понтифик, однако, не отступился от своих планов, воспользовавшись для претворения их в жизнь всею властью, которая досталась ему от его предшественников. Собор, представлялось ему, должен был иметь интернациональный и экуменический уклон. Поэтому он принялся подготавливать почву, устанавливая контакты не только с другими христианскими церквями, но и с другими религиозными течениями.

Впервые со времени создания Англиканской церкви римский понтифик лично встретился с англиканским архиепископом Кентерберийским. Подобные же контакты были установлены с Греческой и Русской православными церквями. Впервые католическим представителям было позволено присутствовать на съезде Всемирного совета церквей. И был начат диалог с иудаизмом, кульминационным моментом которого стала энциклика, освобождавшая еврейский народ от всякой вины за смерть Иисуса. Иоанн XXIII также расширил коллегию кардиналов, включив в нее новых членов со всех континентов и сделав курию более итернациональной по составу, чем когда-либо прежде. В I960 году он сформировал официальный департамент в рамках курии, поручив ему заниматься объединением всех христианских церквей. В марте 1962 года он предпринял полный пересмотр Кодекса канонического права, который был в конечном итоге опубликован в 1983 году. Таковы были меры, предпринятые папой для подготовки к II Ватиканскому собору. Созванный в октябре 1962 года, собор проводил свою работу открыто, без параноидальной секретности, которая была присуща церковным делам в прошлом. В самом деле, на соборе официально присутствовали наблюдатели из не менее чем восемнадцати некатолических церквей. Это побудило некоторых членов курии и Священной канцелярии пожаловаться, что папа общается с еретиками – а ведь это, согласно каноническому праву, преступление.

Силы, составлявшие оппозицию папе в работе собора, возглавлял, что неудивительно, префект Священной канцелярии в то время кардинал Альфредо Оттавиани. Он неоднократно пытался добиться того, чтобы работа собора проходила под контролем курии. Однако собственная харизма папы и новые кардиналы, введенные им в коллегию, склонили чашу весов в пользу политики, проводимой понтификом. Попытка курии диктовать свою волю собору была пресечена. Для собравшихся клириков, равно как и для мировой общественности, стало неприятным открытием и потрясением, что курия, вопреки расхожему мнению, больше не олицетворяла всю Церковь в целом. В ходе работы собора воинственно настроенная «старая гвардия» была вынуждена уступать буквально по каждому пункту, и благодаря новым силам в Церкви были приняты радикальные реформы. Одна из наиболее назревших реформ касалась мессы, которая теперь наконец-то должна была служиться не на латыни, а на местном наречии. Одновременно с этим был упразднен – как не соответствующий духу времени и современным реалиям – «Силлабус», введенный с помощью Священной канцелярии Пием IX.