Священномученик Платон родился 13 июля 1869 года в мызе Подис Перновского уезда Эстляндской губернии в семье псаломщика Петра Кульбуша и его супруги Натальи и наречен был Павлом. В 1884 году Павел окончил Рижское духовное училище, а в 1890-м — Рижскую Духовную семинарию; как лучший воспитанник, он был послан для продолжения образования в
Санкт-Петербургскую Духовную академию, которую окончил в 1894 году со степенью кандидата богословия.
Учась в академии, Павел Петрович вступил в Общество религиозно-нравственного просвещения и стал вести активную миссионерскую работу среди проживавших в Санкт-Петербурге эстонцев.
5 декабря 1894 года Павел Петрович был рукоположен во священника, а 31 декабря того же года указом Святейшего Синода в Санкт-Петербурге был учрежден эстонский приход, и первым его настоятелем стал отец Павел; впоследствии он был назначен благочинным всех эстонских церквей Санкт-Петербургской епархии. Для богослужений эстонскому приходу было отведено помещение в нижнем этаже храма Воскресения Христова в Малой Коломне.