Був сином Йосипа Обручника від його першої дружини і тому в Євангелії називається братом Господнім. За переказами, Спаситель явився йому після Воскресіння і поставив його єпископом Єрусалимської Церкви. Як глава Єрусалимської Церкви він головував на Апостольському Соборі в Єрусалимі в 51 році.

Апостол Яков вів подвижницьке життя та був суворим аскетом, не пив вина, утримувався від м’яса, носив одяг лише лляний. Мав він звичай усамітнюватися для молитви в храмі і там молився за свій народ. Він так часто простягався на землю в молитві, що шкіра на колінах його огрубіла. Його поважали не лише християни, а й юдеї, і називали опорою народу та праведником.

Іудейські старійшини стали побоюватися, як би весь народ не навернувся до Христа, і вирішили схилити Якова зректися Спасителя, або убити його. При великому зібрані народу апостола ввели на портик храму, і після того, як він сповідував Христа Господом, скинули його на землю. Один юдей добив, ще живого старця вдаривши по голові каменем.