Nasce a 15 de março, na freguesia da Candelária. Filho de José da Costa Nunes e de Francisca Felizarda Goulart, era o terceiro filho mais velho dos nove filhos do casal. Foi batizado quatro dias depois, a 19 de março.
Ingressa no Seminário de Angra, após realizar o exame de admissão aos liceus na cidade da Horta, Faial.
Recebe a Prima Tonsura e as Ordens Menores, na igreja do Convento de São Francisco, em Angra do Heroísmo.
A 23 de março parte para Macau, onde chega 3 meses depois, a 4 de junho. Vai na qualidade de secretário do Dr. João Paulino de Azevedo e Castro (vice-reitor do Seminário de Angra, também natural do Pico), quando este foi nomeado Bispo de Macau.
Em julho conclui a sua formação e obtém o presbiterado, celebrando a sua Missa Nova, a 31 de julho, na igreja de Santo Agostinho, em Macau.
A 6 de junho parte para as missões de Malaca e Singapura como secretário de D. João Paulino de Azevedo e Castro, regressando a Macau a 2 de setembro.
É nomeado Vigário Geral da Diocese de Macau, a 14 de julho.
É nomeado Governador do Bispado de Macau. Período em que começa a conhecer alguns dissabores provocados pela dinâmica republicana, que fervilha em Portugal, face a muitas críticas direcionadas à religião e aos seus agentes e onde os efeitos da laicização originaram a expulsão da maioria dos missionários do Oriente.
É eleito Vigário Capitular, em Macau, após a morte de D. João Paulino e depois de ter assumido um protagonismo crescente no Oriente, nos primeiros anos do regime republicano.
É nomeado Bispo de Macau, pelo Papa Bento XV.
Recebe a Sagração Episcopal na igreja matriz da Horta, ilha do Faial, por D. Manuel Damasceno da Costa, Bispo de Angra.
Regressa a Macau, onde vai dirigir a diocese durante 18 anos.
É nomeado, pelo Papa Pio XII, Arcebispo da Sé Metropolitana, Primacial e Patriarcal de Goa, assumindo o título de Primaz do Oriente e Patriarca das Índias Orientais.
Toma posse da Sé de Goa, em 18 de janeiro. Funda a Congregação Missionária de São Francisco Xavier do Pilar de Goa, entre múltiplos colégios, escolas, seminários e instituições cristãs, pois o seu trabalho de envangelização da Índia portuguesa era preponderante e com particular protagonismo na área da educação.
Condecorado, pelo Governo Português, com a Grã-Cruz da Ordem do Império, demonstrando assim a sua importância como padroado.
Atribuição da Rosa de Ouro à catedral de Goa pela sua obra missionária onde o trabalho de D. José da Costa Nunes volta a ser reconhecido, com honras públicas, sendo condecorado com a Grã-Cruz da ordem de Cristo. Pouco depois, foi nomeado Arcebispo Titular de Odessa e Vice-Camarlengo da Santa Sé.
Devido ao aumento de influências da Propaganda Fide*, o Padroado sofre perdas efetivas, o que o leva a renunciar ao seu cargo diocesano, cessando assim 50 anos de atividade pastoral no Oriente. Passa então a residir em Roma, desempenhando funções na Cúria Papal durante 23 anos.
*Congregação para a Evangelização dos Povos (Congregatio pro Gentium Evangelizatione). Dicastério da Cúria Romana que se ocupa das questões referentes à propagação da fé católica no mundo inteiro.
É elevado à dignidade de Cardeal, pelo Papa João XXIII, e convidado a integrar a Comissão Central Preparatória do Concílio Vaticano II (1962-1965).
É Cardeal-eleitor no Conclave que elegeu o Papa Paulo VI.
É enviado pelo Papa ao IV Centenário das Missões da Companhia de Jesus, em Macau, onde foi proclamado cidadão benemérito da cidade pelos seus antigos diocesanos.
É o delegado de Roma às Festas Jubilares de Nossa Senhora de Fátima.
A 30 de agosto inaugura a Casa de São José – naquela que foi a sua própria casa –, na Candelária, então designada Patronato Infantil da Casa de São José, que foi entregue às Irmãs Franciscanas Hospitaleiras da Imaculada Conceição. Foi o primeiro estabelecimento de educação pré-escolar da ilha do Pico e um dos primeiros dos Açores
A 1 de janeiro perde o direito de participação no Conclave de Eleição Papal por ter mais de 80 anos.
Recebe a visita pessoal do Papa Paulo VI, quando já está no seu leito de morte. Morre em Roma, a 29 de novembro, cidade onde é sepultado na igreja de Santo António dos Portugueses, como pedira no seu testamento.
A 27 de junho, os seus restos mortais foram solenemente trasladados para a capela da Igreja de Nossa Senhora das Candeias, na Candelária.