Elia Zengheli nasceu na capital grega, Atenas e mudou-se para o Reino Unido onde estudou na renomada Escola de Arquitetura da Associação de Arquitetos de Londres, completando o curso em 1961.

​

Depois de formado, ainda em 1961, inicia sua carreira trabalhando para o escritório de arquitetos "Douglas Stephen and Partners", ainda em Londres, e a partir de 1963 começa sua carreira de professor de arqutietura ao lecionar na Escola de Arquitetura da Associação de Arquitetos.

​

Como professor, inicia seus trabalhos na área de teoria da arquitetura e em 1973 produz, junto com seu mais famosos aluno, Rem Koolhas, a polêmica utopia distópica urbana chamada de "Exodus ou os Prisioneiros Voluntários da Arquitetura", que era uma estrutura imaginada em Londres, que dividiria a cidade por meio de dois muros ao longo de seu perímetro. Na parte interna, a zona é subdividida em uma série de quadras idênticas no tamanho, mas cada uma com seu próprio programa/cenário, que vão da celebração da completa privacidade até instalações intensamente comunais.

Sua destacada posição de vanguarda o leva a fundar o Office for Metropolitan Architecture (OMA), em 1975 com Zoe Zenghelis, sua esposa, seu ex-aluno Rem Koolhaas e Madelon Vriesendorp, esposa de Rem.

De 1980 a 1987, Zenghelis foi sócio responsável pelo escritório do OMA em Londres e do escritório do OMA em Atenas (de 1982 a 1987). Fora dos projetos do OMA durante esse período que participou das atividades do escritório a Ampliação do Parlamento Holandês, em Haia em 1978; a Lutzowstrasse, em Berlim, no ano de  1981; o Parc de la Villette , em Paris, 1982; e as habitações do Checkpoint Charlie, também em Berlim, no ano de 1990. Várias das pinturas que Elia Zenghelis fez com Zoe Zenghelis para ilustrar os projetos do OMA - como Hotel Sphinx (1975) e  o Sixteen Villas na ilha de Antiparos, na Grécia (1981) - estão agora incluídas na coleção de Arte e Design do Museu de Arte Moderna em Nova York.

​

Nos anos 1980 observa-se uma mudança em seu estilo, que alguns críticos chamaram de "virada mediterrânea" quando ele passa a projetar uma série de vilas e casas de férias seguindo tradições contrutivas presentes na cultura do mar Egeu. Tal expressão arquitetônica é muito visivel em seus trabalhos realizados na ilha de Antíparos. Esse período marca a passagem do "metropolitanismo" do OMA ao "mediterranismo".

​

Em 1987 a Zenghelis firmou parceria com a arquiteta Eleni Gigantes, e abrem o escritório Gigantes Zenghelis Architects,  com sede em Londres e Atenas. Mas a partir de 1992, Zenghelis retirou-se da participação ativa nos trabalhos de projetos no escritório para se dedicar mais a sua carreira acadêmica. Mesmo afastado, continuou colaborando com o escritório em projetos pontuais e chegando a abrir, de 2000 a 2011  uma filial do Gigantes Zenghelis Architects em Bruxelas, capital da Bélgica. 

Em 1989 foi nomeado Professor Baukunst na Kunstakademie em Düsseldorf. Ele também ensinou no Instituto Berlage na Holanda (1993–2010), e em 2003 também foi nomeado membro da Diretoria do Berlage. 

A partir de 1997 lecionou também na Suíça como Professor Convidado na Escola Politécnica Federal de Lausanne ( EPFL ), na Suíça no Instituto Federal de Tecnologia de Zurique - ETH de 1998 até 2000.

Também atuou como Professor na Accademia d'Architettura Mendrisio (2000–2007). Foi nomeado Professor Emérito em diferentes Escolas de Arquitetura, como a da Universidade da Tessália , na Grécia. Em 2012 ministrou aulas no programa de mestrado da Bartlett Faculty of the Built Environment na University College London (UCL) no e também como professor visitante na Escola de Arquitetura de Yale.

​

No ano 2000 recebe o prêmio de excelência em educação pela Instituto Real de Arquitetos Britânicos (RIBA).