Nasceu em 1936 em Piraeus, Grécia. Começou por estudar artes em Atenas, mas em 1956 mudou-se para Roma, para continuar os seus estudos na Academia de Belas Artes.

A força visual e conceptual das suas criações é reconhecida e é encarado como um dos artistas europeus mais completos e mais fortes do período pós-guerra.

Para Kounellis a Arte é um campo de reflexão, talvez por isso os críticos considerem-no um dos últimos artistas épicos, cujas manifestações artísticas nascem em nome de ideais e princípios.

É conhecido como um dos fundadores e representantes da Arte Povera (“arte pobre” em português), movimento em que esteve imbuído e onde participou com inúmeras exposições, recebendo o olhar e reconhecimento internacional. Fez exposições nos mais importantes museus e instituições, desde a Galeria Nacional de Roma, passando pelo Museu de Arte Moderna de Nova Iorque, pelo Centro de Arte Rainha Sofia e o Museu de Arte Moderna de Paris, entre muitos outros.

A sua obra é conhecida por incorporar materiais orgânicos e industriais como o ferro, o carvão e o fogo, criando composições altamente poéticas.

A Arte Povera desenvolveu-se na segunda metade dos anos 1960 em Itália e tinha como base a utilização de materiais não convencionais na expressão plástica, com o intuito de reduzir os seus artifícios, eliminando fronteiras entre Arte e quotidiano.

Kounellis desenvolveu um misto de pintura, colagem e instalação com performance, concebidos para expressar as tensões e alienação da sociedade contemporânea e a multiplicidade e fragmentação da sua linguagem. Dentro do movimento Arte Povera, o seu trabalho caracterizou-se sobretudo pela justaposição de objetos, materiais e ações que seriam fisicamente e culturalmente antíteses uns dos outros. 

Faleceu a 16 de Fevereiro de 2017, em Roma.