Um dos mais importantes trabalhos de Ellison foi A Boy and his Dog (O Menino e Seu Cachorro), livro pós-apocalítico de 1969 que foi adaptado para o cinema em 1975 por L.Q. Jones.
Seu conto Eu Não Tenho Boca e Preciso Gritar, de 1967, foi adaptado em 1995 como um jogo de computadores e é considerado uma das melhores histórias de terror da ficção científica, na qual um computador extermina a humanidade e mantém apenas cinco pessoas vivas, torturando-as por meio de jornadas em realidade virtual que exploram seus medos.
Em sua carreira, Harlan Ellison foi laureado pelos mais relevantes prêmios da literatura fantástica – Hugo, Nebula e Locus – diversas vezes, especialmente por seus contos.
Como editor, Ellison organizou diversas antologias de ficção científica, abrindo espaço para outros autores, como Philip K. Dick, Philip José Farmer, J.G. Ballard e Frederick Pohl em coletâneas como Dangerous Visions (1967) e Again, Dangerous Visions (1972).
Ellison assinou o roteiro de episódios da série original de Star Trek e de The Alfred Hitchcock Hour, nos anos 1960, de The Starlost, na década de 1970, e de Twilight Zone, nos anos 1980.
Em 2017, uma biografia de Ellison, A Lit Fuse: The Provocative Life of Harlan Ellison, an Exploration, foi publicada.