Temple of the Dog fue iniciado por Chris Cornell. Después de la muerte de su antiguo compañero de cuarto, el cantante de Mother Love Bone, Andrew Wood, Cornell escribió dos canciones como tributo: "Say Hello 2 Heaven" y "Reach Down". Cornell se reunió con los integrantes de la banda de Wood, que eran Stone Gossard y Jeff Ament, con la intención de lanzar las canciones como un single.
La banda empezó a ensayar las canciones después de que el baterista de Soundgarden, Matt Cameron y el guitarrista de Pearl Jam, Mike McCready, se unieran al proyecto. Los ensayos pronto dieron luz a nuevas canciones y el single se convertiría en un álbum, el cual sería llamado al igual que la banda Temple of the Dog. El nombre fue tomado de una de las canciones de Mother Love Bone, "Man of golden words".
Eddie Vedder, quien había viajado a Seattle para audicionar como vocalista para Pearl Jam, fue quien terminó siendo el vocalista de fondo. "Hunger Strike" se convirtió en un dueto entre Cornell y Vedder. Cornell estaba teniendo problemas con los vocales en el ensayo, cuando Vedder apareció. Cornell después dijo que "él cantó la mitad de esa canción sin ni siquiera saber que yo había querido que esa parte estuviera ahí y la cantó exactamente de la forma 
que yo estaba pensando hacerla, solo por instinto".
Aparte de un concierto que la banda tocó en Seattle, en el Off Ramp Café, el 13 de noviembre de 1990, mientras ensayaban y escribían material para el álbum, la banda tuvo dos oportunidades para presentar el material en vivo. En octubre de 1991, Soundgarden y Pearl Jam aparecieron en el Foundations Forum, y en 1992 la banda tocó el último show del festival Lollapalooza de ese año.
En 2003, hubo una tercera aparición en vivo de Temple Of The Dog. En un concierto de Pearl Jam el 28 de octubre de
"All Night Thing" (así como "Loud Love" de Soundgarden) apareció en la pista sonora de Wayne's World, aunque no en el álbum de la película.
