Era el último superviviente del reparto de «12 hombres sin piedad»

Klugman, que tuvo una dilatada carrera artística a lo largo de 60 años, fue más conocido por su papel en dos populares series de televisión: «La extraña pareja» (1970-75), adaptación de la película de igual nombre, y «Quincy, M.E.» (1976-1983).
En «La extraña pareja», basada en la obra de Neil Simon, que narraba la vida de dos divorciados que viven juntos, Klugman hacía el papel de un periodista deportivo. Por su papel en esta serie obtuvo dos premios Emmy. En «Quincy, M.E.» precursora de «CSI», Klugman hacía el papel de un forense con un especial talento para esa función.
Klugman era un fumador empedernido y padeció cáncer de garganta, motivo por el que fue intervenido quirúrgicamente, lo que le dejó como secuela una voz rasposa, que le valió para obtener papeles en películas y series de televisión, como «La extraña pareja: de nuevo juntos», de 1993, y «Querido Dios», en 1996.
Klugman inició su carrera en 1954 y, entre sus papeles más destacados en el cine, figuran apariciones en «12 hombres sin piedad» (1957), en el que representaba al jurado número cinco, «Días de vino y rosas» (1962), junto a Jack Lemmon, y «Goodbye Columbus» (1969).
Nacido en Filadelfia el 22 de abril de 1922 en el seno de una familia de inmigrantes rusos, Jacob Joachim Klugman estudió arte dramático en el Instituto de Tecnología Carnegie, hoy Universidad de Carnegie Mellon. Sirvió en el ejército estadounidense durante la Segunda Guerra Mundial y tras un periodo en obras de teatro secundarias en off Broadway, debutó en Broadway en 1952 en una reposición de «Golden Boy».
Klugman estuvo casado entre 1953 y 2007 con la actriz comediante Brett Somers, quien interpretó a su ex esposa de ficción Blanche en «La extraña pareja», con quien tuvo dos hijos, Adam y David. En 2008 se casó con Peggy Crosby, ex esposa de Bing Crosby, que le acompañaba en el momento de su muerte.