スペインのバルセロナに生まれ、1958 年に子役としてリセウ大劇場でデビュー。プロとしては、1970 年にリセウ大劇場で《ナブッコ》と《ルクレツィア・ボルジア》に出演。彗星のように現れたカレーラスは異例の若さで世界有数の劇場や音楽祭にデビューを果たした。

オペラのレパートリーは60 作品以上に及び、特に《アンドレア・シェニエ》、《ラ・ボエーム》、《トスカ》、《ウェルテル》、《ドン・カルロ》、《カルメン》、《運命の力》、《道化師》、《愛の媚薬》、《仮面舞踏会》等には何度となく出演している。

リサイタルのレパートリーはバロックから現代音楽まで600 曲以上の幅広いジャンルを誇る。レコーディングは150 以上に及び、世界中のゴールドおよびプラチナ・ディスクを数多く受賞。

プラシド・ドミンゴ、故ルチアーノ・パヴァロッティと共演した「三大テノール」のイベントでは全世界の20 億以上の観衆を魅了した。

また、1988 年以来、カレーラスは音楽家としての活動と共に「ホセ・カレーラス国際白血病財団」の活動に全精力と情熱を捧げている。この財団はバルセロナで設立され、アメリカ合衆国、スイス、ドイツに支部を置いており、カレーラスが現在最も優先し、重要なライフワークの一つにしている活動である。