本艦是妙高型一萬噸條約重巡洋艦的一隻,在太平洋戰爭開戰時跟姊妹艦妙高號,那智號一同屬於第二艦隊第五戰隊.開戰時,被派往菲律賓支援登陸作戰及對於達佛的空襲和勒加斯比(Legaspi,菲律賓,13N 124E)的攻略戰.
    在昭和十七年(1942)二月二十七日的泗水海戰中,以那智號及羽黑號為主力,共計重巡洋艦兩隻,輕巡洋艦兩隻,驅逐艦十四隻的日本艦隊,遭遇到英美荷澳的聯合部隊,該部隊在海軍少將多爾曼的指揮下,擁有重巡洋艦兩隻,輕巡洋艦三隻,驅逐艦十隻.雙方於是展開了激烈的海戰.午後六十三十八分,羽黑號的二十厘米砲彈命中了英國重巡洋艦埃克塞特號,砲彈從高射砲台貫穿到火藥庫,發生大爆炸.然後羽黑號的魚雷只用了一發就轟沉了荷蘭驅逐艦可爾提諾號,接著跟僚艦那智號一同放出魚雷擊沉荷蘭巡洋艦戴路特號和爪哇號.
    在昭和十八年(1943)的第二次所羅門海戰之後,羽黑號因為機關的事故而回到佐世保修理,然後因為阿圖島的救援行動而向阿留申方面出發.後來又南下參加了布根維爾海戰.在這次海戰中,羽黑號雖然負傷累累,也仍是英勇的替受損傷的妙高號援助,和敵人展開了激烈的砲擊戰.
    羽黑號在參加了馬里雅那海戰後,被編入了栗田艦隊,加入了雷伊太海戰,在薩馬爾島附近逼近美軍護衛空母群,展開果敢的砲擊,但是自身也遭受艦載機的攻擊而大破.之後回航至帛琉基地.昭和二十年(1945)五月,在向安達曼群島運送物資的途中,於麻六甲海峽遭受英國機動部隊的爆擊和雷擊而沉沒.