行列は「数の表」ではなく，基底を 1 組決めたときの，演算子の顔つきです． 基底を取り替えれば顔つきも変わり，うまく選べば非対角成分が全部消えます． それが対角化で，そのとき対角に並ぶ数が固有値 ＝ 測れば出てくる値です． ここでは 3 つの例で，非対角成分が消える瞬間を見ます．
東京理科大学 望月研究室 ／ 講義ノート「(14) スピン行列における基底変換」より． 「なぜ観測できる量を得るのに対角化が要るのか」は こちらのページにあります．