“Everything I Know About The Fast Inverse Square Root Algorithm” を読んだ

githublog/2024/5/29/fast-inverse-sqrt.md at main · francisrstokes/githublog を読んだ。

  • \(\frac{1}{\sqrt x}\) を高速に計算するC言語のコードを説明する記事である
  • float(単精度浮動小数点、32bit)のbitの表現を利用している
    • 仮数(23bit)、指数(8bit)、符号(1bit)
  • float型をlong型に変更して1bitシフトしてfloat型に変更すると、 log2 相当の処理になる
  • さらにニュートン法を利用して、近似の精度を向上させている