月: 2024年12月

Dividing unsigned 8-bit numbers を読んだ。

• 除算のSIMD実装を説明している記事である
• 浮動小数点と筆算での実装をしている

SIMDはやはりよく分からない。また読んでみよう。

備考: 記事内のコードは以下のようにして、 でコンパイルできた。

#include <immintrin.h>
#include <stdint.h>

void avx512_long_div_u8(const uint8_t* A, const uint8_t* B, uint8_t* C, size_t n) {
  // ...
}

Why Perfect Clustering Algorithms Don’t Exist を読んだ。

• 機械学習のクラスタリングのアルゴリズムに関する記事である
• どんなアルゴリズムにも根本的に欠陥がある
• 分散システムにはCAPというトレードオフ(両立できない)の関係がある
  • 一貫性(Consistency)、可用性(Availability)、分断耐性(Partition-tolerance)
• クラスタリングではスケールの不変性、豊富さ、一貫性というトレードオフがある
  • スケールの不変性: データ間の距離を同様なスケールで変えても結果が変わらない
  • 豊富さ： 可能性、グループをどの程度生成できるか
  • 一貫性： 再現性？グループの再編成？
• Jon Kleinberg は以下の論文で、上記3つの性質のトレードオフを示した
  • https://www.cs.cornell.edu/home/kleinber/nips15.pdf

C++ Is An Absolute Blast を読んだ。

• プログラミング(コーディング)への熱意/興味を記載した記事である
• 筆者のC++を使用したゲーム開発への取り組みがある
• プログラミングは業務や組織のために初めたのではない
• C++がつまらなくなり、今また面白いものになっている
• 他の言語でもこのような傾向がある
• C++標準委員会とテンプレートメタプログラミングがつまらなくなった原因
  • C++標準委員会はプログラマの利便を考えなかった
  • テンプレートメタプログラミングを使用するという脅迫観念
• C++標準委員会は言語を劇的に改善し、面白い言語にした。
• C++11では auto, nullptr, range-for, lambda expression, などが導入された
• 標準ではないがファイルシステム、パッケージ管理、グラフィックス、GUIなどが選択できる
• 言語が人気になるとそれを台無しにする者があらわれる
• C++は流行遅れになったからよい。
• C++への不満は
  • エラーの可読性
  • ビルドツール
  • コンパイラーの標準への未対応
  • 歴史が長いことによる複雑性
  • RAII

How concurrecy works: A visual guide | Waqas Younas’ blog を読んだ

• 並行プログラミングの視覚化により理解を促す記事である
• 単純な3行のコードを例に用いている
• 単独プロセスのプログラムの状態を変数の値と実行行番号で表わす
• 2つのプロセスP,Qのプログラムの状態を変数の値とPの実行行番号、Qの実行行番号であらわす
• このよう状態空間を定義すると数十プロセスは指数関数的に複雑になる
• モデルチェッカー(SPINやTLA+)では線形時相論理を利用することができる

Secret Weblog • The Humble For Loop in Rust を読んだ。

• Ruts言語でforループとmap,foldのような関数型のイテレータを比較している
• map はリストの要素を変換して別のリストを作成するのに適している
• fold は複雑になるケースが多いが、宣言的に記述可能である

Fermat’s Last Theorem — how it’s going | Xena を読んだ。

• フェルマーの最終定理(FLT; Fermat’s Last Theorem)の形式証明を目指している筆者の記事である
• 形式証明のツールとしては Lean を利用している
• 対象はアンドリュー・ワイルズが証明した1990年代の証明でなく、クリスタリン・コホモロジーに基づく証明である

blabla

Maximum Likelihood Estimation and Loss Functions | Rish’s AI Notes を読んだ。

• 損失関数にはMSE(平均二乗誤差)が選ばれるのか？
• MLE(最尤推定)の説明、尤度の対数を取ってもよい
• 条件付き対数尤度、KLダイバージェンスが説明される
• KLダイバージェンスを最小化することはMLEを最大化すること

Move semantics in rust, C++, and Hylo を読んだ。

• 筆者のHyloの論文を読んだ所感である
  • Borrow checking Hylo (IWACO 2023) – SPLASH 2023
• Hyloはプログラミング言語である
  • Rustと同様にメモリ安全
• C++, Rust, Hyloの違いを説明している
  • 関数の引数に構造体を渡したときコピーするか
  • 関数の引数に渡した構造体を以降で使えるか？
• Rustは受渡と借用というプロパティを呼出ルールに付与
• Hyloはlet, set, sink, inoutというプロパティを呼出ルールに付与

一度借用の理論的な背景を整理したい。