一様量子化 —tolを指定した場合、rgb2indは一様量子化を使用してイメージを変換します。一様量子化では、RGB カラー キューブを長さtolの小さいキューブに分割します。たとえば、tolを 0.1 に指定した場合、立方体の辺は RGB キューブの長さの 10 分の 1 になります。小さなキューブの総数は、以下のとおりです。

t = (floor(1/tol)+1)^3

各キューブは、出力イメージの単一の色を表します。したがって、カラーマップの最大長はtとなります。rgb2indは入力イメージに表示されない色をすべて削除するため、実際のカラーマップはtよりも小さくなることがあります。

最小分散量子化 —Qを指定した場合、rgb2indでは最小分散量子化が行われます。最小分散量子化では、イメージ内のカラー分布に応じて RGB カラー キューブをさまざまなサイズの小さいボックス (キューブとは限らない) に分割します。入力イメージが指定した数よりも少ない色を使っている場合、出力カラーマップもより小さくなります。

逆カラーマップ — 入力カラーマップinmapを指定した場合、rgb2indではカラーマップへのマッピングが行われます。逆カラーマップ アルゴリズムは、指定されたカラーマップを色の成分ごとに 32 の個別レベルに量子化します。次に、入力イメージのピクセルごとに、量子化されたカラーマップ内で最も近い色が検出されます。