標準化された関数や処理理論は知りませんが、
自分で作るなら、一旦 HSV や HLS に変換して
判定すると思います。

例えば、こんな手順かな？
　(1) RGB（またはCMY）を HSV に変換
　(2) V 値がある値以下なら Black
　(3) S 値がある値以下なら White
　(4) その他なら、H 値で６色を判定

色変換は検索すれば簡単に見つかります。
あまり複雑ではありませんよ。
　 http://www.cvl.iis.u-tokyo.ac.jp/~miyazaki/program/tech01.html
とか...

# 間違ってたらごめんなさい。

単純に近い色(値)なら、
RGBの入った配列の最も差の小さいものを選べば良いんではないでしょうか。

...

int r = GetRValue(Color);
int g = GetGValue(Color);
int b = GetBValue(Color);

...

diff = abs(r - GetRValue(RGBColors[i]))
+ abs(g - GetGValue(RGBColors[i]))
+ abs(b - GetBValue(RGBColors[i]));
if (diff < nearclr_diff) {
nearclr_idx = i;
nearclr_diff = diff;
}

Ｒ，Ｇ，Ｂのデータを二値化すればよいのでは

　　０～１２７　は　０
１２８～２５５　は　１

として設定する。

みなさん、回答ありがとうございます。

結局、参考意見をまとめた結果、以下のようにする事にしました。
ありがとうございました。

色の基本色として

RGB / Name
--------------------
FF00FF　/ magenta
FF0000　/ red
FFFF00　/ yellow
FFFFFF　/ white
00FF00　/ green
00FFFF　/ cyan
0000FF　/ blue
000000　/ black

となっているので　Ｒ、Ｇ、Ｂ各色がＦＦor００のどちらに近いか
判断して、場合分けして色を上のものから判断して、番号を付けるようにする

解決です