苦手ですが、偶然 知ってる範囲内だったのでお答えします。

>argmax(a) argmin(a)
ちょっと分かりません。数学で使う記号でしょうか?
予想ですが、各々、aの最大、最小を求める物ではないでしょうか。

>qi ∈ F
「qiは 集合F の一コだよ」という意味だと思います。

>C言語でそのような表現をすることも可能なのでしょうか？
恐縮ですが、前者は回答できません。

後者は 単なることわりがきで、意味のあるプログラムコードにはなりません。
但し、説明として使うならことはできます。( 例：int a[3]; // a[0] ∈ a )

私も数学詳しいわけではありませんが、
数学では arg(Z) といったら、複素数Zの偏角を表したような。
argmax(a)やargmin(a)というのは、偏角の最大とか、最小とかが関係している？
推測ですが。

Googleでざっと調べたところ、多くの分野で違った定義がされているようですが、
基本的な部分は、

『y=f(x)という関数について、
argmax(f(x)) = {yを最大にするx}』

と、定められているようです。

f(x)の実際の定義によっては、argmaxは非常に複雑な関数になりえますし、
argmaxの(かっこ)の中身は関数とも限らないようですので、
もっと複雑な演算子かもしれず、今私に言えるのはここまでです。

上述の定義のアナロジーで解決できるといいのですが。

argmax ----- argument max のことでしょう。
変数xに関する関数f(x)に対して、f(x)が最大になるxを求めるという意味です。
例えば、 f(x) = -x^2 + 1（定義域は実数全体） に対して、
argmax(f) = 0 になります。（f(0)=1 が最大値）
argminはこれが最小になる場合を考えます。

さて、これをC言語で表すということですが、一般的には無理でしょう。配列など、定義域が有
限なものに対してargmax、argminを求めるというレベルなら可能です。
例）
int a[]={1,3,5,2,4};
に対して、argmax(a)=2, argmin(a)=0

配列のargmax、argminを求める関数が作れるので、作ってみてはいかがでしょう。

qi ∈ F はくたくたさんの仰るとおり、qiは集合Fの要素であるということを表します。
但し、「任意の」（記号∀）という意味か、「存在する」（記号∃）という意味かが重要になり
ます。

例えば、実数全体をRと表すと、上記の例を表すと
∀a∈R に対して、f(a)≦f(argmax(f))
がなりたちます。
一方、「∃b∈R f(b)=0」というのは、
ある実数bが存在して、f(b)=0が成り立つ
ということを表します。

ちょっと修正。

> 変数xに関する関数f(x)に対して、f(x)が最大になるxを求めるという意味です
変数は1つとは限りません。本当は一般的な関数についてのことですが、説明上1変数関数にし
ました。

誤> 例えば、実数全体をRと表すと、上記の例を表すと
正> 例えば、実数全体をRとして上記の例を表すと