何のために性器はグロテスクなのでしょう？

私は素人ですが他の回答者の方々と少し異なる推論を持っています。

目を持つ動物は相手（保護者、群れる動物の場合は仲間、交尾相手など）に好かれるために自らの見た目がきれいになるように進化した（きれいなものが生き残った）と思われます。
暗闇で生きる深海魚、目が退化した洞窟生物、一生を地中で暮らすある種のネズミなどは、同類だけど目がある生物と比べて、明らかにグロテスクです。
生存機能さえあれば見た目なんかどうでもいい（どうせ見られないんだから）っていう姿をしています。
目で見る動物の脳が、相手をグロテスクかどうかを好みを判断のひとつにするように進化しているのは明らかです。
女性の大きな乳とぷくっとした唇は、尻や性器を連想させるためそのように進化したと言われています。（サルは尻が赤くなりますが）
一般的に、本物の尻や性器よりも色つやもきれいで、健康をイメージさせ、
一夜をともにしたいと思わせる魅力的な形をしています（よね）。
ではなぜ当の性器がきれいじゃないのか。
性器をいつでも目立つところに出しているような動物はいません。
よほど物理的にデリケートで、普段は隠しておかないと傷ついてしまい、まともに子孫を残せなかったのでしょう。
すると他人に発情や性的魅力を誇示することができず、それで唇が進化する意義もあったのでしょう。
ほかにも外見勝負として、獣なら立派なたてがみ、鳥なら羽の色やさえずり、ヒトなら、相手に好意を持っている瞬間を演出する、うるうるした大きな瞳。
あらゆる手立てをしているって感じです。
どんな動物も、ここぞという発情のときの出会いが大切ですから、
やはり見た目は重要ですね。
他の回答で耳もグロテスクという回答がありますが、私は耳はきれいだと思います。ヒトの（性器以外の）皮膚はきれいです。ハリがあってつやがあってうぶ毛があって。適度に色素や皮下脂肪があって、筋肉や腱や血管があまりなまなましく透けて見えない。バリアという機能だけでいいなら、こんなに見た目きれいな皮膚にはならないんじゃないかと思います。
ヒトは社会性も同じくらい重要な判断材料となります。だから、コミュニケーション能力や自己表現能力が過剰とも思えるほどに進化しました。
そうして、外見その他でその気にさせてしまえば（なってしまえば）、あとは性器がきれいじゃなく、脳が今ほどの美的感覚を持たない昔に見ていたものと変わらない原始的な姿でも、
結果は同じ（子孫残す）ってことが、連綿と続いてきてるってことじゃないでしょうか。
進化は、効果があることには、なんでそこまでってくらいに、
クジャクの羽のようにがんばりますが、
無駄なことには絶対に１カロリーもエネルギーを使いませんから。

普段は隠していて見慣れないからだと思いますよ。

見ようによっては耳たぶだってグロテスクです。
細かい襞が山脈のように入り組んでいて、人それぞれ微妙に形が違って・・・
もし、「耳たぶは人前にさらしてはならない」という法律があって普段は隠しているものであれば、性器と同じくらいの興味の対象になっていると思います。

一応の必要な機能を満足させるための形態を取っているわけで、私は個人的にはそれらが一般的にグロテスク(醜悪に近い意味ですよね）なかたちだとは思いません。

見慣れたものか、どうかという尺度も適当ではないように私は思います。
どこかでドアのノブとか傘の取っ手が非常に醜悪な形態だという感想を小説の中で吐いていた作家(三島由紀夫だったか？）がいましたが、良く似た感性のようですね。

話はややそれますが、「何のために性器はグロテスクなのか」という問いは「ある何かの目的を持って性器がグロテスクになった」という前提あってのものですね。

別に性器に限らず、ある目的に向かって生物が進化していった（形質が変わっていった）ということはありません。「進化は盲目」です。ある形質があることに有利であった（役に立った）が故に引き継がれていくというのが進化の基本的な考えです。もっとも、さほど有利でも不利でもないものが残っているケースも多々あるので、「有利」ということが絶対ではないようですが。
　余談で済みません。

　感じ方の問題なので、「正解」はないと思いますが、性器は内臓の一種と考えたらどうでしょう。

　胃や腸を見ると、グロテスクに感じる人は多いと思いますが、性器はたまたま体の外にある内臓なので、胃や腸と同じように感じる、ということはあるのではないでしょうか。

　なぜ胃や腸を見てグロテスクと感じるかは、#2さんの回答と同じく、「見慣れないから」ということだと思います。

特にグロテスクだとは思いませんが、

そう思われる理由に「見慣れていない」ということがあるように思います。
限られた場合を除いて、自分以外の性器を見ること、見せることはタブーとされているため、その機会は非常に少ないでしょうから。

グロテスクと言う基準で性器があるわけではなくて、それは見た人が勝手に感じる印象です。

貴方にとってグロテスクでもある人にとっては愛おしいものかもしれません。
羞恥心も関係が全くありません。
恥ずかしくもなくさらけ出せる人もいれば、大浴場に入れない人もいますが、それも人それぞれの勝手な感じ方です。
人間以外の動物に性器に対する羞恥心はありません。
グロテスクだと認識しているン動物もいません。
ご質問は全て貴方なりの勝手な解釈で、そのような解釈は人間の数だけ存在します。