どの原作(小説)を買おうか迷っています

シャナよりムシウタのほうがシリアス度（というか悲惨度）が高い気はするのですが…

ムシウタBugのほうは若干（ホントに若干）コメディ要素が強い感じがしますね。
アニメは結構重要な説明をすっ飛ばしてたりするので。

質問者さんを余計悩ます気がします(笑)

ムシウタですよ。

最高ですよ!!
一度読んでください。

　シリアスが良いなら、「灼眼のシャナ」でしょうか（アニメよりも原作の方が評価が高いですし）。

情報密度もこちらが上でしょうし。
　ラブコメ度が上がるのでもＯＫなら、「ゼロの使い魔」もお薦めです。

灼眼のシャナですね。

個人的なことなので、最終的にはあなたの判断ですが。

私のおススメのアニメ原作小説も紹介しておきます。

戦闘妖精雪風改（SFの名作です。入手はそれほど難しくないと思います。ちなみに戦闘妖精雪風の修正版です。修正前のものは見たことない、おそらく手に入らないかと。続編は「グッドラック戦闘妖精雪風」）
銀河英雄伝説（やはり名作です。無責任艦長シリーズと比べるとかなり真面目な話です。今は復刻版の小説と愛蔵版の漫画が出ています。）
吸血鬼ハンターD（これまた名作です。作者である菊池秀行さんは魔界と人間をメインにした小説の作家としては日本でもトップかと）
女神転生（ゲーム女神転生シリーズの礎を築いた名作。北爪宏幸さんの絵でアニメになっています。衝撃的なラストに加え、原作シリーズをすべて読んでも解けない謎まであります。一人のファンとしては、謎が明らかになる続編が見たい気も…）

どれも中古で手に入ります。未読があったら読んでみては。気が向いたら、本屋で立ち読みでもして判断してくれたらいいかと思います。