補助動詞と助動詞の接続優先順位について

ちょっと長くなります。

すみません。
日本語の複合動詞は完全に一語と見なされるタイプから，単に動詞の連続ととれるタイプまで様々に分類されます。

１．語彙的タイプ
組み合わせに制限がある
○奪い取る，言い寄る，滑り落ちる，探し回る，泣きはらす
×洗い落ちる，走り転ぶ，揺れ落とす，痛み泣く

意味が狭い
○酒を飲み歩く，　vs.　×ジュースを飲み歩く
（cf.　○酒を飲みかける，○ジュースを飲みかける）

２．本動詞・補助動詞役割分担タイプ
主語は補助動詞が意志を持つ動作主に制限
○私はごちそうを食べそびれた，私は発言しかねる
×月が出そびれた，雨が降りかねる

目的語は本動詞が取るので，全体で受動文にはならない
×ごちそうが食べそびられた，金がつきそこねられた

３．本動詞・補助動詞対等タイプ
主語も目的語も両方の動詞から制限を受けるため，単独の場合よりも，名詞に制限が多い
○鉱山を掘る，穴を掘る
○鉱山を掘り尽くす　×穴を掘り尽くす

○財産を使う，電話を使う
○財産を使い果たす　×電話を使い果たす

一つの目的語で両方の動詞の目的語を兼ねるので，全体の受動化が可能
○花が取り尽くされた，壁が塗り直された

４．本動詞中心タイプ
主語も目的語も本動詞が選択
○鐘が鳴りかけた，太郎が鐘をつきかけた
○雨が降り出す，花子がパソコンを使い出す
○地震はいつでも起こりうる，子供も発言しうる


以上，４タイプのうち，本動詞の受動化や尊敬語化ができるのは最後のタイプだけです。
○先生は手紙をお書きになり始めた。
×先生は手紙をお受け取りになりとった　（←受け取る）

○手紙が書かれ続けていた。
×注意が書かれ込んであった　（←書き込む）


ご質問の「発掘されつくしてしまった」の場合，「～しつくす」はタイプ３ですから，おっしゃるとおり，「発掘しつくされてしまった」の方がよくなります。

「食べられつづける」ですが，「られる」の解釈によりますが，タイプ４ですから本動詞だけの受動化ができます。「５ｔの農作物をイノシシに食べられつづけた」ですね。「尊敬」も可能でしょう。

先生はいつまでもカレーを食べられ続けた。
「食べ続けられた」の方がいいでしょうが，あくまで文法性（言えるか言えないか）のレベルの話です。

ただこの場合，「可能」の解釈は難しいでしょう。「可能」は始まりも終わりもない「状態」を表すのに対し，「～し続ける」は始まりと終わりを含意しますから。

　助動詞には配列順序があって，大きく分けて

１　（ら）れる・（さ）せる　など受身・使役など
２　ない・た・だ・らしい　など否定・過去・断定など
３　う・でしょう　など意志・推量など
という順序になります。
　「つくす」「しまう」などの補助動詞は，一般的に１と２の間にくると思います。
　別な言い方をすれば，「（ら）れる」という受身や可能の助動詞は根幹となる動詞に直接つくものだと思います。
　補助動詞である「つくす」を受身にした「つくされる」は好ましくないと思います。
　まとめると，動詞＋受身など一部の助動詞＋補助動詞＋その他の助動詞＋終助詞（か・よ　など）　という順序になるのではないでしょうか。