光ファイバ先端の反射強度について

>先端がくさび形や円錐に加工されていた場合、

>境界面で反射してきた光の中にファイバを伝播できないものが出てくるのではないでしょうか？

それはそうなります。もしそういう状況を計算したいのであれば光導波路などの計算が出来るシュミレーションソフトがありますので、そういうもので解析していくことになります。解析的に簡単に解けるものではないから有限要素法などの考えで電磁波解析していきます。

tanceです。

先端を斜めに切ったりするのは主に、反射光を元に戻さないようにする
ための工夫です。従って、そのような場合は戻り光は減ります。

>反射した光が再度コアで結合するかが判断できません

再度コアで結合という意味はどういう意味でしょうか。
ファイバーの中を進んだ光が端面でフレネル反射した光は単純にコアから出ることが出来ないのでコアの中を逆方向に進むだけです。

それとも、ファイバ同士の接続で、ファイバから出た光がまた光に入る光が逃げるということを想定されているのでしょうか。
それだとそのファイバ間の距離その他を考えないとだめで、単純なフレネル反射で考えることも出来ません。
ファイバ同士の接続では、両端面を出来る限り近接させることで、量子力学のトンネル効果と同じように損失をきわめて小さくして伝搬させるなどのことをしていますので。
その中ではその断面同士の隙間のために損失は０にはならず多少は逃げる（ご質問者の言うところのクラッド層に逃げる話に近い）などのことはあると思いますが。

＞反射したとしてもクラッドに逃げてしまうと調べることはできないので
＞そこも含めた計算はできないものでしょうか？
上記の通りです。
単純にファイバから出るときの端面反射ならばそもそもクラッドに逃げるというのはおかしいです。端面が散乱面になっていればそういうこともありますけど。

ファイバーの先端がただ直角にすぱっと切られているだけだとすると

ファイバー内を伝送されてきた光は端面で反射して戻る場合、全部
コア内を通ります。ここでクラッドへ逃げる光があったとして、それは
最初から端面まで来るまえに往路でクラッドへ逃げているはずです。

光ファイバーの先端は斜めにカットされていたり、レンズのように少し
丸みを帯びた研磨がされていたり、それらの組み合わせなども含めて
いろいろ工夫されています。

ファイバのコアの屈折率をｎとして、空気を１とすれば、そこでフレネル反射が生じます。

単純には垂直を考えて、

反射強度Ｒ＝｜（ｎ－１）／（ｎ＋１）｜＾２

となります。
実際はこの反射を防ぐために色々工夫があるので単純ではありませんが。