教えて下さい

ややこしいことをお考えのようですが、以下のように解けばよいのではないでしょうか。

（図を書きながら読んでください）

ＡＢの中点（つまり円の中心）をＣ、点ＣからＡＰに下ろした垂線の足をＤ、点ＣからＢＰに下ろした垂線の足をＥと置く。また、∠ＢＡＰをθと置く。
このとき、∠ＡＢＰ＝９０°－θである。
（∵△ＡＰＢは∠Ｐ＝９０°の直角三角形だから）
また、０°≦θ＜９０°である。


すると、△ＣＡＰ、△ＣＢＰはともに二等辺三角形なので、
ＡＰ＝２ＡＤ＝２×（１／２）ｃｏｓθ＝ｃｏｓθ
ＢＰ＝２ＢＥ＝２×（１／２）ＣＯＳ（９０°－θ）＝ｓｉｎθ

よって、
２ＡＰ＋３ＢＰ＝２ｃｏｓθ＋３ｓｉｎθ
＝√１３ｓｉｎ（θ＋α）　（三角関数の合成公式による）
（ただし、αは、ｓｉｎα＝２／√１３、ｃｏｓα＝３／√１３となるような角）
となる。

今、０°≦θ＜９０°であるから、α≦θ＋α＜９０°＋αであり、また、０°＜α＜９０°なので、この範囲において、ｓｉｎ（θ＋α）は最大値１をとる（θ＋α＝９０°のとき）

よって、２ＡＰ＋３ＢＰの最大値は√１３である。

なお、ＰがＢに一致するときはθ＝０°であり、また、ＰがＡに一致するときはθ→９０°と見なされる。