imacG5です。バージョン10.3.9は、Tigerにできますか？

できます。

ひとつ飛び越して、Mac OS X 10.5 Leopardにすることもできます。

＞ オークションでtigerのインストールDVDを
＞ 購入しようと思うのですが

いまの落札額の相場は、どのくらいでしょうか？昨年、私がMac OS X 10.4をオークションに出品したら、新品価格よりはるかに高額で落札されて、びっくりしたことを思い出します。
Apple Storeに電話で、まだMac OS X 10.4を購入できるという話があるので、まずお確かめになってはいかがですか？オークションで新品価格より格安で落札できるのなら、オークションに参加したほうがいいでしょうが。

＞ 何か注意することはありますでしょうか。

上書きインストールではなく、新規インストールをしましょう。各種設定を継続することで、細かな点で不具合が出ることがあります。
外付けハードディスクに、いったんバックアップ。「移行アシスタント」を使って、バックアップから、ユーザ領域やアプリケーションを移行。こういう手順をとるほうが、賢明です。

iMacG5ですとLeopardよりもTigerの方がお薦めです。

Xbench1.3で測定しますと明らかに速度差がでます。
　　　　　　　　　　Tiger10.4.11 　　 Leopard10.5.7
総合　　　　　　　　　２６．５１　　　　　２０．５３
ＣＰＵ　　　　　　　　４０．６６　　　　　４０．５１
メモリー　　　　　　　３５．５４　　　　　３６．９８
グラフィック　　　　　４１．５９　　　　　３５．５８
デイスク　　　　　　　４８．９４　　　　　４０．８２

測定条件　　iMacG5 RAM2GB CPU1.8Ghz

灰色のラベルの製品添付版ではなく、黒いラベルの汎用版をお買い下さい。

汎用版ならばiMacG5にインストールできます。なおインストールしたあと最新の10.4.11にソフトウエアアップデートでバージョンアップして下さい。