モデムはVDSLモデムだろうから間違いでも意味不明でもない
「光回線=ONUを使用」じゃあない

<要確認事項>
1.RT-500MIの設定画面(初期設定のままなら192.168.1.1)に入れているのか?
2.VH-100とPCを直接繋いでPPPoE接続を試したのか?試したのならその結果は?