Ubuntu Server 20.04でVSCodeのOSS版が使えるようになったので書きます
VSCodeはまだARM64版のLinux用のバイナリがありません
VSCodeのOSS版を自分でビルドすることで使えるようになるようです

Visual Studio Code(OSS版)のARM64ビルド
https://syoshinaga.com/posts/code-oss-arm64-build/

このページを見てこのとおりにやったらVSCode OSS版のARM64のdebパッケージをビルドできました
このページにも書かれてるように環境を汚さないように
仮想マシンやDocker上でビルドしたほうがいいみたい

私はKVMの仮想PC上のUbuntu Server 18.04上でビルドしました
メモリは3.4GBくらい使ってたので4GBか8GBのRaspberry Pi 4上でないと
ビルド出来ないと思われます
仮想マシンには6GB割り当ててビルドしました
必要な空きディスクスペースは4GBちょっとほどでした

このページにあるスクリプトを実行するとビルドが終わるとホームディレクトリに
code-oss_1.39.2-1594274639_arm64.debが出来ます

インストールは
sudo apt install -y libnotify4 libgtk-3-0 libxss1
sudo dpkg -i code-oss_1.39.2-1594274639_arm64.deb
でインストールできます

Extentionを使うために
/usr/share/code-oss/resources/app/package.json
に追記するようにかかれてますがこれが間違いで
/usr/share/code-oss/resources/app/product.json
に追記しないとExtentionは使えませんでした
追記は一番最後の項目の最後をカンマ","で区切って挿入します