Photoshopの変形フィルター[渦巻き]は正方形に対して処理した方が綺麗です。
まず一般的な4:3比率のファイルに対して変形フィルター[渦巻き]を実行します。
今回は全て上記の設定で処理しました。ちなみに最大値は999ですが仮に900とした場合、900にて一発で処理した結果も、450を2度実行した結果も違いはありませんでした。
ストレートに処理した結果です。当然渦巻きは扁平になってしまいます。まち渦巻きのスタート部分も少し不自然になってし益々。
そこで正方形のファイルを新たに用意し、それを4:3のファイルにドラッグ配置します。見た目は4:3ですが、データは正方形となっています。
正方形に処理した結果です。これなら不自然さは無くなります。欲を言えば実際に使うサイズよりも大きめに作って調整がベストでしょう。
Photoshop CC 2018