Photoshopの変形フィルターの多くは正方形に対しての処理を装丁しているので、意外と思った通りのイメージを突く出すことが出来ませんが、ガイドを作成するといい感じに使いこなせます。
まずサンプル画像を用意しました。どこかに私が映っているのはご愛敬です。
新規レイヤーを作成して表示メニューの［新規ガイドレイアウトを作成］にて正方形の方眼的なガイドラインを作成し、分かり易いように上図のように市松模様でペイントしておきます。
この段階のレイヤーの構造は上図の様になっています。サンプル画像は複製を作成してあります。
ここで市松模様のレイヤーの描画モードを調整し、複製のサンプル画像と合体させておきます。
あとはガイドラインを元に正方形の選択範囲を得ます。上図では分かり易いように市町模様のレイヤーはオフにしていますが、実際には活用しています。
あとは適宜必要なフィルタの変形処理を実行するだけです。作例では渦巻きを利用しました。市松模様とがたい下画像で一度実験を行い、どの部分まで処理が浸食するかを確認し、必要に応じて［新規ガイドレイアウトを作成］を調整しながら作業を進めれば思うような結果を得ることが出来ます。
上図は処理結果です。
Photoshop CC 2018
