Illustratorのカラー設定はHSBで決めた方が圧倒的に合理的です。
例えば上の様なレイアウトをッしたとき。ファイルのカラーモードがCMYKであれば・・・
RGBで指定してもHSBで指定してもカラー設定はCMYKになります。
同様にファイルのカラーモードがRGBでも、CMYKで指定してもHSBで指定してもカラー設定はRGBになります。
ただし、HSBやRGBで設定するとCMYKの値は小数点を含んだ端数が出てしまいます。印刷所によっては再現性が薄いのでNG扱いとされ、5%刻みなどに修正する必要があります。であれば初めからCMYKで設定と言いたいところですが、カラーバリエーション作成などでは圧倒的にHSBの方が素早く見つけられるのでお薦めです。いやHSB一択かもですね。ちなみに作業中のファイルのカラーモードを途中から変更するのは止めましょう。色のズレ修正が面倒です。
以下は個人的な話ですが、IllustratorやInDesignに配置する写真の色は当然部分的に端数があるわけで、ソフト側でも表記できているので、気にしていません。もちろん印刷での再現性の問題で5%あるいは10%きざみで指定と言われることがあるようですが、私は特にそのような指示を受けたことがありません。