レイヤーマスクを使用するとPhotoshopCS6でソフトエッジのマスクを作成できますが、ベクターマスクは、レイヤー上のベクターパスによって作成されたシェイプによって定義されたハードエッジのマスクを作成します。ベクトルベースの形状は、ギザギザになることのない、すっきりとした滑らかで明確なエッジを生成します。また、要素の外観を損なうことなく、ベクターシェイプのサイズを変更して変換できます。
いずれかのシェイプツールを使用してシェイプを作成するときに、ベクターマスクを作成します。タイプをシェイプに変換するときに、ベクターマスクを作成することもできます。([レイヤー]→[タイプ]→[シェイプに変換]を選択します。)
レイヤーにベクターマスクを追加するには、次の手順に従います。
[レイヤー]パネルでレイヤーを選択し、[レイヤー]→[ベクターマスク]→[すべて表示]または[すべて非表示]を選択します。
背景レイヤーにベクターマスクを追加することはできないことに注意してください。
ウィンドウ→パスを選択します。[パス]パネルで、[ベクターマスク]レイヤーを選択します。
ペンツールを選択するか、シェイプツールのいずれかをつかみます。
ベクターマスクで、ベクターマスクに必要な形状を作成します。
パス内のすべて(ベクターマスクサムネイルの白い領域で表される)が表示され、パス外のすべて(ベクターマスクサムネイルの灰色の領域で表される)が非表示またはマスクされていることに注意してください。必要に応じて、直接選択ツール(白い矢印)を使用してパスを編集します。パスを編集すると、マスクが動的に更新されます。

クレジット:©iStockphoto.com / EXTREME-フォトグラファー画像#18577493
レイヤーマスクと同様に、ベクターマスクはレイヤーにのみ追加でき、背景には追加できません。必要に応じて、[レイヤー]パネルで背景をダブルクリックして、背景をレイヤーに変換するだけです。
ベクターマスクで問題がない場合は、ファイルを保存してから閉じます。
ベクターマスクを追加するもう1つの方法は、目的のレイヤーを選択し、ペンツールまたはいずれかのシェイプツールを使用して作業パスを描画してから、[レイヤー]→[ベクターマスク]→[現在のパス]を選択することです。