年末なのに取り扱わないといけない技術トピックが多すぎる！！
今日はQwen-Image-Layeredの論文解説です。
レイヤー分け画像生成AIの開発をメインテーマに技術活動をしている私としては取り扱わないわけにもいかないでしょう。
という事で早速本題。
Qwen-Image-Layeredはアリババが開発した、入力された画像を複数のRGBA画像の重ね合わせとして分解、出力する画像生成AIです。
ではどのようににして分解能力を持った画像生成AIを作っているのか？について深掘りをしていきます。
まずはいつも通りアーキテクチャから見ていきましょう。
アーキテクチャ図はこちら。
Qwen-Image-Layered: Towards Inherent Editability via Layer Decomposition Fig 3. https://arxiv.org/html/2512.15603v1
一番目につくのはVAEがRGBA-VAE Encoderになっているところでしょうか。VAEってVariational Auto Encoderの略だからVAE Encoderという書き方はおかしいのでは
これに関してはようやく出てきたかといった気持ちです。
アルファチャンネルひとつ増やすだけなので技術的にはそんなに難しくないと思うのですが、やはりアルファチャンネル付きの学習データを用意するのが一つのボトルネックになっていたのかなと思います。
これに関して、論文内ではデータセットの作成方法にも言及されているので後ほど触れていきたいと思います。
VAE以外の部分についてはかなり見覚えのあるアーキテクチャになっています。
使用しているTextEncoderもQwen VL2.5とのことなので、VAE以外は最初期のQwen Image Editとほとんど一緒かな？
Qwen-Image Technical Report Fig 14. https://arxiv.org/pdf/2508.02324
ちなみにほとんど同じアーキテクチャなのにQwen-Image-Layeredはピクセルシフト起こさないらしく、やはりQwen Image Editのピクセルシフト問題は噂されている通りバグである可能性があがりました
唯一異なる点としては、MMDiT BlockがVLD-MMDiT Blockに変わっている部分ですね。
というわけで、アーキテクチャ的にはVAEとVLD-MMDiTを詳しく見ていけば良さそうです。
まずはVAE部分を深掘りしていきましょう。
といってもRGBA-VAEに関してはマジでアルファチャンネルを増やし、入力をRGB -> RGBAの4チャンネルに拡張しただけなので、大して書くこともありません。
しいていうならRGB空間とRGBA空間両方を同じVAEで扱うために、アルファチャンネルを持たない画像（RGB空間）を学習する場合は、アルファチャンネルに該当する部分は全て1で埋めてるよ！という事が記載されていましたが、まあそれはそうでしょうといった感じであまり驚く点はありません。
ただ、訓練戦略は少しだけ工夫をしています。
というのも、このRGBA-VAEは一から学習をしているわけではなく、もともとRGB空間用に作られたVAEに後から追加で学習をする事でRGBA用のVAEに拡張しています。
そのため、通常のRGB用VAEは入力が3チャンネルしかなく、後付けで入力を4チャンネルに増設して学習を回すと入力が3チャンネルである事を前提とする元々持っていた重みの意味が崩壊するため、RGB画像の再構成能力が失われるという問題を抱えています。
このため、RGBA-VAEでは以下の初期化戦略をとっています。
この式は学習初期段階において、エンコードをする際には入力された画像のアルファチャンネルからもたらされる影響を0にし、デコードする際には出力される画像のアルファチャンネルを1で固定するという意味を表しています。
つまり、学習初期段階では入力画像に関係なくアルファチャンネルに常に1を入れるRGBA-VAEを作成しているため、入力がRGBAに拡張されているものの実質RGB用のVAEと等価になります。
ただしエンコーダ/デコーダ共に重みの固定はされていないため学習自体は可能となっており、元々持っていたRGB画像の再構築能力を維持したまま、学習が進むにつれてアルファチャンネルも含めた再構築能力を効率よく獲得することができるという構成になっています。
Qwen-Image-Layeredを構成するもう一つの重要なパーツであるVLD-MMDiTについてもみていきましょう。
VLD-MMDiTはアーキテクチャ図を見ても分かる通り、RGB画像を入力として受け取り、受け取ったRGBA画像を複数枚に分解して出力しています。
そのため、潜在空間は以下のように表されます。
これはそのまま、分解するレイヤー数 x 画像の高さ x 画像の横幅 x チャンネルとなっています。
基本的にはQwen Image Edit同様、Flow Matching方式でノイズ除去タスクを学習しているのですが、上で示した通り潜在空間の形が変わっている点が通常のMMDiTと異なる部分になります。
もう一つ、通常のMMDiTと異なる部分があり、それがRoPE(Rotary Positional Encoding)の実装方法です。
Qwen Image Editが高い精度で画像編集をできる理由として、このRoPEと呼ばれる位置エンコーディングが重要な役割を果たしているのですが、Qwen-Image-LayeredはこのRoPEを拡張し、Layer3D RoPEとして実装し直しています。
RoPEが平面のみの位置情報を扱うのに対し、Layer3D RoPEはその名の通り3次元空間の位置情報、すなわちレイヤー x 高さ x 横幅で構成された空間の位置情報を取り扱う事ができます。
Layer3D RoPEも詳しく取り扱いたいのですが、RoPE周りを話し始めるとLLMで使われているRoPEからはじめ、画像生成にRoPEを持ち込む方法の解説、複数解像度に対応する方法の解説、Qwen Imageで使われているRoPE（MSRoPE）の解説をした後でないとLayer3D RoPEについて説明ができないため、一旦ここでは割愛します。
（間に合えば年内にRoPEだけ抜き出した解説記事を書く予定です、間に合えば…）
ここでは、Qwen Imageの位置エンコーディングは２次元（高さ x 横幅）だけに対応しており、Qwen-Image-Layeredでは（高さ x 横幅 x レイヤー）の3次元で構成されているということだけわかっていれば、全体像を把握するでは十分かと思われます。
Qwen Image系列あるあるですが、Qwen-Image-Layeredでもいきなりレイヤー分け画像生成を学習するのではなく、簡単なタスクを学習した後に難しいタスクを学習するという多段階の学習戦略を採用しています。
1段階目
どうも論文を読んだ感じ、一からRGBA画像を生成するモデルを学習しているのではなく、MMDiTに関してもRGB形式の画像生成が可能なモデルを事前学習済みモデルとして扱い、その重みを引き継いでRGBA画像を生成できるようにしているようです。
（アーキテクチャ的におそらく初期のQwen Image Editがベース）
Qwen-Image-LayeredのMMDiTは（おそらく）生成する画像のレイヤー数を1に固定すると、VAE以外の部分はQwen Image Editのアーキテクチャと一致（もしくは大部分が一致）するので、Qwen Image Editの重みを引き継ぐ事が可能となります。
VAEに関してはRGBA-VAEへの置き換えが必要になりますが、これも透明度が存在しない画像を生成するだけならばほとんどQwen Image Editの物と変わりがありません。
（これはRGBA-VAEの節で解説した通り）
しかし、Qwen Image Editの重みを引き継いだQwen-Image-LayeredのMMDiTではアルファチャンネルを扱う際の学習が全くできていないため、まずはアルファチャンネルを取り扱う能力をVLD-MMDiTに学習させます。
これは、透明度が全て1の画像（RGB画像）と透明度が0~1のピクセルを持つ画像（RGBA）画像の両方を混ぜたデータセットで学習することで実現します。
RGB画像を生成する場合はQwen Image Editの重みがそのまま使えるため、VLD-MMDiTはRGB画像とRGBA画像で異なる部分（アルファチャンネル）にのみ注目して訓練を行えばよく、安定して学習を進める事ができます。
2段階目
アルファチャンネルに対応した画像生成ができるようになったら、次は複数のアルファチャンネル付き画像を複数枚同時に生成する訓練を行います。
具体的には、レイヤー構造を持った複数のRGBA画像に対しキャプション付けを行い、キャプションだけをモデルに与えた時に元の複数枚画像セットを再構築できるか？という訓練をします。
つまり、Text-to-imageのレイヤー版、Text-to-Layer(T2L)モデルを作るという事ですね。
T2L学習では、推論時に画像特徴量を必要としない分学習が単純になり、学習の進みが安定するという事なのでしょう。
このSTEPを経る事でモデルは複数枚のRGBA画像を束ねて1枚の画像を作るという能力を獲得するため、いよいよ残るは入力された画像を精密に分解する能力を獲得すれば良いということになります。
3段階目
というわけで最後のSTEPでは入力された画像の分解能力を訓練します。
先ほど取り除いたInput Image側のRGBA-VAEを元に戻し、画像特徴量を入力できるようにして再度学習をしていきます。
イメージとして、2段階目はQwen-Imageを、3段階目はQwen-Image-Editを学習しているとイメージしてもらえるとわかりやすいかと思います。
Qwen-Image-Editでは編集能力を訓練しましたが、Qwen-Image-Layeredでは画像を座標情報を極力保持したまま複数のレイヤーに分解する能力を学習しています。
最後に、学習データについて少しだけ触れていきます。
画像生成AIのRGBA対応は技術的にはそこまで難易度が高くなさそうのに、なかなか有力なモデルが出てこなかった理由として学習データを用意する難易度が高かったからなのではないか？という話を冒頭にしました。
実際、既存研究では高精度の多層画像（レイヤー分けされた画像）を大量に入手するのが困難だったため、合成データ（人工的な多層画像データ）を用いて研究されてきた例が多いと論文内でも触れられています。
Webをクローリングして集められる画像は基本的にRGB画像なので、これは当然と言えば当然ですね。
が、このモデルでは合成データは使用せず、現実に使用されているPSDファイルを大量に集めてきて適切な前処理（多すぎるレイヤーの統合や、空間的に重なっていないレイヤーの統合、品質の低い異常レイヤーの排除など）を施し学習に使用しています。
じゃあどこからそんな大量のPSDファイルを入手してきたんじゃい！となるわけですが、Qwen-Image-Layeredを作っているのはあのアリババ。
インターネット広告企業であるアリババであれば、クリエイティブの素材として透過データを含むPSDファイルを大量に保持していることは想像に難くありませんし、ソーシャルゲーム開発なども手掛けているのでイラストなどの非現実的な表現に関しても大量のデータを保持しているのでしょう。
このような背景を考えると、Qwen-Image-Layeredは技術的な難易度に関わらず、アリババにしか作れなかったと言っても過言ではないのかもしれません。
これが巨大企業の暴力…! 勝者総取りの世界…! と歯噛みしたくなりますが、このような素晴らしいモデルを独占せずにOSSとして世に出してくれたことには感謝しかありません。その勢いでWan2.5以降もMoEで出してくれ
さて、今回はQwen-Image-Layeredの技術解説を行ってきました。
まあほぼRGBA空間に対応したQwen Image Editなので、その表現力/応用力はかなりの部分が保証されているのかなと思います。
追加訓練なしだとあまり融通が効かない部分もありますが、まあそれはQwen Image Editも同じだったので、やりたいタスクに応じてLoRAを学習してあげればかなりのタスクに応用できるのではないかなと思います。
私がやっていたレイヤー分け画像生成タスクなんかはQwen-Image-Layeredを使えば大体解ける気がしますね。
Qwen-Image-LayeredはQwen-Image-Editと互換性があるので、おそらく2509、2511に相当するようなより精度の高いモデルも今後出てくるんじゃないかなと思います。
来年の画像生成AI界隈はついにRGBA空間も掌握し、さらに応用分野も増えていくことでしょう。
まだまだこの技術の進化からは目を離せませんね。
ここまで読んでいただきありがとうございました。
読んでいて面白かった、タメになったという方がいればフォローとスキをよろしくお願いします！
また、Xでは主に画像・動画生成の話をしていてるので、興味がある方はそちらもぜひ確認をよろしくお願いします！
https://x.com/GianMattya
