Style Transfer SOTA Models

📢 Project Report Overview: 241028

주요 기능

  • Style Transfer란, 이미지의 스타일(예: 색감, 질감 등)을 다른 콘텐츠 이미지에 적용하는 기술
  • Style Transfer 연구 관련하여 Diffusion 기반의 최신 SOTA 모델 조사 및 구현

View Project & Code


  1. ✅ Style Transfer 비교 모델 조사
  2. 🚀 인퍼런스 실험 진행
    • ✅ (완료) 실험 진행: MSCOCO 2014 이미지 인퍼런스 테스트
    • 🔥 (예정) 실험 진행: Effeect 이미지 인퍼런스 테스트
    • 🔥 (예정) 환경 구축: Docker 생성
    • 🔥 (예정) 실험 진행: Effeect 이미지 인퍼런스 완료

1. ✅ Style Transfer Comparison Models

Model Name Conference / Source Paper Title
IP-Adapter arXiv, 성능 좋음 "IP-Adapter: Text Compatible Image Prompt Adapter for Text-to-Image Diffusion Models"
Zero CVPR 2024 "Z∗: Zero-shot Style Transfer via Attention Rearrangement"
RIVAL NeurIPS 2023 "Real-World Image Variation by Aligning Diffusion Inversion Chain"
StyTr2 CVPR 2022 "StyTr^2: Image Style Transfer with Transformers"
StyleID CVPR 2024 "Style Injection in Diffusion: A Training-free Approach for Adapting Large-scale Diffusion Models for Style Transfer"
DiffuseIT ICLR 2023 "Diffusion-based Image Translation using Disentangled Style and Content Representation"
InjectFusion arXiv "Training-free Content Injection using h-space in Diffusion models"
Model Name Conference / Source Paper Title
Proposed Method InST 모델 베이스 제안 방법 "InST 모델 베이스 제안 방법"
InST CVPR 2023 "Inversion-Based Style Transfer with Diffusion Models"
ProSpect SIGGRAPH Asia 2023 "ProSpect: Prompt Spectrum for Attribute-Aware Personalization of Diffusion Models"
VCT ICCV 2023 "General Image-to-Image Translation with One-Shot Image Guidance"
DreamStyler AAAI 2024 "DreamStyler: Paint by Style Inversion with Text-to-Image Diffusion Models"
ArtBank AAAI 2024 "ArtBank: Artistic Style Transfer with Pre-trained Diffusion Model and Implicit Style Prompt Bank"
*: (style 1개) 인퍼런스 테스트 완료
**: (style 10개) 인퍼런스 테스트 완료

2. 🚀 Experimental Results

✅ (완료) 실험 진행: MSCOCO 2014 이미지 인퍼런스 테스트

Qualitative exmamples

  • Stylized Images: OneDrive ‘소정’ 폴더에 업로드

      소정
      └── 241027_Stylized_Images
          │
          ├── IP-Adapter
          │   ├── sg_0.4
          │   ├── sg_0.5
          │   └── sg_0.6
          │       ├── style_1
          │       │   ├── COCO_train2014_{idx}.png
          │       │   └── ...
          │       └── ...      
          │      
          ├── RIVAL
          │   ├── style_1
          │   │   ├── COCO_train2014_{idx}.png
          │   │   └── ...
          │   └── ...      
          │
          ├── StyleID
          ├── StyTr2 
          └── Zero
                
    

🔥 (예정) 실험 진행: Effeect 이미지 인퍼런스 테스트

🔥 (예정) 환경 구축: Docker 생성

🔥 (예정) 실험 진행: Effeect 이미지 인퍼런스 완료