/ papers
02_background.md

2. 배경논문조사

상태: v0.3 — Q1(화질 판정 VLM) 관점 정리 추가, Gap을 Q1 / Q2로 재분류

조사 범위

1단계에서 정리한 과제(01_task.md)를 기준으로, 아래 7개 축으로 조사함.

축 질문 관련 접근 후보
A. ISP / HW 파라미터 자동 튜닝 고정 로직 ISP의 파라미터를 자동으로 찾는 기존 방법은? 전체
B. Quad Bayer remosaic 이 도메인에서 어떤 아티팩트와 지표를 다루나? 전체
C. MLLM 기반 화질 평가 (IQA) VLM이 화질을 얼마나 판정할 수 있나? 두 영상 비교는? A, C, D
D. 영역 단위 결함 위치화 결함이 "어디에" 있는지 맵으로 뽑을 수 있나? C
E. LLM / VLM을 최적화기·보상 설계자로 LLM이 탐색 방향이나 loss를 정할 수 있나? A, B, C
F. Loss 밸런스 / worst-case 최적화 여러 ROI의 loss를 어떻게 균형 있게 합치나? C
G. VLM 미세 인지의 한계 작은 아티팩트를 VLM이 정말 볼 수 있나? 전체 (리스크)
H. Demosaic 아티팩트 정량 지표 zipper, false color 등을 숫자로 잴 수 있나? 평가
I. VLM 고해상도 / zoom-in 기법 작은 영역을 확대해서 보게 할 수 있나? 전체 (리스크 완화)

논문 목록

# 축 제목 저자 / 소속 연도 · 학회 링크
1 A Hyperparameter Optimization in Black-box Image Processing using Differentiable Proxies Tseng et al. (Princeton, Algolux) 2019 · SIGGRAPH PDF
2 A Hardware-in-the-Loop End-to-End Optimization of Camera Image Processing Pipelines Mosleh et al. (Algolux, Princeton) 2020 · CVPR CVF
3 A ReconfigISP: Reconfigurable Camera Image Processing Pipeline Yu et al. 2021 · ICCV PwC
4 A AdaptiveISP: Learning an Adaptive Image Signal Processor for Object Detection Wang et al. (Shanghai AI Lab 외) 2024 · NeurIPS arXiv
5 A Multimodal Large Language Model-Guided ISP Hyperparameter Optimization with Dynamic Preference Learning (MLLM-ISP) Sun et al. 2025 · ICCV CVF
6 A Language-based Color ISP Tuning Mayer et al. 2025 · CIC (IS&T) arXiv
7 B MIPI 2022 Challenge on Quad-Bayer Re-mosaic: Dataset and Report Yang et al. 2022 · ECCVW arXiv
8 B Learning Rich Information for Quad Bayer Remosaicing and Denoising Jia et al. 2022 · ECCVW Link
9 C Q-Bench: A Benchmark for General-Purpose Foundation Models on Low-level Vision Wu et al. 2024 · ICLR arXiv
10 C Q-Instruct: Improving Low-level Visual Abilities for Multi-modality Foundation Models Wu et al. 2024 · CVPR arXiv
11 C Q-Align: Teaching LMMs for Visual Scoring via Discrete Text-Defined Levels Wu et al. 2024 · ICML arXiv
12 C Depicting Beyond Scores: Advancing Image Quality Assessment through Multi-modal Language Models (DepictQA) You et al. 2024 · ECCV arXiv
13 C Towards Open-ended Visual Quality Comparison (Co-Instruct) Wu et al. 2024 · ECCV arXiv
14 C Adaptive Image Quality Assessment via Teaching Large Multimodal Model to Compare (Compare2Score) Zhu et al. 2024 · NeurIPS arXiv
15 C Q-Insight: Understanding Image Quality via Visual Reinforcement Learning Li et al. (PKU, ByteDance) 2025 · NeurIPS arXiv
16 C VisualQuality-R1: Reasoning-Induced Image Quality Assessment via Reinforcement Learning to Rank Wu, Ma et al. 2025 · NeurIPS arXiv
17 D Q-Ground: Image Quality Grounding with Large Multi-modality Models Chen et al. 2024 · ACM MM arXiv
18 D Perceptual Artifacts Localization for Image Synthesis Tasks (PAL4VST) Zhang et al. (Adobe, UPenn) 2023 · ICCV arXiv
19 E Large Language Models as Optimizers (OPRO) Yang et al. (Google DeepMind) 2024 · ICLR arXiv
20 E Eureka: Human-Level Reward Design via Coding Large Language Models Ma et al. (NVIDIA, UPenn) 2024 · ICLR arXiv
21 E Large Language Models to Enhance Bayesian Optimization (LLAMBO) Liu et al. 2024 · ICLR arXiv
22 E An Intelligent Agentic System for Complex Image Restoration Problems (AgenticIR) Zhu, Gu, You, Qiao, Dong 2025 · ICLR arXiv
23 F Multi-Task Learning Using Uncertainty to Weigh Losses Kendall et al. 2018 · CVPR arXiv
24 F GradNorm: Gradient Normalization for Adaptive Loss Balancing Chen et al. 2018 · ICML arXiv
25 F Distributionally Robust Neural Networks for Group Shifts (Group DRO) Sagawa et al. 2020 · ICLR arXiv
26 F The Unreasonable Effectiveness of Deep Features as a Perceptual Metric (LPIPS) Zhang et al. 2018 · CVPR arXiv
27 F Image Quality Assessment: Unifying Structure and Texture Similarity (DISTS) Ding et al. 2020 · TPAMI arXiv
28 G OddGridBench: Exposing the Lack of Fine-Grained Visual Discrepancy Sensitivity in MLLMs — 2026 · arXiv arXiv
29 G Artifact-Bench: Evaluating MLLMs on Detecting and Assessing the Artifacts of AI-Generated Videos — 2026 · arXiv arXiv
30 A Auto-ISP: An Efficient Real-Time Automatic Hyperparameter Optimization Framework for ISP Hardware System — 2024 · DAC ACM
31 H No-reference quality metric for demosaicing artifacts Gasparini et al. 2012 · EURASIP JASP Link
32 H No Reference Perceived Image Quality Algorithm for Demosaiced Images — IJACSA (SAI) PDF
33 I ZoomEye: Enhancing Multimodal LLMs with Human-Like Zooming Capabilities through Tree-Based Image Exploration Shen et al. 2024 · arXiv arXiv
34 I HiDe: Rethinking The Zoom-IN method in High Resolution MLLMs via Hierarchical Decoupling — 2025 · arXiv arXiv

논문별 요약

A. ISP / HW 파라미터 자동 튜닝

[1] Differentiable Proxies (Tseng et al., 2019)

  • 핵심 아이디어: 미분할 수 없는 블랙박스 ISP를 흉내 내는 신경망(proxy)을 학습하고, 이 proxy를 통해 역전파로 ISP 파라미터를 최적화함.
  • 결과: ARM Mali-C71 ISP 튜닝에서, 전문가가 약 3개월 걸린 수동 튜닝을 1시간 이내로 자동화했다고 보고함.
  • 우리 과제와의 관계: 우리는 proxy가 아니라 bit-exact 미분 모델이 이미 있음 → 이 계열의 "근사 오차" 문제는 없음. 대신 목적함수(loss)가 문제라는 점이 우리 과제의 출발점임.

[2] Hardware-in-the-Loop (Mosleh et al., 2020)

  • 핵심 아이디어: proxy를 쓰는 gradient 방법은 local minimum에 빠지기 쉽다고 보고, 실제 HW ISP를 루프에 넣고 CMA-ES(미분 없는 진화 전략)로 직접 최적화함.
  • 우리 과제와의 관계: 30차원 정수 레지스터는 CMA-ES로도 탐색할 수 있는 규모임. 접근 A(블랙박스 최적화)의 베이스라인으로 쓸 수 있음. 또한 역전파가 local minimum에 갇히는 경우의 보완책이 됨.

[3] ReconfigISP (Yu et al., 2021)

  • 핵심 아이디어: ISP 모듈마다 proxy 네트워크를 두어 미분 가능하게 만들고, 신경망 구조 탐색(NAS)으로 ISP 구성과 파라미터를 함께 찾음.
  • 우리 과제와의 관계: 우리는 로직이 고정이라 구조 탐색은 해당 없음. 참고 수준.

[4] AdaptiveISP (Wang et al., 2024)

  • 핵심 아이디어: 강화학습으로 ISP 모듈 구성과 파라미터를 장면마다 다르게 고름. 목표는 사람이 보는 화질이 아니라 객체 검출 성능임.
  • 우리 과제와의 관계: 우리는 모든 장면에 공통인 레지스터 1세트를 찾아야 하므로 장면별 적응과는 다름. 참고 수준.

[5] MLLM-ISP (Sun et al., ICCV 2025) ★ 가장 가까운 선행 연구 (원문 확인)

  • 구조:
    1. MLLM이 입력 영상과 과제 관련 질문을 받아 텍스트 설명을 생성함.
    2. 사전학습된 CLIP의 영상·텍스트 인코더로 각각 임베딩을 만듦.
    3. MF-Adapter(FC 층 + self / cross-attention)가 두 임베딩을 융합함.
    4. 융합 임베딩을 상태로 받은 RL 에이전트(Actor-Critic, PPO)가 ISP 하이퍼파라미터를 예측함. 보상은 하위 과제 지표의 변화량(검출이면 mAP 등).
    5. 미세조정 단계: 초기화가 다른 에이전트 A, B의 출력 중 평가 지표가 더 좋은 쪽을 accept, 나쁜 쪽을 reject로 삼아 PPO loss + DPO loss로 에이전트를 추가 학습함 (DPG-DPO). 사람 라벨이 필요 없음.
  • 학습 대상: MF-Adapter와 에이전트(정책 네트워크)뿐. MLLM은 텍스트 생성기로 고정해서 쓰고, DPO도 MLLM이 아니라 에이전트에 적용함.
  • 사용한 MLLM: Q-Instruct로 저수준 능력을 높인 LLaVA-7B, mPLUG-Owl-2, GPT-4V를 비교함. LLaVA-7B가 가장 좋았으나 차이는 작았음. 텍스트를 빼면 성능이 뚜렷이 떨어짐 (검출 mAP0.5 0.612 → 0.653).
  • 실험: 합성 ISP(6개 모듈)와 Qualcomm Spectra 580 ISP로 검출, 분할, IQA 과제를 실험함. IQA에서는 영상 전문가가 튜닝한 결과를 GT로 삼고, 이에 더 가까워지는 것을 확인함.
  • 우리 과제와의 차이:
    • 장면마다 파라미터를 예측함 (우리는 모든 장면에 공통인 1세트).
    • MLLM의 역할이 "판정"이 아니라 "RL 상태에 넣을 설명 생성"임. 출력 결과를 보고 다시 판단하는 루프가 없음.
    • 역전파 기반 최적화와 연결되지 않음. moiré, false color 같은 remosaic 아티팩트나 ROI 간 트레이드오프는 다루지 않음.
  • 활용:
    • 실제 HW ISP(Spectra 580)에서 전문가 튜닝값을 기준으로 평가한 선례 → 우리 평가 설계에 참고.
    • 두 후보를 비교해 accept / reject 쌍을 자동으로 만드는 방식은, 우리 과제에서 VLM이 두 레지스터 후보를 비교 판정하는 구조로 응용할 수 있음.

[6] Language-based Color ISP Tuning (Mayer et al., 2025) (원문 확인)

  • 핵심 아이디어: 색 보정 ISP 블록(3×3 색 변환 행렬, 파라미터 9개)을 미분 가능하게 두고, 고정된 CLIP으로 "출력 영상이 텍스트 프롬프트와 얼마나 비슷한지"를 점수로 매긴 뒤 경사하강법으로 ISP 파라미터만 최적화함. 논문에 "VLM 학습은 필요 없다"고 명시함.
  • 세부 설정:
    • CLIP ViT-B/32 (LAION-2B 가중치)가 가장 좋았음. 더 큰 ViT-L/14가 오히려 나빴고, 저자들은 gradient 문제로 추정하나 원인은 밝히지 못함.
    • 프롬프트 하나의 유사도를 최대화하는 방식보다, 두 프롬프트(예: vibrant vs dull)의 유사도 비율을 목표값에 맞추는 방식이 더 안정적이고 조절하기 쉬웠음.
    • Adam, lr 2e-3, 1000 iteration. 영상당 약 30초 (RTX 3090). 약 100 iteration에서 대부분 수렴함.
    • 정규화는 파라미터 범위 제한(|φ| ≤ 0.25)과 white point 제약뿐. 범위를 0.5 이상으로 넓히면 부자연스러운 결과가 나옴.
  • 한계 (저자 언급): 영상마다 따로 튜닝함 (공통 파라미터는 향후 과제). CLIP은 의미 위주로 학습되어 스타일·추상 표현에 약함. 대규모 사용자 평가 없음.
  • 우리 과제와의 차이: VLM 점수를 직접 미분해 loss로 쓰는 방식임(접근 D와 유사). 하지만 입력이 224×224로 축소되고 CLIP은 의미 위주 임베딩이라, moiré 같은 미세 국소 결함에는 거의 반응하지 않을 것으로 봄.
  • 활용:
    • "미분 가능한 ISP + 고정 VLM 기반 목적함수" 조합의 선례로 인용할 수 있음.
    • "큰 VLM이 꼭 더 좋은 gradient를 주지는 않는다", "두 상태를 대비시키는 목적함수가 더 안정적이다"라는 관찰은 우리 설계에도 참고가 됨.

[30] Auto-ISP (DAC 2024)

  • 내용: ISP 하드웨어의 하이퍼파라미터를 실시간으로 자동 최적화하는 프레임워크. 기존 AI 기반 자동 튜닝이 오프라인으로, 미리 정한 장면에 대해, 사람이 개입하며 이뤄진다는 점을 문제로 지적함.
  • 우리 과제와의 관계: 초록만 확인함 (본문은 ACM DL 접근 필요). 실시간 장면 적응이 목표라서, 오프라인으로 공통 레지스터 1세트를 찾는 우리 과제와는 방향이 다름. HW ISP 튜닝 자동화 동향으로만 인용.

B. Quad Bayer remosaic

[7] MIPI 2022 Quad-Bayer Re-mosaic Challenge

  • 내용: Quad Bayer → Bayer 변환 챌린지. 70개 학습 장면, 15개 검증 장면을 공개함. PSNR, SSIM, LPIPS, KL-divergence로 순위를 매김.
  • 시사점: 보고서 스스로 "좋은 remosaic은 moiré, false color 같은 아티팩트가 적어야 한다"고 하면서도, 평가는 픽셀 지표 위주임 → 픽셀 지표와 아티팩트 사이의 간극은 이 분야에서도 인식된 문제임. 우리 과제 동기의 근거로 쓸 수 있음.
  • 활용: 공개 데이터셋은 VLM 판정 능력을 미리 검증하는 데 쓸 수 있음 (사내 데이터 사용 전 단계).

[8] Jia et al., 2022 (MIPI 참가팀)

  • 내용: 2단계 딥러닝 remosaic. 1단계는 GT로 Bayer를 복원하고, 2단계는 ISP를 거친 색 정보로 보정함.
  • 시사점: raw 도메인 loss만으로는 부족해서 ISP를 거친 RGB 도메인에서 한 번 더 보정한다는 점이 우리 문제의식과 같음.

C. MLLM 기반 화질 평가 (IQA)

[9] Q-Bench (ICLR 2024)

  • 내용: MLLM의 저수준 시각 능력(화질 인지, 화질 묘사, 점수 매기기)을 평가하는 벤치마크.
  • 시사점: 범용 MLLM의 저수준 인지는 아직 불안정하다는 결과. 우리 과제에서도 오픈 VLM을 그대로 쓰기 전에 검증이 필요하다는 근거.

[10] Q-Instruct (CVPR 2024)

  • 내용: 저수준 화질 묘사 데이터로 instruction tuning하여 MLLM의 화질 인지 능력을 높임.
  • 활용: 사내 아티팩트 데이터로 VLM을 미세조정할 때 참고할 데이터 구성 방식.

[11] Q-Align (ICML 2024)

  • 내용: 점수를 숫자로 직접 뽑지 않고 "excellent / good / fair / poor / bad" 같은 텍스트 등급으로 학습시킨 뒤, 등급별 확률로 연속 점수를 만듦.
  • 활용: VLM 판정을 연속적인 가중치로 바꿀 때 쓸 수 있는 방법 (토큰 확률 → 점수).

[12] DepictQA (ECCV 2024)

  • 내용: 점수 대신 언어로 화질을 설명함. 참조 영상과 비교하는 Full-Reference 설정과, 두 영상 중 어느 쪽이 나은지 고르는 비교 설정을 지원함.
  • 활용: 우리 과제는 GT(참조)가 있으므로 Full-Reference 비교 설정이 그대로 들어맞음.

[13] Co-Instruct (ECCV 2024)

  • 내용: 여러 영상을 비교하는 화질 비교 모델. 56.2만 개 학습 데이터와 다중 영상 비교 벤치마크(MICBench)를 만듦.
  • 활용: "레지스터 후보 A vs B" 또는 "HW 출력 vs GT" 비교에 쓸 수 있음.

[14] Compare2Score (NeurIPS 2024)

  • 내용: MLLM에 두 영상의 상대 비교를 가르친 뒤, 여러 기준 영상과 비교한 결과를 모아 연속 점수로 바꿈.
  • 시사점: 절대 점수보다 상대 비교가 더 안정적이라는 점. 우리 과제에서도 VLM에게 "몇 점인가"보다 "어느 쪽이 나은가"를 묻는 것이 유리할 수 있음.

[15] Q-Insight (NeurIPS 2025)

  • 내용: GRPO(DeepSeek-R1 방식 강화학습)로 화질 점수와 열화 종류 인지를 함께 학습함. 적은 라벨로도 학습되고 추론 과정을 텍스트로 냄.
  • 활용: 사람 라벨이 적은 우리 상황(과거 기록 없음)에서 VLM을 미세조정하는 방법 후보.

[16] VisualQuality-R1 (NeurIPS 2025)

  • 내용: 영상 쌍을 비교하는 순위 학습(RL to Rank)으로 화질 판정 모델을 학습함.
  • 활용: pairwise 선호 데이터만으로 학습할 수 있어, 사람 튜너의 A/B 선택을 모아 VLM을 학습시키는 경로와 잘 맞음.

D. 영역 단위 결함 위치화

[17] Q-Ground (ACM MM 2024)

  • 내용: MLLM이 화질 질문에 답하면서 결함 영역을 픽셀 단위로 분할함. 약 10만 개의 (영상, 화질 텍스트, 결함 마스크) 데이터셋 QGround-100K를 공개함.
  • 활용: 접근 C에서 VLM 판정을 영역별 loss 마스크로 바꾸는 데 직접 쓸 수 있는 구조. ROI(200×200) 안에서도 어느 부분이 문제인지 알 수 있음.

[18] PAL4VST (ICCV 2023)

  • 내용: 생성 영상의 지각적 아티팩트를 픽셀 단위로 분할하는 모델. 10개 합성 과제에 걸쳐 약 1만 장의 픽셀 라벨 데이터를 만듦.
  • 활용: VLM이 아닌 전용 분할 모델로 아티팩트 맵을 뽑아 loss 가중치로 쓰는 대안. 다만 생성 영상용이라 remosaic 아티팩트에 맞추려면 재학습이 필요함.

E. LLM / VLM을 최적화기·보상 설계자로

[19] OPRO (ICLR 2024)

  • 내용: 지금까지 시도한 해와 점수를 프롬프트에 넣고, LLM이 다음 해를 제안하는 반복 최적화.
  • 활용: 접근 B(VLM 에이전트)의 기본 틀. 다만 30차원 정수 공간에서 수치 최적화 능력은 CMA-ES 등보다 떨어질 수 있음.

[20] Eureka (ICLR 2024)

  • 내용: LLM이 강화학습의 보상 함수 코드를 직접 작성하고, 학습 결과를 보며 보상 함수를 반복 개선함. 29개 환경 중 83%에서 사람 전문가가 만든 보상보다 좋은 결과를 냄.
  • 활용: 접근 C와 구조가 같음. "LLM이 목적함수를 설계 → 하위 최적화기가 학습 → 결과를 보고 목적함수 수정"이라는 바깥 루프 구조의 선례. 우리 과제에서는 보상 함수 대신 ROI 가중치와 loss 구성을 VLM이 정함.

[21] LLAMBO (ICLR 2024)

  • 내용: Bayesian Optimization의 일부(초기 샘플 제안, surrogate 모델, 후보 생성)를 LLM으로 대체함.
  • 활용: 접근 A와 B를 섞는 방식의 참고. VLM이 레지스터의 의미를 이해하면 초기 탐색을 줄일 수 있음.

[22] AgenticIR (ICLR 2025)

  • 내용: 화질 분석용으로 미세조정한 VLM과 추론용 LLM이 "인지 → 계획 → 실행 → 반성 → 재계획" 루프로 복원 도구를 조합함. LLM이 복원 결과를 관찰해 경험 문서를 쌓는 자기 탐색 단계를 둠.
  • 활용: "VLM이 결과를 보고 판단 → 다음 행동 결정"하는 에이전트 구조의 선례. 경험을 문서로 쌓는 방식은 사람 튜너의 암묵지를 대신할 지식 베이스를 만드는 아이디어로 이어질 수 있음.

F. Loss 밸런스 / worst-case 최적화

[23] Uncertainty Weighting (Kendall et al., 2018) / [24] GradNorm (Chen et al., 2018)

  • 내용: 여러 loss를 합칠 때 가중치를 학습하거나(불확실성 기반), 각 loss의 gradient 크기를 맞추는 방식으로 자동 조정함.
  • 활용: ROI 밸런스 문제에 대한 VLM 없는 베이스라인. VLM 기반 가중치가 이 방법들보다 나은지 비교해야 함.

[25] Group DRO (Sagawa et al., 2020)

  • 내용: 평균 loss가 아니라 가장 나쁜 그룹의 loss를 줄이도록 그룹 가중치를 갱신함.
  • 활용: "특정 ROI가 크게 희생되는 문제"에 직접 대응하는 베이스라인. 다만 Group DRO는 "모든 ROI를 지킨다"는 방향이라, "어떤 ROI는 포기한다"는 우리 요구와는 반대임 → VLM이 포기할 ROI를 골라주는 것이 차별점이 될 수 있음.

[26] LPIPS (2018) / [27] DISTS (2020)

  • 내용: 딥러닝 특징 기반 지각 유사도 지표. 미분 가능하므로 loss로 쓸 수 있음.
  • 활용: L1을 대신하는 미분 가능한 지각 loss 베이스라인. "VLM까지 쓸 필요가 있는가"를 확인하려면 반드시 비교해야 함.

G. VLM 미세 인지의 한계

[28] OddGridBench / [29] Artifact-Bench (2026)

  • 내용: MLLM이 미세한 시각 차이(색, 크기, 위치의 작은 변화)나 화면 일부에만 있는 작은 아티팩트를 잘 못 찾는다는 결과. Artifact-Bench에서는 모델 크기를 키워도 아티팩트 검출이 꼭 좋아지지 않았음 (InternVL3.5 38B ≈ 8B). 원인으로 시각 토큰 압축과 전역 pooling을 지목함.
  • 시사점 (리스크): 우리 과제의 moiré, zipper 등은 작고 미세한 결함임. 오픈 VLM을 그대로 쓰면 못 볼 수 있음 → ROI 확대, 차이 영상(HW − GT) 함께 제공, 사내 데이터로 미세조정 등의 보완이 필요함. 그리고 모델 크기보다 입력 구성과 미세조정이 더 중요할 수 있음.

H. Demosaic 아티팩트 정량 지표

[31] Gasparini et al. (EURASIP JASP, 2012) / [32] No-reference demosaiced image quality (SAI)

  • 내용:
    • [31]은 blur(선명도 부족), 색 왜곡, 무채색 왜곡 측정치를 결합한 no-reference demosaic 아티팩트 지표를 만들고, 사람 시각 실험 데이터에 맞춤. zipper(on-off 패턴의 선분)를 가장 두드러진 아티팩트로 꼽음.
    • [32]는 zipper 화소를 직접 찾아 세고, 고주파 영역에서 색 채널 간 상관을 재서 false color를 측정한 뒤 두 점수를 합침.
  • 정리: 이 분야에 표준화된 단일 지표는 없음. 보통 zipper와 false color를 따로 재고, 사람 판정으로 검증함. moiré는 별도 지표가 더 드묾.
  • 활용:
    • 차트 ROI에서 평가용 자동 지표로 구현해 볼 수 있음 (현재 사내에 자동 측정 파이프라인 없음).
    • 이 지표들도 "사람 판정과 맞추는" 방식이라, VLM 판정과 같은 사람 판정 데이터로 함께 검증할 수 있음 → VLM이 고전 지표보다 사람에 더 가까운지가 핵심 비교가 됨.

I. VLM 고해상도 / zoom-in 기법

[33] ZoomEye (2024) / [34] HiDe (2025)

  • 내용:
    • [33] ZoomEye는 학습 없이 쓸 수 있는(training-free) 방법. 영상을 확대 영역의 트리로 보고, 모델이 전체 영상에서 출발해 필요한 세부 영역으로 내려가며 탐색함. InternVL2.5-8B 기준 고해상도 벤치마크(HR-Bench)에서 15~18%p 향상을 보고함.
    • 같은 계열로 ViCrop(학습 없이 crop·확대), DeepEyes(강화학습으로 확대 행동을 학습), Zoom-Refine(확대 + 자기 수정) 등이 있음 (각 논문 원문 미확인).
    • [34] HiDe는 이런 zoom-in 방법들을 다시 분석한 연구 (세부 미확인).
  • 우리 과제와의 관계:
    • 이 기법들은 "큰 영상에서 작은 물체를 찾는" 문제용임. 우리 ROI는 200×200으로 이미 작아서 찾는 문제보다 "보이게 만드는" 문제에 가까움.
    • 따라서 우리에게 더 직접적인 처방은 ROI를 VLM 입력 해상도에 맞게 확대(최근접 보간으로 화소 구조 유지)하고, HW 출력·GT·차이 영상을 함께 보여주는 것임. 자연 영상처럼 큰 영상을 다룰 때는 ZoomEye 같은 탐색 방식이 유용할 수 있음.

오픈 VLM 후보 (H200 1장 기준)

검색으로 확인한 2026년 10월 기준 상황 (대부분 블로그·비교 글이라, 실제 선택 전에 Hugging Face 모델 카드 확인 필요):

계열 특징 라이선스 비고
Qwen3-VL 오픈 가중치 중 종합 성능 최상위권으로 평가됨. 동적 해상도 입력 지원 (Qwen2.5-VL부터) Apache 2.0 Q-Insight, VisualQuality-R1 등 최근 IQA 연구가 Qwen2.5-VL-7B 기반 → 미세조정 선행 연구를 그대로 따라가기 좋음
Qwen3.5 2026년 10월 가이드에서 "대부분 팀에 가장 좋은 로컬 비전 모델"로 Gemma 4와 함께 꼽힘. 0.8B부터 여러 크기 확인 필요 Qwen3-VL의 후속으로 보임. 세부 미확인
InternVL3.5 8B 모델이 MMMU 73.4, OCRBench 840 확인 필요 (InternVL3는 MIT) Artifact-Bench에서 38B ≈ 8B → 크기를 키워도 미세 결함 검출이 꼭 좋아지지는 않음
Gemma 4 위 가이드에서 Qwen3.5와 함께 추천 확인 필요 세부 미확인
  • H200(141GB) 기준 크기: 7B~32B급은 BF16 추론과 LoRA 미세조정 모두 넉넉함. 70B급은 FP8 / INT8 양자화 시 추론 가능, 미세조정은 빠듯함.
  • 권장: 먼저 Qwen 계열 7B~32B로 시작. 최근 IQA 미세조정 연구들의 기반 모델과 같아서 코드·레시피를 재사용하기 쉽고, 크기를 키우는 것보다 입력 구성과 미세조정이 더 중요할 가능성이 큼([29]).

선행 연구의 VLM / LLM 학습 여부

논문 VLM / LLM 역할 가중치 학습하는 것 확인
[5] MLLM-ISP 영상 설명 텍스트 생성 고정 (LLaVA-7B 등, CLIP 인코더) MF-Adapter + RL 에이전트 (PPO + DPO) 원문 확인
[6] Color ISP Tuning 프롬프트 유사도 점수 (미분해서 사용) 고정 (CLIP ViT-B/32) ISP 파라미터만 원문 확인
[9] Q-Bench 평가 대상 고정 — (벤치마크) 성격상
[10] Q-Instruct 화질 묘사 미세조정 instruction tuning 기억 기반
[11] Q-Align 화질 점수 미세조정 등급 텍스트로 학습 기억 기반
[12] DepictQA 화질 설명·비교 미세조정 설명·비교 데이터로 학습 기억 기반
[13] Co-Instruct 다중 영상 비교 미세조정 비교 데이터 56.2만 개 검색 확인
[14] Compare2Score 상대 비교 → 점수 미세조정 비교 학습 기억 기반
[15] Q-Insight 점수 + 열화 인지 미세조정 GRPO 강화학습 검색 확인
[16] VisualQuality-R1 비교 기반 점수 미세조정 순위 학습 강화학습 검색 확인
[17] Q-Ground 화질 답변 + 결함 분할 미세조정 분할 헤드 포함 학습 검색 확인
[19] OPRO 다음 해 제안 고정 — (프롬프트) 기억 기반
[20] Eureka 보상 함수 코드 작성 고정 (GPT-4) — (프롬프트, RL 정책은 별도 학습) 기억 기반
[21] LLAMBO BO 구성 요소 대체 고정 — (프롬프트) 기억 기반
[22] AgenticIR VLM: 화질 분석 / LLM: 계획 VLM 미세조정, LLM 미확인 화질 분석 VLM 초록 확인
[28], [29] 벤치마크 평가 대상 고정 — 성격상

정리:

  • 화질 판정 자체를 잘하게 만든 연구([10]~[17])는 모두 VLM을 미세조정함.
  • VLM을 고정해서 쓴 연구는 ① 전역적·의미적인 정보만 필요하거나([5] 장면 설명, [6] 색감), ② LLM이 판정이 아니라 계획·코드 작성을 맡는 경우([19]~[21])임.
  • 우리 과제는 미세 국소 아티팩트 판정이 핵심이므로, 고정 VLM으로 먼저 검증하되 미세조정이 필요할 가능성이 높음. 미세조정에는 사람 판정 데이터가 필요하므로 데이터 수집 계획을 함께 세워야 함.

Q1 관점 정리: VLM의 화질 판정·미세 패턴 평가

1차 결과물(화질 판정 VLM)과 관련된 논문만 모아 정리함.

분류 논문 핵심 Q1에 주는 의미
판정 능력·한계 측정 Q-Bench [9] 범용 MLLM의 저수준 시각 능력 평가 범용 VLM의 화질 인지는 불안정 → 검증 필요
OddGridBench [28] 미세한 색·크기·위치 차이 찾기 최신 모델도 미세 차이 감지에 약함
Artifact-Bench [29] 작은 아티팩트 검출 시각 토큰 압축·전역 pooling에서 작은 결함이 사라짐. 38B ≈ 8B → 크기로 해결 안 됨
학습으로 판정 능력 향상 Q-Instruct [10] 저수준 묘사 instruction tuning 미세조정으로 저수준 인지 개선
Q-Align [11] 등급 텍스트 확률 → 연속 점수 판정을 연속 가중치로 바꾸는 방법
Q-Insight [15] GRPO, 적은 라벨로 점수 + 열화 인지 라벨이 적은 우리 상황에 맞는 미세조정
두 영상 비교 판정 DepictQA [12] 참조 대비 설명, 둘 중 선택 GT가 있는 우리 설정(Full-Reference)과 맞음
Co-Instruct [13] 다중 영상 비교, MICBench 후보 A vs B, HW vs GT 비교에 활용
Compare2Score [14] 상대 비교 → 연속 점수 절대 점수보다 상대 비교가 안정적
VisualQuality-R1 [16] 쌍 순위 학습 강화학습 사람의 A/B 선택만으로 학습 가능
결함 위치 Q-Ground [17] 결함 영역 픽셀 분할 결함 위치 출력 → loss 마스크로 활용
PAL4VST [18] 전용 분할 모델 VLM의 대안이자 비교 대상
작은 영역 확대 ZoomEye [33], HiDe [34] 확대 영역 탐색 우리 ROI는 이미 작아 확대 + 나란히 보여주기가 더 직접적
ISP 맥락의 VLM 신호 Color ISP Tuning [6] 고정 CLIP 점수, 224×224 CLIP 계열은 미세 결함 판정에 부적합할 가능성 큼
MLLM-ISP [5] 저수준 묘사를 RL 입력으로 판정이 아닌 묘사만 맡음. 실제 HW ISP + 전문가 GT 평가의 선례

종합:

  1. 범용 VLM을 그대로 쓰면 미세 결함을 놓칠 가능성이 높음.
  2. 모델 크기보다 입력 구성과 미세조정이 중요함.
  3. "몇 점인가"보다 "어느 쪽이 나은가"를 묻는 편이 안정적임.
  4. remosaic / demosaic 아티팩트를 VLM으로 판정한 연구는 찾지 못함 → 1차 결과물의 기여 지점.

연구 흐름 정리

[ISP 파라미터 자동 튜닝]
 proxy 미분 (2019) --> HW-in-the-loop 블랙박스 (2020) --> RL 기반 적응 (2024)
                                                         --> MLLM 가이드 (ICCV 2025) ★
                                                         --> VLM 목적함수 + 경사하강 (2025)

[MLLM 화질 평가]
 벤치마크 (Q-Bench) --> 점수화 (Q-Align) --> 설명.비교 (DepictQA, Co-Instruct, Compare2Score)
                    --> 영역 위치화 (Q-Ground) --> 강화학습 추론 (Q-Insight, VisualQuality-R1)

[LLM을 최적화 루프에]
 LLM = 최적화기 (OPRO, LLAMBO) / LLM = 목적함수 설계자 (Eureka) / VLM = 에이전트 (AgenticIR)
  • ISP 튜닝 분야: 목적함수를 사람의 화질 판단에 가깝게 만들려는 방향으로 이동 중이며, 2025년부터 MLLM / VLM을 넣기 시작함.
  • MLLM IQA 분야: 전체 점수 하나에서 비교, 설명, 영역 위치화, 추론으로 확장 중. 특히 pairwise 비교가 절대 점수보다 안정적이라는 흐름.
  • LLM 최적화 분야: LLM이 해를 직접 고르는 것보다, 목적함수를 설계하고 하위 최적화기에 맡기는 구조(Eureka)가 더 좋은 성과를 냄.

남아 있는 공백 (Gap)

  1. 고정 로직 HW의 화질 튜닝에 VLM을 쓴 연구가 거의 없음. MLLM-ISP[5]는 실제 HW ISP(Spectra 580)도 실험했지만, VLM은 장면 설명만 만들고 파라미터는 장면별로 RL이 예측함. Color ISP Tuning[6]은 전역 색감이 대상임. 정수 레지스터, bit-exact 미분 모델, 공통 레지스터 1세트, remosaic 아티팩트를 다룬 연구는 찾지 못함.
  2. VLM 판정을 역전파 기반 최적화의 "가중치·마스크"로 연결한 연구가 없음. 기존 연구는 VLM을 ① 점수(RL·블랙박스용)로 쓰거나 ② CLIP 유사도를 직접 미분함. VLM이 ROI별 우선순위와 포기 여부를 정하고, 안쪽 루프는 기존 역전파를 그대로 쓰는 구조(접근 C)는 비어 있음. Eureka[20]가 구조적으로 가장 가까운 선례임.
  3. "포기할 영역을 고르는" 최적화가 없음. Loss 밸런스 연구(GradNorm, Group DRO)는 모든 영역을 균형 있게 지키는 방향임. HW 한계로 일부를 의도적으로 포기하는 판단은 다루지 않음.
  4. remosaic / demosaic 아티팩트에 대한 MLLM 판정 능력이 검증되지 않음. 기존 IQA 벤치마크는 자연 영상의 노이즈, blur, 압축 같은 일반 열화 위주임. 차트 영상의 moiré, false color, zipper를 VLM이 구분하는지는 알 수 없음. 게다가 미세 인지 한계[28, 29]가 보고됨.
  5. GT가 도달할 수 없거나 결함이 있는 상황을 다룬 연구가 없음. 대부분 GT를 완벽한 정답으로 가정함. VLM으로 GT 결함을 검출하거나, GT 대신 "선호 방향"을 판정하는 연구는 찾지 못함.

→ 우리 과제의 기여 후보를 연구 질문별로 나누면:

  • Q1 (1차 결과물, 화질 판정 VLM): Gap 4가 핵심. remosaic 아티팩트에 대한 VLM 판정 벤치마크·분석, 레지스터 섭동 기반 데이터 생성, 미세조정 판정 모델. Gap 5의 GT 결함 검사도 판정 VLM의 응용으로 포함됨.
  • Q2 (2차 결과물, VLM 기반 최적화): Gap 2 + 3이 핵심. VLM이 ROI 우선순위·포기를 정하는 바깥 루프 + 기존 역전파. Gap 1은 이 응용 설정 자체의 새로움.

추가 조사 필요

  • [x] MLLM-ISP[5] 원문 정독 → [5] 요약에 반영
  • [x] Language-based Color ISP Tuning[6] 원문 정독 → [6] 요약에 반영
  • [x] demosaic / remosaic 아티팩트 정량 지표 조사 → H 절 ([31], [32])
  • [x] 오픈 VLM 후보 조사 → "오픈 VLM 후보" 절
  • [x] zoom-in / crop 기반 VLM 기법 조사 → I 절 ([33], [34])
  • [x] Auto-ISP (DAC 2024) 서지 확인 → [30] (초록만 확인)
  • [ ] moiré 전용 정량 지표 추가 조사 (이번 조사에서 표준 지표를 찾지 못함)
  • [ ] 오픈 VLM 후보의 모델 카드 확인 (라이선스, 최대 입력 해상도, 다중 영상 입력)
  • [ ] "기억 기반"으로 표시한 논문들의 학습 방식·링크 원문 확인
원본: papers/02_background.md · 빌드 2026-10-20