2023 Summer Session/CV Team 3

[7주차/최유민/논문리뷰] DreamBooth : Fine Tuning Text-to-Image Diffusion Models for Subject-Driven Generation

stable diffusion의 fine tuning 기법 중 하나로 알려져 있는 dreambooth 논문에 대해 리뷰해보려고 합니다. 발표에 사용된 자료를 그대로 올려드립니다.

2023 Summer Session/CV Team 3 2023. 8. 18. 09:43

[7주차/임청수/논문리뷰] LoRA- Low-Rank Adaptation of Large Language Models

작성자 : 17기 임청수 Reference [paper] : LoRA- Low-Rank Adaptation of Large Language Models [blog] : Using LoRA for Efficient Stable Diffusion Fine-Tuning [youtube] : https://www.youtube.com/watch?v=BJqwmDpa0wM

2023 Summer Session/CV Team 3 2023. 8. 18. 09:04

[7주차/장수혁/논문리뷰] Tackling the Generative Learning Trilemma with Denoising Diffusion GANs

금주 포스팅에서는 Diffusion Model의 느린 Sampling 문제를 해결하기 위해 DDIM의 Non-Markovian Process 및 GAN Structure & Loss를 도입한 Denoising Diffusion GAN을 소개해드립니다. 세부내용은 세션 발표자료로 대체하겠습니다🙇🏻‍♂️ Denoising Diffusion GAN 요약 Generative Model이 추구해야 할 3가지 요소 : High Quality Samples, Fast Sampling, Mode Coverage/Diversity Diffusion Model은 다른 2가지 요소는 만족했지만, Fast Sampling만은 이뤄내지 못했음 Slow Sampling + High Computational Cost Problem..

2023 Summer Session/CV Team 3 2023. 8. 18. 02:03

[6주차/임청수/논문리뷰] Diffusion Models Beat GANs on Image Synthesis

Reference [paper] : https://arxiv.org/abs/2105.05233. [youtube] : https://www.youtube.com/watch?v=gN1FQhQsUTE 논문익는마을 - 김보민 [youtube] : https://www.youtube.com/watch?v=jaPPALsUZo8&t=4749s 모두의연구소

2023 Summer Session/CV Team 3 2023. 8. 16. 14:29

[6주차/최유민/논문리뷰] High-Resolution Image Synthesis with Latent Diffusion Models

1. Abstract - Diffusion model은 이미 image synthesis 에서 SOTA를 달성하였음 - 하지만, 기존 모델들은 픽셀 공간에서 연산을 진행하여, 수백일의 GPUdays가 필요하고, inference 비용이 높음 - 본 논문에선 pretrained AutoEncoder를 이용, latent space에서 DM training을 적용해 적은 computional resourse로 좋은 퀄리티를 얻어냄 - 복잡성 감소와 디테일 보존 사이에서 최적 지점 도달 - Attention layer를 추가하여 다양한 task에 diffusion model을 적용하였음 - SOTA : image inpainting, class-conditional image synthesis - Compet..

2023 Summer Session/CV Team 3 2023. 8. 11. 17:06

[6주차/장수혁/논문리뷰] SCORE-BASED GENERATIVE MODELING THROUGH STOCHASTIC DIFFERENTIAL EQUATIONS

해당 포스팅은 5주차 포스팅에 이어 DDPM과 NCSN이 모두 Score-based generative modeling이고, 이 2개의 모델을 Stochastic Differential Equations (SDE) 하에서 일반화할 수 있다는 것을 소개해주기 위해 작성되었습니다. Abstract Noise로부터 data를 만들어 내는 것은 generative modeling이다. 저자들은 노이즈를 천천히 주입함으로써 complex data distribution을 known prior distribution으로 만드는 SDE 방식을 소개한다. 노이즈를 제거해서 다시 data distribution으로 돌아가는 과정은 reverse SDE이다. 여기서 reverse SDE는 perturbed data dis..

2023 Summer Session/CV Team 3 2023. 8. 8. 22:43

[4주차 / 최유민/ 논문 리뷰] VAE(Variational autoencoder)

AE - autoencoder VAE를 공부하기 전에 AE에 대해서 간단하게 이해하고 넘어가면 좋다. encoder, decoder, latent space는 어떤 정보를 담고 있는지 알 수 있다. VAE - Variational autoencoder GAN, diffusion model 과 같이 generative model의 한 종류이다. 생성 모델의 목적은 data와 같은 분포를 가지는 smaple 분포에서 sample을 뽑아 새로운 것을 생성해 내는 것이 목표다. (1) 주어진 training data가 p_data(x)(확률밀도함수)가 어떤 분포를 가지고 있다면, sample 모델 p_model(x) 역시 같은 분포를 가지면서, (sampling 부분) (2) 그 모델을 통해 나온 inferen..

2023 Summer Session/CV Team 3 2023. 8. 6. 23:41

[4주차/CV3팀/논문리뷰]Generative Adversarial Nets

작성자 : 17기 임청수 0. 요약 경쟁하는 과정을 통해 생산 모델을 추정하는 새로운 프레임워크를 제안함 생성모델은 판별모델이 잘 구분하지 못하도록 학습하고, 판별모델은 가짜 데이터를 판별하도록 학습함 generative model(G, 생성모델) training data의 분포를 모사함 D모델이 구별하지 못하도록 가짜를 만들어내는 것이 목표 discriminative model(D, 판별모델) 샘플 데이터에 대해 G가 만들어낸 데이터가 아닌 실제 학습 데이터일 확률을 추정 G를 학습하는 과정은 D가 샘플 데이터를 보고 G가 생성한 가짜 데이터인지 진짜 데이터인지 판별하는데 실수를 할 확률을 최대화하는 것이 목표 본 논문에서는 minmax two-player game으로 표현 G가 학습 데이터의 분포를 ..

2023 Summer Session/CV Team 3 2023. 8. 6. 19:12

페이징

1 2

티스토리툴바