文章来源:智汇AI 发布时间:2025-08-06
VideoGigaGAN是由Adobe和马里兰大学的研究人员提出的一种新型的生成式视频超分辨率(VSR)模型,最高可将视频分辨率提升8倍,将模糊的视频放大为具有
暂无访问VideoGigaGAN是由Adobe和马里兰大学的研究人员提出的一种新型的生成式视频超分辨率(VSR)模型,最高可将视频分辨率提升8倍,将模糊的视频放大为具有丰富细节和时间连贯性的高清视频。该模型基于大规模图像上采样器GigaGAN,通过创新的技术手段,如流引导的特征传播、抗锯齿处理和高频穿梭,解决了传统VSR方法中存在的模糊和闪烁问题,显著提升了视频上采样后的时间一致性和高频细节表现。

基础架构:VideoGigaGAN建立在GigaGAN图像上采样器的基础上,GigaGAN是一个大规模的生成对抗网络(GAN),能够对图像进行高质量的上采样。时间模块扩展:为了将GigaGAN应用于视频处理,研究者将2D图像模块扩展到3D时间模块,通过在解码器中添加时间卷积层和时间自注意力层,以处理视频序列。流引导特征传播:为了提高视频帧之间的时间一致性,VideoGigaGAN采用了流引导特征传播模块。该模块使用双向循环神经网络(RNN)和图像反变形层,基于光流信息对特征进行对齐和传播。抗锯齿处理:为了减少高频细节区域的时间闪烁,VideoGigaGAN在编码器的下采样层中使用了抗锯齿块(BlurPool),代替传统的步幅卷积,以减少别名效应。高频特征穿梭(HF Shuttle):为了补偿在上采样过程中可能丢失的高频细节,VideoGigaGAN通过跳跃连接将高频特征直接传输到解码器层。损失函数:在训练过程中,VideoGigaGAN使用了包括标准GAN损失、R1正则化、LPIPS损失和Charbonnier损失在内的多种损失函数,以优化模型性能。训练与推理:VideoGigaGAN在训练时联合优化流引导特征传播模块和扩展的GigaGAN模型。在推理时,首先使用流引导模块生成帧特征,然后将特征输入到GigaGAN块中进行上采样。数据集和评估:使用标准的VSR数据集进行训练和测试,如REDS和Vimeo-90K,并通过PSNR、SSIM、LPIPS等指标评估模型的上采样质量。