引言从预测残差到比特流的关键一步在H.265编码流程中帧内预测和帧间预测完成后会得到当前块与预测块之间的差值——即残差Residual。残差数据虽然比原始像素数据量小得多但仍需进一步压缩才能高效存储和传输。变换Transform和量化Quantization正是完成这一任务的核心模块变换将空间域的残差转换到频率域使能量集中量化则通过有损压缩大幅削减数据量。H.265在这一环节引入了多项创新包括可变尺寸变换、DST变换以及残差四叉树RQT机制。变换从空间域到频率域变换的目的是将残差数据从像素值空间域转换为频率系数频率域。低频系数对应图像的大面积平滑变化高频系数对应边缘和纹理细节。经过变换后能量往往集中在少数低频系数上便于后续量化压缩。H.264的变换方式H.264主要使用4×4和8×8两种尺寸的整数DCT离散余弦变换固定尺寸限制了编码的灵活性。H.265的可变尺寸DCTH.265将变换尺寸扩展到四种4×4、8×8、16×16、32×32。编码器可根据CU的尺寸和残差特性自适应选择最优的变换大小大尺寸变换16×16、32×32适用于平滑区域频率分辨率更高能量更集中压缩效率更好。小尺寸变换4×4、8×8适用于纹理复杂、边缘丰富的区域能更好地保留细节。这种多尺寸自适应策略使H.265能够更精准地匹配残差数据的空间特征。DST为帧内残差量身定制除了DCTH.265还引入了DST离散正弦变换Discrete Sine Transform但仅用于4×4尺寸的帧内预测残差。原因在于帧内预测残差往往具有非对称的能量分布——靠近预测边界的残差较小远离边界的残差较大。DST在处理这类非对称信号时比DCT能更好地集中能量从而提升压缩效率。对于帧间预测残差和大于4×4的帧内残差H.265仍然使用DCT。残差四叉树RQTH.265引入了残差四叉树RQTResidual Quad-Tree机制使变换单元的划分独立于预测单元TU与CU解耦一个CU可以包含一个或多个TUTU通过四叉树递归划分尺寸从32×32到4×4。自适应粒度对于残差能量集中的区域如边缘使用小TU精细编码对于残差较小的平滑区域使用大TU统一编码。跳过变换当残差极小时编码器可选择跳过变换和量化直接编码残差像素值Transform Skip模式避免变换带来的额外误差。RQT机制使H.265在变换层面实现了与CTU四叉树划分相同的灵活性进一步提升了编码效率。量化有损压缩的核心量化是视频编码中唯一有损的环节也是控制码率与画质平衡的关键。其基本原理是将变换系数除以一个量化步长QStep并取整使大量高频小系数变为零从而大幅减少数据量。H.265的量化优化更精细的量化参数QPH.265支持0~51的QP范围与H.264一致但引入了更精细的量化矩阵和自适应量化策略。量化矩阵针对不同频率系数使用不同的量化步长对人眼不敏感的高频区域使用更大的步长在相同码率下获得更好的主观画质。自适应量化AQ根据CU的内容复杂度动态调整量化强度——纹理复杂区域分配更多比特平滑区域减少比特优化整体视觉质量。死区量化H.265采用死区量化Dead-Zone Quantization策略在零值附近设置一个更大的量化区间使更多小系数被量化为零。这虽然增加了有损程度但显著降低了码率且对人眼感知影响较小。实际收益与性能对比压缩效率提升可变尺寸DCT/DST和RQT机制在变换量化模块可带来约5%~8%的码率节省。主观画质改善自适应量化和量化矩阵优化使H.265在低码率下仍能保持较好的视觉质量减少块效应和振铃伪影。编码复杂度多尺寸变换搜索和RQT划分增加了编码器的计算负担但解码端开销增加有限。结语变换与量化是H.265编码流水线中将残差数据转化为紧凑比特流的关键环节。通过可变尺寸DCT/DST、残差四叉树RQT以及量化矩阵优化H.265在保持视觉质量的同时实现了更高的压缩效率。在下一篇文章中我们将深入环路滤波模块解析H.265新增的SAO样点自适应补偿技术看它如何与去块滤波协同工作进一步提升重建画面的质量。