在Oracle数据库日常运维中,表中出现重复数据是十分常见的现象,可能由多次导入、程序逻辑漏洞或缺少唯一约束引起。去除重复数据并不是简单执行一条删除语句,而是要根据重复的类型、数据量大小以及业务允许停机的窗口来选择合适的方案。Oracle提供了基于ROWID、分析函数、集合运算等多种去重手段,理解它们的执行机制和副作用,才能在不影响线上业务的前提下完成清理。

利用ROWID伪列删除完全重复的物理行
当一张表没有主键或唯一约束,且某些行的所有字段值都一模一样时,它们在物理存储上仍是不同的行,但逻辑上属于冗余。Oracle每一行都有一个唯一的ROWID,标识其物理地址。借助GROUP BY结合MIN或MAX聚合ROWID,可以保留其中一行,删除其余行。
具体做法是先找出每组重复数据中最大的ROWID,然后删除不在这个保留集合内的记录。这种写法直接操作数据块,通常比子查询关联更快,但只适用于“所有列都重复”的场景。如果业务上只要求某些关键列不重复,而其他列允许不同,就不能用这种方法,否则会误删有效差异数据。
下面给出标准写法示例,假设表名为emp,全部列重复才视为重复:
DELETE FROM emp WHERE ROWID NOT IN ( SELECT MIN(ROWID) FROM emp GROUP BY empno, ename, deptno, sal, hiredate );
该语句按指定列分组,每组保留ROWID最小的一条。执行前建议先用SELECT核对受影响行数,并在事务中操作以便回滚。对于超大数据表,可改用CREATE TABLE新表再重命名的方式降低undo占用。
使用ROW_NUMBER分析函数按业务规则去重
更多时候,重复是指某些关键字段(如用户ID、订单号)相同,但时间戳或状态不同,此时需要保留最新或特定的那条。Oracle的分析函数ROW_NUMBER能为每组分区内的行编号,通过筛选编号大于1的行进行删除,即可实现精准去重。
这种方法的优势在于去重逻辑完全由PARTITION BY和ORDER BY控制,比如按用户分区、按更新时间倒序,保留最近记录。它不会误伤不同业务状态的记录,也比自关联子查询更易读。缺点是会扫描全表并排序,在亿级数据上需确保排序区或临时表空间充足。
示例保留每个empno中sal最高的记录,删除其余:
DELETE FROM emp
WHERE ROWID IN (
SELECT rid FROM (
SELECT ROWID AS rid,
ROW_NUMBER() OVER (PARTITION BY empno ORDER BY sal DESC) AS rn
FROM emp
) WHERE rn > 1
);
内层先给每个empno组内按工资降序编号,外层删掉编号大于1的。注意Oracle不允许在子查询中直接引用ROWID删除,因此要包一层。执行计划中出现WINDOW SORT说明发生了排序,可考虑在分区列上建索引缓解。
借助临时表与NOT EXISTS处理复杂重复
当去重的同时还要做字段清洗,或者源表被高频读写不便长时间加锁,最稳妥的是将去重后的结果写入临时表,校验无误后再切换。另一种常见写法是使用NOT EXISTS保留那些“找不到更优重复行”的记录,语义清晰且优化器容易命中反连接。
临时表方案先CREATE TABLE clean_emp AS SELECT DISTINCT或分析函数过滤后的数据,确认行数吻合后,重命名原表为备份,再把clean_emp改名回业务表名。这样全程只对原表做一次读,写操作在独立表上完成,锁竞争最小。NOT EXISTS则适合边删边留的轻量维护,通过左外推不存在“相同key且ROWID更小”的行来实现保留最小ROWID。
以下为NOT EXISTS去重示例,保留每组empno中ROWID最小行:
DELETE FROM emp a
WHERE EXISTS (
SELECT 1 FROM emp b
WHERE b.empno = a.empno
AND b.ROWID < a.ROWID
);
这段逻辑表达:如果存在一个同empno且ROWID更小的行,则当前行是重复多余,予以删除。它等价于GROUP BY方案但写法不同,在empno有索引时效率很高。无论选用哪种,事后都应补充唯一索引防止再次重复插入,例如CREATE UNIQUE INDEX idx_emp_no ON emp(empno);从结构上堵住源头。