在数据库表的使用过程中,重复数据是非常常见的问题,比如用户表因为多次导入出现了相同手机号的记录,或者订单表因为重试机制生成了重复的订单信息。要删除这些重复数据同时保留其中一条有效记录,利用嵌套查询结合IN子查询定位ID是常用的实现方式。

去重删除的核心逻辑
要实现去重删除,首先需要明确重复数据的判定维度,比如以user表中phone字段为重复判定条件,那么所有phone值相同的记录就属于重复组。核心思路是先通过分组查询找到每个重复组的最小ID或者最大ID作为保留记录,再查询出所有不属于保留范围的重复记录ID,最后通过DELETE语句删除这些ID对应的记录。
IN子查询的作用就是先执行内部的查询逻辑,返回需要删除的ID集合,外部DELETE语句再根据这个集合完成删除操作,整个过程可以通过嵌套查询一次性完成,不需要额外的临时表操作。
通用实现示例
假设存在用户表user,结构如下:
| 字段名 | 类型 | 说明 |
|---|---|---|
| id | int | 主键自增ID |
| phone | varchar(20) | 用户手机号,可能重复 |
| name | varchar(50) | 用户姓名 |
现在需要删除phone重复的记录,只保留每个phone对应的最小id记录,通用SQL实现如下:
-- 删除重复手机号记录,保留id最小的记录
DELETE FROM user
WHERE id IN (
-- 子查询:查询需要删除的重复记录的ID
SELECT id FROM (
-- 内层查询:获取所有非保留的重复记录ID
SELECT id FROM user u1
WHERE EXISTS (
-- 判断是否存在同phone且id更小的记录,存在则说明当前记录需要删除
SELECT 1 FROM user u2
WHERE u2.phone = u1.phone
AND u2.id < u1.id
)
) tmp
);
这里需要注意,MySQL等数据库不允许直接对正在查询的表执行DELETE操作,所以需要在子查询外面再套一层临时查询tmp,避免报错。如果是PostgreSQL或者SQL Server,可以简化子查询的嵌套层级。
不同数据库的适配写法
MySQL适配写法
MySQL的执行逻辑对子查询的限制较多,上面的通用写法已经适配了MySQL的要求,执行后每个phone只会保留id最小的记录。
SQL Server适配写法
SQL Server支持CTE(公用表表达式),可以用更简洁的方式实现:
-- 使用CTE标记需要删除的重复记录
WITH DuplicateRecords AS (
SELECT
id,
-- 给同phone的记录编号,编号1为保留记录
ROW_NUMBER() OVER (PARTITION BY phone ORDER BY id) AS rn
FROM user
)
-- 删除编号大于1的记录
DELETE FROM DuplicateRecords WHERE rn > 1;
PostgreSQL适配写法
PostgreSQL可以直接使用子查询定位ID,不需要额外的临时表嵌套:
-- 直接查询需要删除的ID并删除
DELETE FROM user
WHERE id IN (
SELECT id FROM (
SELECT
id,
-- 同phone分组,保留最小id
MIN(id) OVER (PARTITION BY phone) AS min_id
FROM user
) t
WHERE id != min_id
);
操作注意事项
- 执行删除操作前一定要先备份表数据,或者先执行SELECT查询验证要删除的ID是否正确,避免误删有效数据。可以先把DELETE换成SELECT * 查看结果集:
-- 验证要删除的记录是否正确 SELECT * FROM user WHERE id IN ( SELECT id FROM ( SELECT id FROM user u1 WHERE EXISTS ( SELECT 1 FROM user u2 WHERE u2.phone = u1.phone AND u2.id < u1.id ) ) tmp ); - 如果表的数据量很大,建议先给重复判定字段(比如phone)添加索引,提升子查询的执行效率,避免全表扫描导致操作耗时过长。
- 如果重复判定维度是多个字段,只需要在子查询的WHERE条件中增加对应的字段匹配即可,比如同时按phone和name判定重复,就把条件改成u2.phone = u1.phone AND u2.name = u1.name。
常见问题解答
为什么子查询要多嵌套一层?
像MySQL这类数据库,在执行DELETE语句时,不允许在同一语句中查询正在修改的表,直接嵌套子查询会报"You can't specify target table 'user' for update in FROM clause"的错误,多嵌套一层临时查询可以让数据库先执行完子查询得到固定的ID集合,再执行删除操作,避免冲突。
如果要保留最大ID而不是最小ID怎么办?
只需要把子查询中的比较条件从u2.id < u1.id改成u2.id > u1.id即可,这样就会保留每个重复组中ID最大的记录,删除其他重复记录。