ChatGPT解决这个技术问题 Extra ChatGPT

在 MySQL 中查找重复值

我有一个带有 varchar 列的表,我想在该列中找到所有具有重复值的记录。我可以用来查找重复项的最佳查询是什么?

由于您提到查找所有记录,我假设您需要知道 KEYS 以及该 varchar 列中的重复值。
获得值后,我可以很容易地找到键,我真的只想要一个所有重复值的列表。

t
the Tin Man

使用 GROUP BY 子句执行 SELECT。假设 name 是您要在其中查找重复项的列:

SELECT name, COUNT(*) c FROM table GROUP BY name HAVING c > 1;

这将返回一个结果,其名称值在第一列中,并计算该值在第二列中出现的次数。


但是,如果您无法获取具有重复值的行的 ID,这有什么用呢?是的,您可以为每个重复值进行新的查询匹配,但是是否可以简单地列出重复值?
@NobleUplift 您可以执行 GROUP_CONCAT(id) ,它会列出 ID。有关示例,请参见我的答案。
如果它说 ERROR: column "c" does not exist LINE 1 是什么意思?
我很困惑为什么这是公认的答案以及为什么它有这么多的赞成票。 OP 问道:“我想在此列中查找所有具有重复值的记录。”这个答案返回一个计数表。 -1
对于那些不了解 HAVING 工作原理的人 - 它只是结果集的过滤器,因此在主查询之后发生。
s
simhumileco
SELECT varchar_col
FROM table
GROUP BY varchar_col
HAVING COUNT(*) > 1;

优于@levik 的答案,因为它没有添加额外的列。使其适用于 IN()/NOT IN()
这个答案与 levik 的答案完全相同,只是写法不同,因为结果中仍然省略了重复值的 ID。 levik 的答案只是使用了计数的别名,而这个没有。如果您不需要重复计数,这可能会更干净一些。
o
oliverpool
SELECT  *
FROM    mytable mto
WHERE   EXISTS
        (
        SELECT  1
        FROM    mytable mti
        WHERE   mti.varchar_column = mto.varchar_column
        LIMIT 1, 1
        )

此查询返回完整的记录,而不仅仅是不同的 varchar_column

此查询不使用 COUNT(*)。如果有很多重复,COUNT(*) 很昂贵,并且您不需要整个 COUNT(*),您只需要知道是否有两行具有相同的值。

这是通过相关查询底部的 LIMIT 1, 1 实现的(本质上意味着“返回第二行”)。如果上述第二行存在(即至少有两行具有相同的 varchar_column 值),EXISTS 只会返回 true。

当然,在 varchar_column 上有一个索引会大大加快这个查询的速度。


很好。我在查询末尾添加了 ORDER BY varchar_column DESC
这应该是公认的答案,因为 GROUP BYHAVING 只返回一个可能的重复项。此外,使用索引字段而不是 COUNT(*) 的性能,以及 ORDER BY 对重复记录进行分组的可能性。
如上面评论中所述,此查询允许您列出所有重复的行。很有用。
看着这个,我根本不明白它是如何工作的。内部条件不会总是为真,因为外部表中的任何行也将在内表中可用,因此每一行至少总是匹配自身?我尝试了查询并得到了我怀疑的结果 - 每一行都返回了。但是有这么多的赞成票,我怀疑自己。内部查询是不是缺少诸如“AND mto.id<>mti.id”之类的东西?当我添加它时,它对我有用。
@Quassnoi 好的。我试过把它放在 sqlfiddle 上,但我已经放弃了,因为我尝试运行的每个查询,除了创建模式都会超时。我确实发现仅删除“EXISTS”也可以使查询对我正常工作。
N
Novocaine

根据 levik 的回答来获取重复行的 ID,如果您的服务器支持它,您可以执行 GROUP_CONCAT(这将返回一个逗号分隔的 ID 列表)。

SELECT GROUP_CONCAT(id), name, COUNT(*) c
FROM documents
GROUP BY name
HAVING c > 1;

非常感谢马特。这真的很有帮助!对于那些试图在 phpmyadmin 中更新的人,如果您将 id 与如下函数一起保留:SELECT id, GROUP_CONCAT(id), name, COUNT(*) c [...] 它启用内联编辑,并且应该更新所有涉及的行(或至少第一个匹配的行),但不幸的是,编辑会生成一个Javascript 错误...
然后,您将如何计算有多少个 id 会重复?
如何不将所有 ID 分组,而是从头到尾列出;在它们旁边的列中包含它们各自的值?因此,它没有对它进行分组,而是仅显示 ID 1 及其值、ID 2 及其值。即使 ID 的值相同。
s
slfan

为了获取所有包含重复的数据,我使用了这个:

SELECT * FROM TableName INNER JOIN(
  SELECT DupliactedData FROM TableName GROUP BY DupliactedData HAVING COUNT(DupliactedData) > 1 order by DupliactedData)
  temp ON TableName.DupliactedData = temp.DupliactedData;

TableName = 您正在使用的表。

DupliactedData = 您要查找的重复数据。


这个在它自己的行中显示每个重复项。这就是我需要的。谢谢。
是的,这正是我想要的。显示在特定列中有重复的行中的所有数据和列。
T
TechTravelThink

假设您的表名为 TableABC 并且您想要的列是 Col 并且 T1 的主键是 Key。

SELECT a.Key, b.Key, a.Col 
FROM TableABC a, TableABC b
WHERE a.Col = b.Col 
AND a.Key <> b.Key

与上述答案相比,这种方法的优势在于它提供了密钥。


+1 因为它很方便。虽然具有讽刺意味的是,结果本身包含重复项(它列出了 a 和 b,然后是 b 和 a。)
@FabienSnauwaert您可以通过比较小于(或大于)来消除一些重复项
@TechTravelThink 你的答案很清楚,谢谢你,但在大表上需要一些时间(在更多 20'000 个条目表上大约需要 200 万)并且在显示 25 个第一个结果之后,如果我点击显示下一个,phpmyadmin 显示错误“# 1052 - order 子句中的列 'id' 不明确”
A
AbsoluteƵERØ

进一步使用 @maxyfc's answer,我需要找到 所有 与重复值一起返回的行,因此我可以在 MySQL Workbench 中编辑它们:

SELECT * FROM table
   WHERE field IN (
     SELECT field FROM table GROUP BY field HAVING count(*) > 1
   ) ORDER BY field

d
demongolem
SELECT * 
FROM `dps` 
WHERE pid IN (SELECT pid FROM `dps` GROUP BY pid HAVING COUNT(pid)>1)

不,因为这很可能是最慢的。众所周知,子选择的速度很慢,因为它们是针对返回的每一行执行的。
d
davejal

要查找 Employee 中 name 列中有多少条记录重复,下面的查询很有帮助;

Select name from employee group by name having count(*)>1;

J
Jonathan

我的最后一个查询在这里包含了一些有帮助的答案 - 结合 group by、count 和 GROUP_CONCAT。

SELECT GROUP_CONCAT(id), `magento_simple`, COUNT(*) c 
FROM product_variant 
GROUP BY `magento_simple` HAVING c > 1;

这提供了两个示例的 ID(逗号分隔)、我需要的条形码以及重复的数量。

相应地更改表和列。


M
Mahbub

我没有看到任何 JOIN 方法,它们在重复方面有很多用途。

这种方法为您提供了实际加倍的结果。

SELECT t1.* FROM my_table as t1 
LEFT JOIN my_table as t2 
ON t1.name=t2.name and t1.id!=t2.id 
WHERE t2.id IS NOT NULL 
ORDER BY t1.name

仅供参考 - 如果有可能存在超过 1 个重复记录,您将需要“选择不同的 somecol ..”,否则结果将包含找到的重复行的重复项。
d
davejal

我看到了上面的结果,如果您需要检查重复的单列值,查询将正常工作。例如电子邮件。

但是,如果您需要检查更多列并希望检查结果的组合,那么此查询将正常工作:

SELECT COUNT(CONCAT(name,email)) AS tot,
       name,
       email
FROM users
GROUP BY CONCAT(name,email)
HAVING tot>1 (This query will SHOW the USER list which ARE greater THAN 1
              AND also COUNT)

正是需要的!这是我的查询,检查 3 个字段是否有重复项:SELECT COUNT(CONCAT(userid,event,datetime)) AS total, userid, event, datetime FROM mytable GROUP BY CONCAT(userid, event, datetime ) HAVING total>1
L
Lukasz Szozda

我更喜欢使用窗口函数(MySQL 8.0+)来查找重复项,因为我可以看到整行:

WITH cte AS (
  SELECT *
    ,COUNT(*) OVER(PARTITION BY col_name) AS num_of_duplicates_group
    ,ROW_NUMBER() OVER(PARTITION BY col_name ORDER BY col_name2) AS pos_in_group
  FROM table
)
SELECT *
FROM cte
WHERE num_of_duplicates_group > 1;

DB Fiddle Demo


A
AbsoluteƵERØ
SELECT t.*,(select count(*) from city as tt
  where tt.name=t.name) as count
  FROM `city` as t
  where (
     select count(*) from city as tt
     where tt.name=t.name
  ) > 1 order by count desc

用您的表替换城市。将名称替换为您的字段名称


M
Moseleyi
SELECT 
    t.*,
    (SELECT COUNT(*) FROM city AS tt WHERE tt.name=t.name) AS count 
FROM `city` AS t 
WHERE 
    (SELECT count(*) FROM city AS tt WHERE tt.name=t.name) > 1 ORDER BY count DESC

两次执行相同的子查询似乎效率低下。
C
Chandresh

下面将找到所有使用多次的 product_id。您只能为每个 product_id 获得一条记录。

SELECT product_id FROM oc_product_reward GROUP BY product_id HAVING count( product_id ) >1

代码取自:http://chandreshrana.blogspot.in/2014/12/find-duplicate-records-based-on-any.html


k
kodabear
CREATE TABLE tbl_master
    (`id` int, `email` varchar(15));

INSERT INTO tbl_master
    (`id`, `email`) VALUES
    (1, 'test1@gmail.com'),
    (2, 'test2@gmail.com'),
    (3, 'test1@gmail.com'),
    (4, 'test2@gmail.com'),
    (5, 'test5@gmail.com');

QUERY : SELECT id, email FROM tbl_master
WHERE email IN (SELECT email FROM tbl_master GROUP BY email HAVING COUNT(id) > 1)

A
AsgarAli
SELECT ColumnA, COUNT( * )
FROM Table
GROUP BY ColumnA
HAVING COUNT( * ) > 1

这是不正确的,因为它还发现了独特的事件。 0 应该是 1。
N
Nhlanhla R.

我由此改进:

SELECT 
    col, 
    COUNT(col)
FROM
    table_name
GROUP BY col
HAVING COUNT(col) > 1; 

H
Hassaan
SELECT DISTINCT a.email FROM `users` a LEFT JOIN `users` b ON a.email = b.email WHERE a.id != b.id;

值得注意的是,如果要查询的列没有被索引,这会非常慢,甚至可能无法完成。否则,我能够将 a.email 更改为 a.* 并获取所有重复行的 ID。
@NobleUplift 你在说什么?
@Michael 好吧,因为这已经三年了,所以我无法在我使用的任何版本的 MySQL 上进行测试,但是我在我选择的列上没有索引的数据库上尝试了相同的查询,所以花了很多时间几秒钟完成。将其更改为 SELECT DISTINCT a.* 几乎立即解决。
@NobleUplift 好吧。我可以理解它很慢......我担心的部分是“可能甚至没有完成”。
@Michael我不记得我必须在我们系统中的哪个表上运行这个查询,但是对于那些有几百万条记录的表,他们可能已经完成了,但是时间太长了,以至于我放弃了查看何时它实际上会完成。
D
David Robertson

作为 Levik 答案的一种变体,它允许您还找到重复结果的 id,我使用了以下内容:

SELECT * FROM table1 WHERE column1 IN (SELECT column1 AS duplicate_value FROM table1 GROUP BY column1 HAVING COUNT(*) > 1)

佚名

要删除具有多个字段的重复行,首先将它们添加到为唯一不同的行指定的新唯一键,然后使用“分组依据”命令删除具有相同新唯一键的重复行:

Create TEMPORARY table tmp select concat(f1,f2) as cfs,t1.* from mytable as t1;
Create index x_tmp_cfs on tmp(cfs);
Create table unduptable select f1,f2,... from tmp group by cfs;

您还可以添加解释吗?
为什么不使用 CREATE TEMPORARY TABLE ...?对您的解决方案进行一些解释会很棒。
A
Andrew LaPrise

一个非常晚的贡献......以防它帮助任何人 waaaaaay 下线......我的任务是在银行应用程序中找到匹配的交易对(实际上是账户到账户转账的双方),以确定哪些交易是每个账户间转账交易的“发件人”和“收件人”,所以我们最终得到了这个:

SELECT 
    LEAST(primaryid, secondaryid) AS transactionid1,
    GREATEST(primaryid, secondaryid) AS transactionid2
FROM (
    SELECT table1.transactionid AS primaryid, 
        table2.transactionid AS secondaryid
    FROM financial_transactions table1
    INNER JOIN financial_transactions table2 
    ON table1.accountid = table2.accountid
    AND table1.transactionid <> table2.transactionid 
    AND table1.transactiondate = table2.transactiondate
    AND table1.sourceref = table2.destinationref
    AND table1.amount = (0 - table2.amount)
) AS DuplicateResultsTable
GROUP BY transactionid1
ORDER BY transactionid1;

结果是 DuplicateResultsTable 提供了包含匹配(即重复)事务的行,但它在第二次匹配同一对时也提供了相反的相同事务 ID,因此外部 SELECT 可以按第一个分组事务 ID,通过使用 LEASTGREATEST 来确保两个事务 ID 在结果中的顺序始终相同,这使得第一个 GROUP 是安全的,从而消除了所有重复的匹配.浏览近 100 万条记录并在不到 2 秒的时间内识别出 12,000 多个匹配项。当然,transactionid 是主索引,这确实很有帮助。


V
Vipin Jain
Select column_name, column_name1,column_name2, count(1) as temp from table_name group by column_name having temp > 1

b
benc

如果您想删除重复使用 DISTINCT

否则使用此查询:

SELECT users.*,COUNT(user_ID) as user FROM users GROUP BY user_name HAVING user > 1;


I
Iwan Ross

感谢@novocaine 的出色回答,他的解决方案对我有用。我稍微改变了它以包含一定百分比的重复值,这在我的情况下是必需的。下面是修改后的版本。它将百分比减少到小数点后两位。如果将 ,2 更改为 0,它将不显示小数点,如果更改为 1,则将显示小数点后一位,依此类推。

SELECT GROUP_CONCAT(id), name, COUNT(*) c, 
COUNT(*) OVER() AS totalRecords, 
CONCAT(FORMAT(COUNT(*)/COUNT(*) OVER()*100,2),'%') as recurringPecentage
FROM table
GROUP BY name
HAVING c > 1

T
Triyugi Narayan Mani

尝试使用此查询:

SELECT name, COUNT(*) value_count FROM company_master GROUP BY name HAVING value_count > 1;