请稍候,加载中....

MySQL 处理重复数据

有些 MySQL 数据表中可能存在重复的记录,有些情况我们允许重复数据的存在,但有时候我们也需要删除这些重复的数据。

本节将为大家介绍如何防止数据表出现重复数据及如何删除数据表中的重复数据。

使用唯一键

在希望避免出现重复的列上创建唯一索引来保证数据的唯一性。

让我们尝试一个实例:下表中无索引及主键,所以该表允许出现多条重复记录。

唯一索引示例

CREATE TABLE person
(
    first_name CHAR(20),
    last_name CHAR(20),
    sex CHAR(10)
);

如果不希望在表中出现 first_name,last_name 相同的数据,可以在 first_name,last_name列上创建主键或者唯一键。如下所示:

CREATE TABLE person
(
   first_name CHAR(20) NOT NULL,
   last_name CHAR(20) NOT NULL,
   sex CHAR(10),
   PRIMARY KEY (last_name, first_name)
   #  UNIQUE (last_name, first_name) 唯一键也是一样
);

如果我们设置了唯一索引,那么在插入重复数据时,SQL 语句将无法执行成功,并抛出错,如果避免报错可以使用INSERT IGNORE INTO

INSERT IGNORE INTO会忽略数据库中已经存在的数据,如果数据库没有数据,就插入新的数据,如果有数据的话就跳过这条数据。这样就可以保留数据库中已经存在数据,达到在间隙中插入数据的目的。

 


统计重复数据

以下我们将统计表中 first_name 和 last_name的重复记录数:

mysql> SELECT COUNT(*) as repetitions, last_name, first_name
    -> FROM person
    -> GROUP BY last_name, first_name
    -> HAVING repetitions > 1;

以上查询语句将返回 person_tbl 表中重复的记录数。 一般情况下,查询重复的值,请执行以下操作:

  • 确定哪一列包含的值可能会重复。
  • 在列选择列表使用COUNT(*)列出的那些列。
  • 在GROUP BY子句中列出的列。
  • HAVING子句设置重复数大于1。

 


过滤重复数据

如果你需要读取不重复的数据可以在 SELECT 语句中使用DISTINCT 关键字来过滤重复数据。

mysql> SELECT DISTINCT last_name, first_name
    -> FROM person;

你也可以使用 GROUP BY 来读取数据表中不重复的数据:

mysql> SELECT last_name, first_name
    -> FROM person
    -> GROUP BY (last_name, first_name);

 


删除重复数据

如果你想删除数据表中的重复数据,你可以使用以下的SQL语句:

通过筛选非重复数据到新表,然后删除原表,再将新表重新命名

mysql> CREATE TABLE new_table SELECT last_name, first_name, sex FROM person  GROUP BY (last_name, first_name, sex);
mysql> DROP TABLE person;
mysql> ALTER TABLE new_table RENAME TO person;

当然你也可以在数据表中添加 INDEX(索引) 和 PRIMAY KEY(主键)这种简单的方法来删除表中的重复记录。方法如下:

mysql> ALTER IGNORE TABLE person
    -> ADD PRIMARY KEY (last_name, first_name);

Python学习手册-