GROUP_BYs的两个 LEFT JOIN GROUP_CONCAT出现奇怪的重复行为

Strange duplicate behavior from GROUP_CONCAT of two LEFT JOINs of GROUP_BYs

提问人:Martin AJ 提问时间:7/22/2017 最后编辑:Martin AJ 更新时间:9/15/2018 访问量:1325

问:

这是我所有表的结构和查询(请关注下面附加的最后一个查询)。正如您在小提琴中看到的,这是当前输出:

+---------+-----------+-------+------------+--------------+
| user_id | user_name | score | reputation | top_two_tags |
+---------+-----------+-------+------------+--------------+
| 1       | Jack      | 0     | 18         | css,mysql    |
| 4       | James     | 1     | 5          | html         |
| 2       | Peter     | 0     | 0          | null         |
| 3       | Ali       | 0     | 0          | null         |
+---------+-----------+-------+------------+--------------+

这是正确的,一切都很好。


现在我又多了一个名为“类别”的存在。每个帖子只能有一个类别。我还想为每个用户获得前两个类别。这是我的新查询。正如您在结果中看到的,发生了一些重复项:

+---------+-----------+-------+------------+--------------+------------------------+
| user_id | user_name | score | reputation | top_two_tags |   top_two_categories   |
+---------+-----------+-------+------------+--------------+------------------------+
| 1       | Jack      | 0     | 18         | css,css      | technology,technology  |
| 4       | James     | 1     | 5          | html         | political              |
| 2       | Peter     | 0     | 0          | null         | null                   |
| 3       | Ali       | 0     | 0          | null         | null                   |
+---------+-----------+-------+------------+--------------+------------------------+

看?, .为什么这些是重复的?我刚刚又添加了一个,就像 一样。但它不能按预期工作,甚至会影响标签。css,csstechnology, technologyLEFT JOINcategoriestags


无论如何,这是预期的结果:

+---------+-----------+-------+------------+--------------+------------------------+
| user_id | user_name | score | reputation | top_two_tags |        category        |
+---------+-----------+-------+------------+--------------+------------------------+
| 1       | Jack      | 0     | 18         | css,mysql    | technology,social      |
| 4       | James     | 1     | 5          | html         | political              |
| 2       | Peter     | 0     | 0          | null         | null                   |
| 3       | Ali       | 0     | 0          | null         | null                   |
+---------+-----------+-------+------------+--------------+------------------------+

有谁知道我怎样才能做到这一点?


CREATE TABLE users(id integer PRIMARY KEY, user_name varchar(5));
CREATE TABLE tags(id integer NOT NULL PRIMARY KEY, tag varchar(5));
CREATE TABLE reputations(
    id  integer PRIMARY KEY, 
    post_id  integer /* REFERENCES posts(id) */, 
    user_id integer REFERENCES users(id), 
    score integer, 
    reputation integer, 
    date_time integer);
CREATE TABLE post_tag(
    post_id integer /* REFERENCES posts(id) */, 
    tag_id integer REFERENCES tags(id),
    PRIMARY KEY (post_id, tag_id));
CREATE TABLE categories(id INTEGER NOT NULL PRIMARY KEY, category varchar(10) NOT NULL);
CREATE TABLE post_category(
    post_id INTEGER NOT NULL /* REFERENCES posts(id) */, 
    category_id INTEGER NOT NULL REFERENCES categories(id),
    PRIMARY KEY(post_id, category_id)) ;

SELECT
    q1.user_id, q1.user_name, q1.score, q1.reputation, 
    substring_index(group_concat(q2.tag  ORDER BY q2.tag_reputation DESC SEPARATOR ','), ',', 2) AS top_two_tags,
    substring_index(group_concat(q3.category  ORDER BY q3.category_reputation DESC SEPARATOR ','), ',', 2) AS category
FROM
    (SELECT 
        u.id AS user_Id, 
        u.user_name,
        coalesce(sum(r.score), 0) as score,
        coalesce(sum(r.reputation), 0) as reputation
    FROM 
        users u
        LEFT JOIN reputations r 
            ON    r.user_id = u.id 
              AND r.date_time > 1500584821 /* unix_timestamp(DATE_SUB(now(), INTERVAL 1 WEEK)) */
    GROUP BY 
        u.id, u.user_name
    ) AS q1
    LEFT JOIN
    (
    SELECT
        r.user_id AS user_id, t.tag, sum(r.reputation) AS tag_reputation
    FROM
        reputations r 
        JOIN post_tag pt ON pt.post_id = r.post_id
        JOIN tags t ON t.id = pt.tag_id
    WHERE
        r.date_time > 1500584821 /* unix_timestamp(DATE_SUB(now(), INTERVAL 1 WEEK)) */
    GROUP BY
        user_id, t.tag
    ) AS q2
    ON q2.user_id = q1.user_id 
    LEFT JOIN
    (
    SELECT
        r.user_id AS user_id, c.category, sum(r.reputation) AS category_reputation
    FROM
        reputations r 
        JOIN post_category ct ON ct.post_id = r.post_id
        JOIN categories c ON c.id = ct.category_id
    WHERE
        r.date_time > 1500584821 /* unix_timestamp(DATE_SUB(now(), INTERVAL 1 WEEK)) */
    GROUP BY
        user_id, c.category
    ) AS q3
    ON q3.user_id = q1.user_id 
GROUP BY
    q1.user_id, q1.user_name, q1.score, q1.reputation
ORDER BY
    q1.reputation DESC, q1.score DESC ;
mysql sql group-by left-join group-concat

评论

1赞 wchiquito 7/22/2017
尝试: 和 .... group_concat(distinct q2.tag ...... group_concat(distinct q3.category ...
0赞 Martin AJ 7/22/2017
@wchiquito 是 using 删除重复项并按预期工作。但我认为我必须以另一种方式编写查询。因为我目前的查询似乎有很多废物处理。这不是真的吗?distinct
2赞 Strawberry 7/22/2017
提供小提琴做得很好 - 和预期的结果
1赞 Martin AJ 7/22/2017
@Strawberry哈哈哈..最终,我听从了你经常对我说的话。
0赞 philipxy 7/22/2017
我们可以预期,您添加到旧查询底部以获取新查询的代码不是在一组唯一的字段(例如 PK)上联接的。PS 请在集成之前找到一个只执行最后一步的查询。您可以使用 CTE 或 VIEW。(mcve 中的最小值。此外,为了使您的精美帖子更精细,请包含相关代码(DDL 和查询)作为内联文本,就像您处理表格一样。

答:

2赞 philipxy 7/22/2017 #1

第二个查询的格式为:

q1 -- PK user_id
LEFT JOIN (...
    GROUP BY user_id, t.tag
) AS q2
ON q2.user_id = q1.user_id 
LEFT JOIN (...
    GROUP BY user_id, c.category
) AS q3
ON q3.user_id = q1.user_id
GROUP BY -- group_concats

内部的 GROUP BY 导致 & 是键/唯一。除此之外,我不会讨论那些 GROUP BY。(user_id, t.tag)(user_id, c.category)

TL;DR:当您加入(q1 JOIN q2)到q3时,它不在其中一个键/UNIQUE上,因此对于每个user_id,您都会获得标签和类别的每个可能组合的一行。因此,最终的 GROUP BY 输入重复了每个 (user_id, 标签) 和 per (user_id, category),并且不恰当地GROUP_CONCATs了每个user_id重复的标签和类别。正确的是 (q1 JOIN q2 GROUP BY) JOIN (q1 JOIN q3 GROUP BY),其中所有连接都在 common key/UNIQUE 上,并且没有虚假聚合。尽管有时您可以撤消这种虚假聚合。(user_id)

正确的对称 INNER JOIN 方法:LEFT JOIN q1 & q2--1:many--然后是 GROUP BY & GROUP_CONCAT(这是您的第一个查询所做的);然后分别类似地 LEFT JOIN q1 和 q3--1:many--然后 GROUP BY & GROUP_CONCAT;然后 INNER JOIN 两个结果 user_id--1:1。

正确的对称标量子查询方法:选择 q1 中的GROUP_CONCATs,因为每个子查询都带有 GROUP BY。

正确的累积左连接方法:左连接 q1 & q2--1:多 - 然后 GROUP BY & GROUP_CONCAT;然后 LEFT JOIN that & q3--1:many--then GROUP BY & GROUP_CONCAT。

像第二个查询一样的正确方法:您首先 LEFT JOIN q1 和 q2--1:many。然后你离开 JOIN 那个 & q3--many:1:many。它为标签和类别的每个可能组合提供一行,这些组合以user_id显示。然后,在 GROUP BY 之后,您可以GROUP_CONCAT -- 重复(user_id,标记)对和重复(user_id,类别)对。这就是为什么你有重复的列表元素。但是将 DISTINCT 添加到GROUP_CONCAT给出了正确的结果。(根据 wchiquito 的评论。

像往常一样,您更喜欢根据实际数据/使用情况/统计数据,通过查询计划和时间来告知工程权衡。预期重复量的输入和统计)、实际查询的时间等。一个问题是 many:1:many JOIN 方法的额外行是否抵消了其对 GROUP BY 的保存。

-- cumulative LEFT JOIN approach
SELECT
   q1.user_id, q1.user_name, q1.score, q1.reputation,
    top_two_tags,
    substring_index(group_concat(q3.category  ORDER BY q3.category_reputation DESC SEPARATOR ','), ',', 2) AS category
FROM
    -- your 1st query (less ORDER BY) AS q1
    (SELECT
        q1.user_id, q1.user_name, q1.score, q1.reputation, 
        substring_index(group_concat(q2.tag  ORDER BY q2.tag_reputation DESC SEPARATOR ','), ',', 2) AS top_two_tags
    FROM
        (SELECT 
            u.id AS user_Id, 
            u.user_name,
            coalesce(sum(r.score), 0) as score,
            coalesce(sum(r.reputation), 0) as reputation
        FROM 
            users u
            LEFT JOIN reputations r 
                ON    r.user_id = u.id 
                  AND r.date_time > 1500584821 /* unix_timestamp(DATE_SUB(now(), INTERVAL 1 WEEK)) */
        GROUP BY 
            u.id, u.user_name
        ) AS q1
        LEFT JOIN
        (
        SELECT
            r.user_id AS user_id, t.tag, sum(r.reputation) AS tag_reputation
        FROM
            reputations r 
            JOIN post_tag pt ON pt.post_id = r.post_id
            JOIN tags t ON t.id = pt.tag_id
        WHERE
            r.date_time > 1500584821 /* unix_timestamp(DATE_SUB(now(), INTERVAL 1 WEEK)) */
        GROUP BY
            user_id, t.tag
        ) AS q2
        ON q2.user_id = q1.user_id 
        GROUP BY
            q1.user_id, q1.user_name, q1.score, q1.reputation
    ) AS q1
    -- finish like your 2nd query
    LEFT JOIN
    (
    SELECT
        r.user_id AS user_id, c.category, sum(r.reputation) AS category_reputation
    FROM
        reputations r 
        JOIN post_category ct ON ct.post_id = r.post_id
        JOIN categories c ON c.id = ct.category_id
    WHERE
        r.date_time > 1500584821 /* unix_timestamp(DATE_SUB(now(), INTERVAL 1 WEEK)) */
    GROUP BY
        user_id, c.category
    ) AS q3
    ON q3.user_id = q1.user_id 
GROUP BY
    q1.user_id, q1.user_name, q1.score, q1.reputation
ORDER BY
    q1.reputation DESC, q1.score DESC ;

评论

0赞 Martin AJ 7/23/2017
好的,作为咨询,您推荐哪一个?用?使用(就像你的答案)?使用 SubqueryDISTINCTLEFT JOIN
0赞 philipxy 7/23/2017
这里没有一般原则可以决定。我说过,这是你必须在你的确切情况下(包括你的期望和优化器)来衡量的权衡,就像工程“最佳”(嵌合体)一样。(独特和累积查询的计划似乎很接近;但数据和统计数据是玩具。我希望优化器在接近累积或内部联接时实现子选择查询,因为它们之间存在明显的简单转换。我更怀疑您的查询中的所有重复,但我想解决有关连接的问题。
0赞 philipxy 7/23/2017
PS 我敢肯定,dba.stackexchange.com 有很多东西可以做。但到达时有备而来。