ChatGPT解决这个技术问题 Extra ChatGPT

当它们具有不同的列集时,按行组合两个数据帧(rbind)

是否可以行绑定两个没有相同列集的数据框?我希望保留绑定后不匹配的列。


J
Jyotirmoy Bhattacharya

plyr 中的 rbind.fill 可能就是您要查找的内容。


rbind.fillbind_rows() 都以静默方式删除行名。
@MERose Hadley:“是的,所有 dplyr 方法都忽略行名。”
使用 do.call(plyr::rbind.fill, myList) 拯救了我的一天。 myList 是表的列表
K
Kevin Wright

一个更新的解决方案是使用 dplyrbind_rows 函数,我认为它比 smartbind 更有效。

df1 <- data.frame(a = c(1:5), b = c(6:10))
df2 <- data.frame(a = c(11:15), b = c(16:20), c = LETTERS[1:5])
dplyr::bind_rows(df1, df2)
    a  b    c
1   1  6 <NA>
2   2  7 <NA>
3   3  8 <NA>
4   4  9 <NA>
5   5 10 <NA>
6  11 16    A
7  12 17    B
8  13 18    C
9  14 19    D
10 15 20    E

我正在尝试将大量数据帧 (16) 与不同的列名组合在一起尝试此操作时出现错误错误:列 ABC 无法从字符转换为数字。有没有办法先转换列?
@sar:df$column <- as.character(df$column)。另见dplyr.tidyverse.org/reference/mutate_all.html
现代 dplyr 实现将是 ... %>% mutate(across(c(char_column1, char_column2), ~ as.numeric(.x)) %>% ...
G
GKi

大多数基本 R 答案都解决了只有一个 data.frame 具有附加列或生成的 data.frame 将具有列的交集的情况。由于 OP 写道,我希望保留绑定后不匹配的列,因此使用基本 R 方法解决此问题的答案可能值得发布。

下面,我介绍了两种基本的 R 方法:一种改变原始 data.frames,另一种不改变。此外,我提供了一种将非破坏性方法推广到两个以上 data.frames 的方法。

首先,让我们获取一些示例数据。

# sample data, variable c is in df1, variable d is in df2
df1 = data.frame(a=1:5, b=6:10, d=month.name[1:5])
df2 = data.frame(a=6:10, b=16:20, c = letters[8:12])

两个 data.frames,更改原件
为了在 rbind 中保留两个 data.frames 中的所有列(并允许函数正常工作而不会导致错误),您添加 NA每个 data.frame 的列,并使用 setdiff 填写适当的缺失名称。

# fill in non-overlapping columns with NAs
df1[setdiff(names(df2), names(df1))] <- NA
df2[setdiff(names(df1), names(df2))] <- NA

现在,rbind-em

rbind(df1, df2)
    a  b        d    c
1   1  6  January <NA>
2   2  7 February <NA>
3   3  8    March <NA>
4   4  9    April <NA>
5   5 10      May <NA>
6   6 16     <NA>    h
7   7 17     <NA>    i
8   8 18     <NA>    j
9   9 19     <NA>    k
10 10 20     <NA>    l

请注意,前两行更改了原始 data.frames,df1 和 df2,将完整的列集添加到两者中。

两个 data.frames,不要更改原件
要保持原始 data.frames 完整,首先循环遍历不同的名称,返回一个命名的 NA 向量,这些向量连接到一个列表中使用 c 的 data.frame。然后,data.frame 将结果转换为适合 rbind 的 data.frame。

rbind(
  data.frame(c(df1, sapply(setdiff(names(df2), names(df1)), function(x) NA))),
  data.frame(c(df2, sapply(setdiff(names(df1), names(df2)), function(x) NA)))
)

许多data.frames,不要更改原件在您有两个以上data.frames的情况下,您可以执行以下操作。

# put data.frames into list (dfs named df1, df2, df3, etc)
mydflist <- mget(ls(pattern="df\\d+"))
# get all variable names
allNms <- unique(unlist(lapply(mydflist, names)))

# put em all together
do.call(rbind,
        lapply(mydflist,
               function(x) data.frame(c(x, sapply(setdiff(allNms, names(x)),
                                                  function(y) NA)))))

看不到原始data.frames的行名可能会更好一些?然后这样做。

do.call(rbind,
        c(lapply(mydflist,
                 function(x) data.frame(c(x, sapply(setdiff(allNms, names(x)),
                                                    function(y) NA)))),
          make.row.names=FALSE))

我有 16 个数据框,其中一些具有不同的列(每列大约有 70-90 列)。当我尝试这个时,我被第一个命令 <- mget(ls(pattern="df\\d+")) 卡住了。我的数据框有不同的名称。我尝试使用 mydflist <- c(as,dr,kr, hyt, ed1, of) 创建一个列表,但这给了我一个巨大的列表。
只是链接到@GKi
@sar 使用 mydflist <- list(as, dr, kr, hyt, ed1, of)。这应该构造一个不会增加环境大小的列表对象,而只是指向列表的每个元素(只要您之后不更改任何内容)。操作后,删除列表对象,以防万一。
很高兴有一个基本的 R 解决方案,但我发现 do.call() 解决方案(对于许多数据帧)非常慢。知道什么可以使它更快吗?
k
kdauria

data.table 的替代方案:

library(data.table)
df1 = data.frame(a = c(1:5), b = c(6:10))
df2 = data.frame(a = c(11:15), b = c(16:20), c = LETTERS[1:5])
rbindlist(list(df1, df2), fill = TRUE)

只要对象被转换为 data.table 对象,rbind 也将在 data.table 中工作,所以

rbind(setDT(df1), setDT(df2), fill=TRUE)

也将在这种情况下工作。当您有几个 data.tables 并且不想构建列表时,这可能会更可取。


这是最简单、开箱即用的解决方案,可以轻松推广到任意数量的数据帧,因为您可以将它们全部存储在单独的列表元素中。其他答案,如 intersect 方法,仅适用于 2 个数据帧并且不容易概括。
H
Henrik

您可以使用 gtools 包中的 smartbind

例子:

library(gtools)
df1 <- data.frame(a = c(1:5), b = c(6:10))
df2 <- data.frame(a = c(11:15), b = c(16:20), c = LETTERS[1:5])
smartbind(df1, df2)
# result
     a  b    c
1.1  1  6 <NA>
1.2  2  7 <NA>
1.3  3  8 <NA>
1.4  4  9 <NA>
1.5  5 10 <NA>
2.1 11 16    A
2.2 12 17    B
2.3 13 18    C
2.4 14 19    D
2.5 15 20    E

我用两个大数据框(总共大约 3*10^6 行)尝试了 smartbind,并在 10 分钟后中止了它。
9 年来发生了很多事情 :) 我今天可能不会使用 smartbind。另请注意,原始问题未指定大型数据框。
z
zx8754

如果 df1 中的列是 df2 中的列的子集(按列名):

df3 <- rbind(df1, df2[, names(df1)])

J
Jonathan Chang

您也可以只提取常见的列名。

> cols <- intersect(colnames(df1), colnames(df2))
> rbind(df1[,cols], df2[,cols])

佚名

我编写了一个函数来执行此操作,因为我喜欢我的代码告诉我是否有问题。此函数将明确告诉您哪些列名不匹配,以及您是否有类型不匹配。然后无论如何它都会尽力组合 data.frames 。限制是您一次只能组合两个 data.frames。

### combines data frames (like rbind) but by matching column names
# columns without matches in the other data frame are still combined
# but with NA in the rows corresponding to the data frame without
# the variable
# A warning is issued if there is a type mismatch between columns of
# the same name and an attempt is made to combine the columns
combineByName <- function(A,B) {
    a.names <- names(A)
    b.names <- names(B)
    all.names <- union(a.names,b.names)
    print(paste("Number of columns:",length(all.names)))
    a.type <- NULL
    for (i in 1:ncol(A)) {
        a.type[i] <- typeof(A[,i])
    }
    b.type <- NULL
    for (i in 1:ncol(B)) {
        b.type[i] <- typeof(B[,i])
    }
    a_b.names <- names(A)[!names(A)%in%names(B)]
    b_a.names <- names(B)[!names(B)%in%names(A)]
    if (length(a_b.names)>0 | length(b_a.names)>0){
        print("Columns in data frame A but not in data frame B:")
        print(a_b.names)
        print("Columns in data frame B but not in data frame A:")
        print(b_a.names)
    } else if(a.names==b.names & a.type==b.type){
        C <- rbind(A,B)
        return(C)
    }
    C <- list()
    for(i in 1:length(all.names)) {
        l.a <- all.names[i]%in%a.names
        pos.a <- match(all.names[i],a.names)
        typ.a <- a.type[pos.a]
        l.b <- all.names[i]%in%b.names
        pos.b <- match(all.names[i],b.names)
        typ.b <- b.type[pos.b]
        if(l.a & l.b) {
            if(typ.a==typ.b) {
                vec <- c(A[,pos.a],B[,pos.b])
            } else {
                warning(c("Type mismatch in variable named: ",all.names[i],"\n"))
                vec <- try(c(A[,pos.a],B[,pos.b]))
            }
        } else if (l.a) {
            vec <- c(A[,pos.a],rep(NA,nrow(B)))
        } else {
            vec <- c(rep(NA,nrow(A)),B[,pos.b])
        }
        C[[i]] <- vec
    }
    names(C) <- all.names
    C <- as.data.frame(C)
    return(C)
}

a
aaron

gtools/smartbind 不喜欢使用 Dates,可能是因为它是 as.vectoring。所以这是我的解决方案...

sbind = function(x, y, fill=NA) {
    sbind.fill = function(d, cols){ 
        for(c in cols)
            d[[c]] = fill
        d
    }

    x = sbind.fill(x, setdiff(names(y),names(x)))
    y = sbind.fill(y, setdiff(names(x),names(y)))

    rbind(x, y)
}

使用 dplyr::bind_rows(x, y) 代替 rbind(x,y) 保持基于第一个数据帧的列顺序。
R
RRuiz

只是为了文档。您可以尝试以下形式的 Stack 库及其函数 Stack

Stack(df_1, df_2)

我也有这样的印象,它比处理大型数据集的其他方法更快。


C
Community

也许我完全误读了您的问题,但是“我希望保留绑定后不匹配的列”让我认为您正在寻找类似于 SQL 查询的 left joinright join。 R 具有 merge 函数,可让您指定左、右或内连接,类似于 SQL 中的连接表。

此处已经有关于此主题的精彩问答:How to join (merge) data frames (inner, outer, left, right)?


D
Daniel

您也可以使用 sjmisc::add_rows(),它使用 dplyr::bind_rows(),但与 bind_rows() 不同的是,add_rows() 保留属性,因此对 labelled data 很有用。

请参阅以下带有标记数据集的示例。 frq()-函数打印带有值标签的频率表,如果数据被标记。

library(sjmisc)
library(dplyr)

data(efc)
# select two subsets, with some identical and else different columns
x1 <- efc %>% select(1:5) %>% slice(1:10)
x2 <- efc %>% select(3:7) %>% slice(11:20)

str(x1)
#> 'data.frame':    10 obs. of  5 variables:
#>  $ c12hour : num  16 148 70 168 168 16 161 110 28 40
#>   ..- attr(*, "label")= chr "average number of hours of care per week"
#>  $ e15relat: num  2 2 1 1 2 2 1 4 2 2
#>   ..- attr(*, "label")= chr "relationship to elder"
#>   ..- attr(*, "labels")= Named num  1 2 3 4 5 6 7 8
#>   .. ..- attr(*, "names")= chr  "spouse/partner" "child" "sibling" "daughter or son -in-law" ...
#>  $ e16sex  : num  2 2 2 2 2 2 1 2 2 2
#>   ..- attr(*, "label")= chr "elder's gender"
#>   ..- attr(*, "labels")= Named num  1 2
#>   .. ..- attr(*, "names")= chr  "male" "female"
#>  $ e17age  : num  83 88 82 67 84 85 74 87 79 83
#>   ..- attr(*, "label")= chr "elder' age"
#>  $ e42dep  : num  3 3 3 4 4 4 4 4 4 4
#>   ..- attr(*, "label")= chr "elder's dependency"
#>   ..- attr(*, "labels")= Named num  1 2 3 4
#>   .. ..- attr(*, "names")= chr  "independent" "slightly dependent" "moderately dependent" "severely dependent"

bind_rows(x1, x1) %>% frq(e42dep)
#> 
#> # e42dep <numeric> 
#> # total N=20  valid N=20  mean=3.70  sd=0.47
#>  
#>   val frq raw.prc valid.prc cum.prc
#>     3   6      30        30      30
#>     4  14      70        70     100
#>  <NA>   0       0        NA      NA

add_rows(x1, x1) %>% frq(e42dep)
#> 
#> # elder's dependency (e42dep) <numeric> 
#> # total N=20  valid N=20  mean=3.70  sd=0.47
#>  
#>  val                label frq raw.prc valid.prc cum.prc
#>    1          independent   0       0         0       0
#>    2   slightly dependent   0       0         0       0
#>    3 moderately dependent   6      30        30      30
#>    4   severely dependent  14      70        70     100
#>   NA                   NA   0       0        NA      NA

M
Maria

您可以将它们插入到原始数据库 (db1) 的末尾,添加第二个数据库的行数。未包含在 db2 中的列将显示 NA 值。

db1[nrow(db1)+1:nrow(db1)+nrow(db2), names(db2)] <- db2


R
RockScience
rbind.ordered=function(x,y){

  diffCol = setdiff(colnames(x),colnames(y))
  if (length(diffCol)>0){
    cols=colnames(y)
    for (i in 1:length(diffCol)) y=cbind(y,NA)
    colnames(y)=c(cols,diffCol)
  }

  diffCol = setdiff(colnames(y),colnames(x))
  if (length(diffCol)>0){
    cols=colnames(x)
    for (i in 1:length(diffCol)) x=cbind(x,NA)
    colnames(x)=c(cols,diffCol)
  }
  return(rbind(x, y[, colnames(x)]))
}