read.csv警告“带引号的字符串内的 EOF”阻止完全读取文件

read.csv warning 'EOF within quoted string' prevents complete reading of file

提问人:Ben 提问时间:7/2/2013 更新时间:4/20/2023 访问量:161645

问:

有一个 CSV 文件 (24.1 MB),我无法将其完全读入我的 R 会话。当我在电子表格程序中打开文件时,我可以看到 112,544 行。当我把它读入 R 时,我只得到 56,952 行和以下警告:read.csv

cit <- read.csv("citations.CSV", row.names = NULL, 
                comment.char = "", header = TRUE, 
                stringsAsFactors = FALSE,  
                colClasses= "character", encoding= "utf-8")

Warning message:
In scan(file, what, nmax, sep, dec, quote, skip, nlines, na.strings,  :
  EOF within quoted string

我可以使用以下命令将整个文件读入 R:readLines

rl <- readLines(file("citations.CSV", encoding = "utf-8"))
length(rl)
[1] 112545

但是我无法将其作为表放回 R 中(通过):read.csv

write.table(rl, "rl.txt", quote = FALSE, row.names = FALSE)
rl_in <- read.csv("rl.txt", skip = 1, row.names = NULL)

Warning message:
In scan(file, what, nmax, sep, dec, quote, skip, nlines, na.strings,  :
  EOF within quoted string

如何解决或解决此 EOF 消息(这似乎更像是错误而不是警告)以将整个文件放入我的会话?R

我在读取CSV文件的其他方法中也有类似的问题:

require(sqldf)
cit_sql <- read.csv.sql("citations.CSV", sql = "select * from file")
require(data.table)
cit_dt <- fread("citations.CSV")
require(ff)
cit_ff <- read.csv.ffdf(file="citations.CSV")

这是我的sessionInfo()

R version 3.0.1 (2013-05-16)
Platform: x86_64-w64-mingw32/x64 (64-bit)

locale:
[1] LC_COLLATE=English_United States.1252  LC_CTYPE=English_United States.1252   
[3] LC_MONETARY=English_United States.1252 LC_NUMERIC=C                          
[5] LC_TIME=English_United States.1252    

attached base packages:
[1] tools     tcltk     stats     graphics  grDevices utils     datasets  methods   base     

other attached packages:
 [1] ff_2.2-11             bit_1.1-10            data.table_1.8.8      sqldf_0.4-6.4        
 [5] RSQLite.extfuns_0.0.1 RSQLite_0.11.4        chron_2.3-43          gsubfn_0.6-5         
 [9] proto_0.3-10          DBI_0.2-7   
r csv eof read.table

评论


答:

228赞 dickoa 7/2/2013 #1

您需要禁用报价。

cit <- read.csv("citations.CSV", quote = "", 
                 row.names = NULL, 
                 stringsAsFactors = FALSE)

str(cit)
## 'data.frame':    112543 obs. of  13 variables:
##  $ row.names    : chr  "10.2307/675394" "10.2307/30007362" "10.2307/4254931" "10.2307/20537934" ...
##  $ id           : chr  "10.2307/675394\t" "10.2307/30007362\t" "10.2307/4254931\t" "10.2307/20537934\t" ...
##  $ doi          : chr  "Archaeological Inference and Inductive Confirmation\t" "Sound and Sense in Cath Almaine\t" "Oak Galls Preserved by the Eruption of Mount Vesuvius in A.D. 79_ and Their Probable Use\t" "The Arts Four Thousand Years Ago\t" ...
##  $ title        : chr  "Bruce D. Smith\t" "Tomás Ó Cathasaigh\t" "Hiram G. Larew\t" "\t" ...
##  $ author       : chr  "American Anthropologist\t" "Ériu\t" "Economic Botany\t" "The Illustrated Magazine of Art\t" ...
##  $ journaltitle : chr  "79\t" "54\t" "41\t" "1\t" ...
##  $ volume       : chr  "3\t" "\t" "1\t" "3\t" ...
##  $ issue        : chr  "1977-09-01T00:00:00Z\t" "2004-01-01T00:00:00Z\t" "1987-01-01T00:00:00Z\t" "1853-01-01T00:00:00Z\t" ...
##  $ pubdate      : chr  "pp. 598-617\t" "pp. 41-47\t" "pp. 33-40\t" "pp. 171-172\t" ...
##  $ pagerange    : chr  "American Anthropological Association\tWiley\t" "Royal Irish Academy\t" "New York Botanical Garden Press\tSpringer\t" "\t" ...
##  $ publisher    : chr  "fla\t" "fla\t" "fla\t" "fla\t" ...
##  $ type         : logi  NA NA NA NA NA NA ...
##  $ reviewed.work: logi  NA NA NA NA NA NA ...

我认为是因为这种台词(检查“Thorn”和“Minus”)

 readLines("citations.CSV")[82]
[1] "10.2307/3642839,10.2307/3642839\t,\"Thorn\" and \"Minus\" in Hieroglyphic Luvian Orthography\t,H. Craig Melchert\t,Anatolian Studies\t,38\t,\t,1988-01-01T00:00:00Z\t,pp. 29-42\t,British Institute at Ankara\t,fla\t,\t,"

评论

0赞 Ben 7/2/2013
谢谢,这是一个简单的解决方法。现在,您如何看待在这种情况下开始工作?我更喜欢它,因为它比.但似乎没有争论。.freadread.csvfreadquote
1赞 dickoa 7/2/2013
@Ben我也试图让它工作但没有成功,正如你所指出的,一般来说,嵌入式报价并不好,但我相信很快就会有一个解决方法。stackoverflow.com/questions/16094025/......fread
1赞 Hack-R 8/21/2014
我使用时有 7,000 行,并用 .添加 quote = “” 让我最多可以处理 410 行。 没有更好。我想知道还有什么可以尝试的......write.csv()read.csv()read.table()
3赞 SJDS 5/5/2015
与 Hack-R 相同的问题,添加 quote = “” 使我的行数增加了 30,000 行,但我仍然缺少超过 200,000 行。
1赞 Bhargav Rao 7/3/2015
你能不能写一行说明为什么你需要添加它。(我是一名正在尝试学习 R 的 Python 程序员)。否则答案是完美的(+1)
3赞 Tony T 8/2/2013 #2

我也遇到了这个问题,并且能够使用以下方法解决类似的EOF错误:

read.table("....csv", sep=",", ...)

请注意,分隔符参数是在更通用的 .read.table()

评论

2赞 maycca 10/25/2015
嗨,这对我不起作用......我在 read.table(“.csv”, : columns more than column names 中收到错误 - 似乎跳过 (skip = 6) 无法正常工作......
2赞 ElinaJ 7/12/2015 #3

我遇到了类似的问题:EOF -warning,只有部分数据使用 read.csv() 加载。我尝试了quotes=“”,但它只删除了EOF警告。

但是查看未加载的第一行,我发现其中一个单元格中有一个特殊字符,一个箭头→(十六进制值 0x1A)。删除箭头后,我得到了正常加载的数据。

评论

2赞 Mohit 6/8/2017
同样的问题,有没有其他方法可以解决这个问题,而无需任何人工干预?
7赞 Anne Deslattes Mays 9/27/2015 #4

如上所述,在 R 帮助部分,只需添加以下内容即可完全禁用引用:

    quote = "" 

对read.csv()对我有用。

错误“EOF within quoted string”发生时出现:

    > iproscan.53A.neg     = read.csv("interproscan.53A.neg.n.csv",
    +                        colClasses=c(pb.id      = "character",
    +                                     genLoc     = "character",
    +                                     icode      = "character",
    +                                     length     = "character",
    +                                     proteinDB  = "character",
    +                                     protein.id = "character",
    +                                     prot.desc  = "character",
    +                                     start      = "character",
    +                                     end        = "character",
    +                                     evalue     = "character",
    +                                     tchar      = "character",
    +                                     date       = "character",
    +                                     ipro.id    = "character",
    +                                     prot.name  = "character",
    +                                     go.cat     = "character",
    +                                     reactome.id= "character"),
    +                                     as.is=T,header=F)
    Warning message:
    In scan(file, what, nmax, sep, dec, quote, skip, nlines, na.strings,  :
      EOF within quoted string
    > dim(iproscan.53A.neg)
    [1] 69383    16

读入的文件缺少 6,619 行。但是通过禁用引用

    > iproscan.53A.neg     = read.csv("interproscan.53A.neg.n.csv",
    +                        colClasses=c(pb.id      = "character",
    +                                     genLoc     = "character",
    +                                     icode      = "character",
    +                                     length     = "character",
    +                                     proteinDB  = "character",
    +                                     protein.id = "character",
    +                                     prot.desc  = "character",
    +                                     start      = "character",
    +                                     end        = "character",
    +                                     evalue     = "character",
    +                                     tchar      = "character",
    +                                     date       = "character",
    +                                     ipro.id    = "character",
    +                                     prot.name  = "character",
    +                                     go.cat     = "character",
    +                                     reactome.id= "character"),
    +                                     as.is=T,header=F,**quote=""**)    
    > 
    > dim(iproscan.53A.neg)
    [1] 76002    16

工作没有错误,所有行都成功读入。

评论

6赞 IRTFM 8/11/2017
您正在重复之前的答案,然后通过在代码块中添加不必要的侧翼双星号来削弱其实用性。
13赞 mjd876 10/14/2015 #5

我是一个新 R 用户,我想我会发布这个,以防它对其他人有帮助。我试图从包含一些西班牙语字符的文本文件(用逗号分隔)中读取数据,我花了很长时间才弄清楚。 我知道我需要使用 UTF-8 编码,将标头参数设置为 TRUE,并且我需要将 sep 参数设置为“,”,但后来我仍然挂断了电话。看完这篇文章后我尝试将填充参数设置为 TRUE,但随后得到了相同的“带引号的字符串内的 EOF”,我能够以与上述相同的方式修复它。我成功的read.table如下所示:

target <- read.table("target2.txt", fill=TRUE, header=TRUE, quote="", sep=",", encoding="UTF-8")

结果有西班牙语字符和我最初拥有的相同暗淡,所以我称它为成功!谢谢大家!

3赞 floatsd 12/16/2016 #6

实际上,用于读取带有文本内容的文件并不是一个好主意,禁用设置的引号只是一个临时解决方案,它仅适用于单独的引号。还有其他原因会导致警告,例如某些特殊字符。read.csv()quote=""

永久解决方案(使用),找出这些特殊字符是什么,并使用正则表达式来消除它们是一个想法。read.csv()

你有没有想过安装软件包并用它来读取文件。它的速度要快得多,并且不会因此EOF警告而打扰您。请注意,它加载的文件将存储为 data.table 对象,而不是 data.frame 对象。data.table 类有很多很好的功能,但无论如何,如果需要,您可以使用它进行转换。{data.table}fread()as.data.frame()

5赞 marQIsoftGuy 8/18/2018 #7

我也有类似的问题。但就我而言,问题的原因是由于某些文本值中存在撇号(即单引号)。这在处理包括法语文本在内的数据时尤其常见,例如“L'autre jour”。

因此,解决方案只是调整引号参数的默认设置以排除 «'» 符号,因此,使用 quote = “\”“(即双引号),一切正常。

我希望这能帮助你们中的一些人。干杯。

5赞 vladiim 5/15/2020 #8

readr 软件包将解决此问题。

install.packages('readr')
library(readr)
readr::read_csv('yourfile.csv')

评论

0赞 Masoud 9/20/2021
这是解决问题的答案,我检查了以上所有答案,对我不起作用。
0赞 Md. Redwan Ahmad Khan 4/20/2023 #9

我在加载大于 100000 的数据集行号时遇到了同样的问题;read.csv() 在数据集的特定大小(行号)之外加载时可能有一些限制。相反,您可以使用“data.table”库中的“fread()”函数