Come analizzare XML in frame di dati R.


103

Ho provato ad analizzare XML in frame di dati R, questo collegamento mi ha aiutato molto:

come creare un data frame R da un file xml

Ma ancora non sono riuscito a capire il mio problema:

Ecco il mio codice:

data <- xmlParse("http://forecast.weather.gov/MapClick.php?lat=29.803&lon=-82.411&FcstType=digitalDWML")
xmlToDataFrame(nodes=getNodeSet(data1,"//data"))[c("location","time-layout")]
step1 <- xmlToDataFrame(nodes=getNodeSet(data1,"//location/point"))[c("latitude","longitude")]
step2 <- xmlToDataFrame(nodes=getNodeSet(data1,"//time-layout/start-valid-time"))
step3 <- xmlToDataFrame(nodes=getNodeSet(data1,"//parameters/temperature"))[c("type="hourly"")]

Il data frame che voglio avere è così:

latitude  longitude   start-valid-time   hourly_temperature
29.803     -82.411  2013-06-19T15:00:00-04:00    91
29.803     -82.411  2013-06-19T16:00:00-04:00    90

Sono bloccato al xmlToDataFrame(), qualsiasi aiuto sarebbe molto apprezzato, grazie.

Risposte:


103

I dati in formato XML sono raramente organizzati in modo da consentire alla xmlToDataFramefunzione di funzionare. È meglio estrarre tutto negli elenchi e quindi legare gli elenchi insieme in un frame di dati:

require(XML)
data <- xmlParse("http://forecast.weather.gov/MapClick.php?lat=29.803&lon=-82.411&FcstType=digitalDWML")

xml_data <- xmlToList(data)

Nel caso dei dati di esempio, ottenere la posizione e l'ora di inizio è abbastanza semplice:

location <- as.list(xml_data[["data"]][["location"]][["point"]])

start_time <- unlist(xml_data[["data"]][["time-layout"]][
    names(xml_data[["data"]][["time-layout"]]) == "start-valid-time"])

I dati sulla temperatura sono un po 'più complicati. Per prima cosa devi accedere al nodo che contiene gli elenchi di temperature. Quindi è necessario estrarre entrambi gli elenchi, guardare all'interno di ciascuno e scegliere quello che ha "hourly" come uno dei suoi valori. Quindi devi selezionare solo quell'elenco ma mantenere solo i valori che hanno l'etichetta "valore":

temps <- xml_data[["data"]][["parameters"]]
temps <- temps[names(temps) == "temperature"]
temps <- temps[sapply(temps, function(x) any(unlist(x) == "hourly"))]
temps <- unlist(temps[[1]][sapply(temps, names) == "value"])

out <- data.frame(
  as.list(location),
  "start_valid_time" = start_time,
  "hourly_temperature" = temps)

head(out)
  latitude longitude          start_valid_time hourly_temperature
1    29.81    -82.42 2013-06-19T16:00:00-04:00                 91
2    29.81    -82.42 2013-06-19T17:00:00-04:00                 90
3    29.81    -82.42 2013-06-19T18:00:00-04:00                 89
4    29.81    -82.42 2013-06-19T19:00:00-04:00                 85
5    29.81    -82.42 2013-06-19T20:00:00-04:00                 83
6    29.81    -82.42 2013-06-19T21:00:00-04:00                 80

94

Usa xpath più direttamente per prestazioni e chiarezza.

time_path <- "//start-valid-time"
temp_path <- "//temperature[@type='hourly']/value"

df <- data.frame(
    latitude=data[["number(//point/@latitude)"]],
    longitude=data[["number(//point/@longitude)"]],
    start_valid_time=sapply(data[time_path], xmlValue),
    hourly_temperature=as.integer(sapply(data[temp_path], as, "integer"))

portando a

> head(df, 2)
  latitude longitude          start_valid_time hourly_temperature
1    29.81    -82.42 2014-02-14T18:00:00-05:00                 60
2    29.81    -82.42 2014-02-14T19:00:00-05:00                 55

12
Questa dovrebbe davvero essere la risposta accettata. È più conciso e xpath ha prestazioni molto migliori rispetto all'iterazione su elenchi.
SchaunW

40

Ecco una soluzione parziale usando xml2. Rompere la soluzione in pezzi più piccoli generalmente rende più facile assicurarsi che tutto sia allineato:

library(xml2)
data <- read_xml("http://forecast.weather.gov/MapClick.php?lat=29.803&lon=-82.411&FcstType=digitalDWML")

# Point locations
point <- data %>% xml_find_all("//point")
point %>% xml_attr("latitude") %>% as.numeric()
point %>% xml_attr("longitude") %>% as.numeric()

# Start time
data %>% 
  xml_find_all("//start-valid-time") %>% 
  xml_text()

# Temperature
data %>% 
  xml_find_all("//temperature[@type='hourly']/value") %>% 
  xml_text() %>% 
  as.integer()

8
Risposta utile. Se qualcun altro si imbatte in esso, ecco il link a un tutorial di Hadley sull'uso di xml2: blog.rstudio.com/2015/04/21/xml2
Richard Erickson

9

Puoi provare il codice qui sotto:

# Load the packages required to read XML files.
library("XML")
library("methods")

# Convert the input xml file to a data frame.
xmldataframe <- xmlToDataFrame("input.xml")
print(xmldataframe)
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.