Come analizzare XML in frame di dati R.


103

Ho provato ad analizzare XML in frame di dati R, questo collegamento mi ha aiutato molto:

come creare un data frame R da un file xml

Ma ancora non sono riuscito a capire il mio problema:

Ecco il mio codice:

data <- xmlParse("http://forecast.weather.gov/MapClick.php?lat=29.803&lon=-82.411&FcstType=digitalDWML")
xmlToDataFrame(nodes=getNodeSet(data1,"//data"))[c("location","time-layout")]
step1 <- xmlToDataFrame(nodes=getNodeSet(data1,"//location/point"))[c("latitude","longitude")]
step2 <- xmlToDataFrame(nodes=getNodeSet(data1,"//time-layout/start-valid-time"))
step3 <- xmlToDataFrame(nodes=getNodeSet(data1,"//parameters/temperature"))[c("type="hourly"")]

Il data frame che voglio avere è così:

latitude  longitude   start-valid-time   hourly_temperature
29.803     -82.411  2013-06-19T15:00:00-04:00    91
29.803     -82.411  2013-06-19T16:00:00-04:00    90

Sono bloccato al xmlToDataFrame(), qualsiasi aiuto sarebbe molto apprezzato, grazie.

Risposte:


103

I dati in formato XML sono raramente organizzati in modo da consentire alla xmlToDataFramefunzione di funzionare. È meglio estrarre tutto negli elenchi e quindi legare gli elenchi insieme in un frame di dati:

require(XML)
data <- xmlParse("http://forecast.weather.gov/MapClick.php?lat=29.803&lon=-82.411&FcstType=digitalDWML")

xml_data <- xmlToList(data)

Nel caso dei dati di esempio, ottenere la posizione e l'ora di inizio è abbastanza semplice:

location <- as.list(xml_data[["data"]][["location"]][["point"]])

start_time <- unlist(xml_data[["data"]][["time-layout"]][
    names(xml_data[["data"]][["time-layout"]]) == "start-valid-time"])

I dati sulla temperatura sono un po 'più complicati. Per prima cosa devi accedere al nodo che contiene gli elenchi di temperature. Quindi è necessario estrarre entrambi gli elenchi, guardare all'interno di ciascuno e scegliere quello che ha "hourly" come uno dei suoi valori. Quindi devi selezionare solo quell'elenco ma mantenere solo i valori che hanno l'etichetta "valore":

temps <- xml_data[["data"]][["parameters"]]
temps <- temps[names(temps) == "temperature"]
temps <- temps[sapply(temps, function(x) any(unlist(x) == "hourly"))]
temps <- unlist(temps[[1]][sapply(temps, names) == "value"])

out <- data.frame(
  as.list(location),
  "start_valid_time" = start_time,
  "hourly_temperature" = temps)

head(out)
  latitude longitude          start_valid_time hourly_temperature
1    29.81    -82.42 2013-06-19T16:00:00-04:00                 91
2    29.81    -82.42 2013-06-19T17:00:00-04:00                 90
3    29.81    -82.42 2013-06-19T18:00:00-04:00                 89
4    29.81    -82.42 2013-06-19T19:00:00-04:00                 85
5    29.81    -82.42 2013-06-19T20:00:00-04:00                 83
6    29.81    -82.42 2013-06-19T21:00:00-04:00                 80

94

Usa xpath più direttamente per prestazioni e chiarezza.

time_path <- "//start-valid-time"
temp_path <- "//temperature[@type='hourly']/value"

df <- data.frame(
    latitude=data[["number(//point/@latitude)"]],
    longitude=data[["number(//point/@longitude)"]],
    start_valid_time=sapply(data[time_path], xmlValue),
    hourly_temperature=as.integer(sapply(data[temp_path], as, "integer"))

portando a

> head(df, 2)
  latitude longitude          start_valid_time hourly_temperature
1    29.81    -82.42 2014-02-14T18:00:00-05:00                 60
2    29.81    -82.42 2014-02-14T19:00:00-05:00                 55

12
Questa dovrebbe davvero essere la risposta accettata. È più conciso e xpath ha prestazioni molto migliori rispetto all'iterazione su elenchi.
— SchaunW

40

Ecco una soluzione parziale usando xml2. Rompere la soluzione in pezzi più piccoli generalmente rende più facile assicurarsi che tutto sia allineato:

library(xml2)
data <- read_xml("http://forecast.weather.gov/MapClick.php?lat=29.803&lon=-82.411&FcstType=digitalDWML")

# Point locations
point <- data %>% xml_find_all("//point")
point %>% xml_attr("latitude") %>% as.numeric()
point %>% xml_attr("longitude") %>% as.numeric()

# Start time
data %>% 
  xml_find_all("//start-valid-time") %>% 
  xml_text()

# Temperature
data %>% 
  xml_find_all("//temperature[@type='hourly']/value") %>% 
  xml_text() %>% 
  as.integer()

8
Risposta utile. Se qualcun altro si imbatte in esso, ecco il link a un tutorial di Hadley sull'uso di xml2: blog.rstudio.com/2015/04/21/xml2
— Richard Erickson

9

Puoi provare il codice qui sotto:

# Load the packages required to read XML files.
library("XML")
library("methods")

# Convert the input xml file to a data frame.
xmldataframe <- xmlToDataFrame("input.xml")
print(xmldataframe)
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.