Come formare una colonna tupla da due colonne in Pandas


125

Ho un Pandas DataFrame e voglio combinare le colonne "lat" e "long" per formare una tupla.

<class 'pandas.core.frame.DataFrame'>
Int64Index: 205482 entries, 0 to 209018
Data columns:
Month           205482  non-null values
Reported by     205482  non-null values
Falls within    205482  non-null values
Easting         205482  non-null values
Northing        205482  non-null values
Location        205482  non-null values
Crime type      205482  non-null values
long            205482  non-null values
lat             205482  non-null values
dtypes: float64(4), object(5)

Il codice che ho provato a utilizzare è stato:

def merge_two_cols(series): 
    return (series['lat'], series['long'])

sample['lat_long'] = sample.apply(merge_two_cols, axis=1)

Tuttavia, questo ha restituito il seguente errore:

---------------------------------------------------------------------------
 AssertionError                            Traceback (most recent call last)
<ipython-input-261-e752e52a96e6> in <module>()
      2     return (series['lat'], series['long'])
      3 
----> 4 sample['lat_long'] = sample.apply(merge_two_cols, axis=1)
      5

...

AssertionError: Block shape incompatible with manager 

Come posso risolvere questo problema?

Risposte:


201

Mettiti comodo zip. È utile quando si tratta di dati di colonne.

df['new_col'] = list(zip(df.lat, df.long))

È meno complicato e più veloce dell'utilizzo di applyo map. Qualcosa di simile np.dstackè due volte più veloce di zip, ma non ti darebbe tuple.


3
in python3, devi usare list. Dovrebbe funzionare:df['new_col'] = list(zip(df.lat, df.long))
paulwasit

@paulwasit ah sì, il mio rapporto di odio amore con il comportamento pigro di Python 3. Grazie.
Dale Jung

4
Questo metodo list(zip(df.lat, df.long))in 124 ms è molto più efficiente rispetto df[['lat', 'long']].apply(tuple, axis=1)a 14,2 s per 900.000 righe. Il rapporto è superiore a 100.
Pengju Zhao

1
Sto cercando di usarlo con un elenco di colonne più lungo df['new_col'] = list(zip(df[cols_to_keep])) ma continuo a ricevere un errore: Length of values does not match length of indexqualche consiglio?
seeiespi

1
La risposta di @ PeterHansen mi ha aiutato, ma penso che potrebbe essere mancato un * per decomprimere prima la lista - cioè df['new_col'] = list(zip(*[df[c] for c in cols_to_keep])
jedge

61
In [10]: df
Out[10]:
          A         B       lat      long
0  1.428987  0.614405  0.484370 -0.628298
1 -0.485747  0.275096  0.497116  1.047605
2  0.822527  0.340689  2.120676 -2.436831
3  0.384719 -0.042070  1.426703 -0.634355
4 -0.937442  2.520756 -1.662615 -1.377490
5 -0.154816  0.617671 -0.090484 -0.191906
6 -0.705177 -1.086138 -0.629708  1.332853
7  0.637496 -0.643773 -0.492668 -0.777344
8  1.109497 -0.610165  0.260325  2.533383
9 -1.224584  0.117668  1.304369 -0.152561

In [11]: df['lat_long'] = df[['lat', 'long']].apply(tuple, axis=1)

In [12]: df
Out[12]:
          A         B       lat      long                             lat_long
0  1.428987  0.614405  0.484370 -0.628298      (0.484370195967, -0.6282975278)
1 -0.485747  0.275096  0.497116  1.047605      (0.497115615839, 1.04760475074)
2  0.822527  0.340689  2.120676 -2.436831      (2.12067574274, -2.43683074367)
3  0.384719 -0.042070  1.426703 -0.634355      (1.42670326172, -0.63435462504)
4 -0.937442  2.520756 -1.662615 -1.377490     (-1.66261469102, -1.37749004179)
5 -0.154816  0.617671 -0.090484 -0.191906  (-0.0904840623396, -0.191905582481)
6 -0.705177 -1.086138 -0.629708  1.332853     (-0.629707821728, 1.33285348929)
7  0.637496 -0.643773 -0.492668 -0.777344   (-0.492667604075, -0.777344111021)
8  1.109497 -0.610165  0.260325  2.533383        (0.26032456699, 2.5333825651)
9 -1.224584  0.117668  1.304369 -0.152561     (1.30436900612, -0.152560909725)

È geniale. Grazie. Chiaramente ho bisogno di capire le funzioni lambda.
elksie5000

Ha funzionato sui tuoi dati? In tal caso, puoi condividere la tua versione di panda e i dati? Mi chiedo perché il tuo codice non ha funzionato, dovrebbe.
Wouter Overmeire

La versione è 0.10.1_20130131. Scusa la mia ignoranza, ma qual è il modo migliore per caricare una sezione dei dati per te? (Ancora un principiante relativo).
elksie5000

Non sono riuscito a riprodurre il 0.10.1. Il modo migliore per caricare? Puoi creare codice che genera un frame contenente dati casuali, che ha lo stesso problema e condividere quel codice o mettere in risalto il frame sopra (campione) e trasferirlo tramite un servizio gratuito di trasferimento di file di grandi dimensioni. Come pickle (in due righe, senza ","): import pickle, con open ('sample.pickle', 'w') come file: pickle.dump (sample, file)
Wouter Overmeire

1
Ho votato in più perché ho bisogno di comprimere 10 colonne e non voglio dare il nome del dataframe 10 volte. Voglio solo dare nomi alle colonne.
rishi jain

13

Pandas ha il itertuplesmetodo per fare esattamente questo:

list(df[['lat', 'long']].itertuples(index=False, name=None))

3

Vorrei aggiungere df.values.tolist(). (purché non ti dispiaccia ottenere una colonna di elenchi anziché tuple)

import pandas as pd
import numpy as np

size = int(1e+07)
df = pd.DataFrame({'a': np.random.rand(size), 'b': np.random.rand(size)}) 

%timeit df.values.tolist()
1.47 s ± 38.9 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)

%timeit list(zip(df.a,df.b))
1.92 s ± 131 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)

Quando si dispone di più di solo queste due colonne: %timeit df[['a', 'b']].values.tolist(). È ancora molto più veloce.
ChaimG
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.