Le richieste HTTPS di Python (urllib2) ad alcuni siti falliscono su Ubuntu 12.04 senza proxy

Ho una piccola app che ho scritto in Python e funzionava ... fino a ieri, quando improvvisamente ha iniziato a darmi un errore in una connessione HTTPS. Non ricordo se ci fosse un aggiornamento, ma sia Python 2.7.3rc2 che Python 3.2 non funzionano allo stesso modo.

L'ho cercato su Google e ho scoperto che ciò accade quando le persone sono dietro un proxy, ma non lo sono (e nulla è cambiato nella mia rete dall'ultima volta che ha funzionato). Il mio computer Syster esegue Windows e Python 2.7.2 non ha problemi (nella stessa rete).

>>> url = 'https://www.mediafire.com/api/user/get_session_token.php'
>>> response = urllib2.urlopen(url).read()
  File "/usr/lib/python2.7/urllib2.py", line 126, in urlopen
    return _opener.open(url, data, timeout)
  File "/usr/lib/python2.7/urllib2.py", line 400, in open
    response = self._open(req, data)
  File "/usr/lib/python2.7/urllib2.py", line 418, in _open
    '_open', req)
  File "/usr/lib/python2.7/urllib2.py", line 378, in _call_chain
    result = func(*args)
  File "/usr/lib/python2.7/urllib2.py", line 1215, in https_open
    return self.do_open(httplib.HTTPSConnection, req)
  File "/usr/lib/python2.7/urllib2.py", line 1177, in do_open
    raise URLError(err)
urllib2.URLError: <urlopen error [Errno 8] _ssl.c:504: EOF occurred in violation of protocol>

Cosa c'è che non va? Qualsiasi aiuto è apprezzato.

PS .: Le versioni precedenti di Python non funzionano, non nel mio sistema e non in una sessione live da USB, ma funzionano in una sessione live di Ubuntu 11.10.

Ciò sembra essere correlato all'aggiunta del supporto TLS 1.1 e 1.2 alla versione di OpenSSL disponibile in 12.04. L'errore di connessione può essere riprodotto con lo strumento da riga di comando OpenSSL:

$ openssl s_client -connect www.mediafire.com:443
CONNECTED(00000003)
140491065808544:error:140790E5:SSL routines:SSL23_WRITE:ssl handshake failure:s23_lib.c:177:
---
no peer certificate available
---
No client certificate CA names sent
---
SSL handshake has read 0 bytes and written 320 bytes
---
New, (NONE), Cipher is (NONE)
Secure Renegotiation IS NOT supported
Compression: NONE
Expansion: NONE
---

La connessione ha esito positivo se impongo alla connessione di utilizzare TLS 1.0 con l' -tls1argomento della riga di comando.

Vorrei suggerire di presentare una segnalazione di bug su questo problema qui:

https://bugs.launchpad.net/ubuntu/+filebug

Per i principianti di Python come me, ecco il modo per ignorare httplib nel modo più semplice. Nella parte superiore dello script Python, includi queste righe:

import httplib
from httplib import HTTPConnection, HTTPS_PORT
import ssl

class HTTPSConnection(HTTPConnection):
    "This class allows communication via SSL."
    default_port = HTTPS_PORT

    def __init__(self, host, port=None, key_file=None, cert_file=None,
            strict=None, timeout=socket._GLOBAL_DEFAULT_TIMEOUT,
            source_address=None):
        HTTPConnection.__init__(self, host, port, strict, timeout,
                source_address)
        self.key_file = key_file
        self.cert_file = cert_file

    def connect(self):
        "Connect to a host on a given (SSL) port."
        sock = socket.create_connection((self.host, self.port),
                self.timeout, self.source_address)
        if self._tunnel_host:
            self.sock = sock
            self._tunnel()
        # this is the only line we modified from the httplib.py file
        # we added the ssl_version variable
        self.sock = ssl.wrap_socket(sock, self.key_file, self.cert_file, ssl_version=ssl.PROTOCOL_TLSv1)

#now we override the one in httplib
httplib.HTTPSConnection = HTTPSConnection
# ssl_version corrections are done

Da qui in poi, puoi usare urllib o qualunque cosa tu usi come faresti normalmente.

Nota: questo è per Python 2.7. Per una soluzione python 3.x, è necessario sovrascrivere la classe HTTPSConnection presente in http.client. Lo lascio come esercizio per il lettore. :-)

Puoi evitare di modificare il file httplib.py modificando l'oggetto HTTPSConnection:

import httplib, ssl, socket

conn = httplib.HTTPSConnection(URL.hostname)
sock = socket.create_connection((conn.host, conn.port), conn.timeout, conn.source_address)
conn.sock = ssl.wrap_socket(sock, conn.key_file, conn.cert_file, ssl_version=ssl.PROTOCOL_TLSv1)
conn.request('POST', URL.path + URL.query)

Il metodo di richiesta crea un nuovo socket solo se connection.sock non è definito. Creandone uno tuo aggiungendo il parametro ssl_version farà sì che il metodo di richiesta lo usi. Quindi tutto il resto funziona come al solito.

Stavo avendo lo stesso problema e questo funziona per me.

Saluti

Il problema è sslche non ha nulla a che fare con HTTP, quindi perché patch httplibse è possibile patch ssl. Il codice seguente dovrebbe correggere tutti i socket SSL incluso, ma non limitato a HTTPS, per Python 2.6+ (integrato ssl, non provato con pyopenssl).

import functools
import ssl

old_init = ssl.SSLSocket.__init__

@functools.wraps(old_init)
def ubuntu_openssl_bug_965371(self, *args, **kwargs):
  kwargs['ssl_version'] = ssl.PROTOCOL_TLSv1
  old_init(self, *args, **kwargs)

ssl.SSLSocket.__init__ = ubuntu_openssl_bug_965371

EDIT httplib.py (/usr/lib/pythonX.X/httplib.py su Linux)

TROVA HTTPS Dichiarazione di classe di connessione

  class HTTPSConnection(HTTPConnection):
....

Codice di classe interno riga CHANGE

self.sock = ssl.wrap_socket(sock, self.key_file, self.cert_file)

A

self.sock = ssl.wrap_socket(sock, self.key_file, self.cert_file, ssl_version=ssl.PROTOCOL_TLSv1)

Quindi la richiesta HTTPS httplib dovrebbe funzionare

import httplib
from urlparse import urlparse
url = XXX
URL = urlparse(url)
connection = httplib.HTTPSConnection(URL.hostname)
connection.request('POST', URL.path + URL.query)
response = connection.getresponse()

Questo problema è probabilmente dovuto alla disabilitazione di SSLv2 sul server Web, ma Python 2.x tenta di stabilire una connessione con PROTOCOL_SSLv23 per impostazione predefinita.

Ecco il link alla mia risposta per un problema simile su StackTranslate.it - /programming//a/24166498/41957

Aggiornamento: questo è funzionalmente uguale alla risposta di @ temoto sopra.

Una semplice soluzione che ha funzionato per me è stata quella di sostituire il protocollo predefinito SSL:

import ssl
ssl.PROTOCOL_SSLv23 = ssl.PROTOCOL_TLSv1