Vedo alcune informazioni preziose nelle altre risposte e nei commenti, ma anche qualche disinformazione, quindi provo a dare un riepilogo e aggiungere alcune cose aggiuntive.
Avrò qualche vantaggio se apro l'algoritmo con licenza copyleft (GPL ecc.)?
Pubblicando il codice sorgente di un'implementazione del tuo algoritmo sotto GPL (suppongo che sia quello che volevi dire), ottieni il vantaggio di dimostrare che il tuo algoritmo funziona come previsto, e tutti possono ispezionare il tuo codice sorgente per assicurarsi che non contenga nulla "insolito" come gravi bug o malware. Forse otterrai alcuni collaboratori per ulteriori miglioramenti. E poiché sei il detentore del copyright, sei ancora libero di pubblicare o vendere la tua implementazione ad altri con una diversa licenza.
Una domanda diversa è se ti porta qualche vantaggio ad essere il primo a pubblicare quell'algoritmo. Essendo il primo potresti provare a impedire a qualcun altro di ottenere un brevetto su tale algoritmo, poiché la tua implementazione servirà come una sorta di prova che sei l'inventore. Ma come ha giustamente sottolineato @Snowman in un commento, a causa della politica del primo file (anziché del primo inventare) di molti regolamenti sui brevetti europei, che in realtà potrebbe non funzionare.
Da quanto ne so delle licenze, ciò dovrebbe impedire alle persone di usare esattamente lo stesso codice del codice sorgente chiuso, ma sarebbero in grado di "riscrivere" l'algoritmo come codice sorgente chiuso?
Impedisci alle persone di pubblicare il tuo codice sorgente o di modificarlo in un codice chiuso, non di usarlo all'interno di un'organizzazione commerciale. Impedisci alle persone di pubblicarlo come open o closed source con una licenza diversa da GPL. Tuttavia, non impedisci alle persone di pubblicare una nuova implementazione "clean room" del tuo algoritmo sotto una licenza arbitraria, che è un'implementazione fatta solo dalla tua descrizione dell'algoritmo, senza effettivamente esaminare il codice sorgente.
Dato che vengo dall'Unione Europea, devo cercare i brevetti software se volevo copyleft?
Sebbene le leggi di molti paesi europei vietino formalmente i brevetti sugli algoritmi puri, molte aziende hanno eluso quelle leggi in passato dichiarando algoritmi specifici come "invenzioni attuate per mezzo di elaboratori elettronici". AFAIK, gli uffici brevetti europei non hanno accettato tanti brevetti algoritmici come gli uffici brevetti statunitensi in passato, tuttavia negli anni hanno accettato migliaia di brevetti che possono essere interpretati come brevetti sugli algoritmi. Se quei brevetti si terranno effettivamente in tribunale è una domanda diversa, ma qualcuno che vuole scoprirlo in genere dovrà metterlo alla prova, con tutti i rischi connessi. Due dei gruppi di esempi più popolari sono stati menzionati nei commenti, i brevetti relativi alla compressione delle immagini GIF e i brevetti relativi alla compressione / decompressione MP3, vedi qui per ulteriori esempi.
Quindi, se si desidera ridurre il rischio di essere citati in giudizio, prima di pubblicare un software contenente un algoritmo specifico, probabilmente si dovrebbe verificare se c'è qualcuno che detiene un brevetto su di esso, anche nell'UE.