Il futuro della singolarità tecnologica potrebbe essere dominata da super-intelligenze che non sarà possibile controllare: i progressi nell’intelligenza artificiale (AI), nell’apprendimento automatico (ML) e nella scienza dei dati stanno riaccendendo l’interesse nell’applicazione del calcolo a più aspetti del processo legale e del processo decisionale. Ciò appare particolarmente evidente attraverso lo sviluppo di varie applicazioni LegalTech che sfruttano l’intelligenza artificiale per assistere, tra le altre cose, nella pratica legale e negli affari, nelle forze dell’ordine e nella previsione degli esiti dei casi. L’uso di sistemi decisionali algoritmici (ADM) per replicare, e in alcuni casi sostituire, giudici umani e altri decisori ha, tuttavia, preoccupato l’attenzione del pubblico, dei media e degli studiosi.

Sebbene le preoccupazioni tecniche su pregiudizi e trasparenza siano chiaramente importanti, non dovrebbero distogliere dal fatto rilevante, ossia che l’“autorità legale” è sempre più espressa e applicata tramite algoritmi. La tecnologia, infatti, viene sempre di più usata per replicare e sostituire più vari passaggi del processo decisionale. Tanto che alcuni si pongono la domanda: l’applicazione della legge diventerà un fattore calcolabile?

Tale questione diventa ancora più acuta alla luce delle previsioni di un’imminente “singolarità legale“, un punto ipotetico in cui le capacità funzionali dell’IA superano di gran lunga quelle dei giudici e degli avvocati umani. In questo mondo di singolarità giuridica, si dice che il diritto esiste in un perpetuo stato di equilibrio tra fatti e norme. Tuttavia, la singolarità giuridica è anche una proposta per eliminare il ragionamento giuridico come base per la risoluzione delle controversie e l’assegnazione di diritti, responsabilità e poteri.

In conclusione, la singolarità giuridica potrebbe destabilizzare anche il principio di universalità del diritto, ripensando ai soggetti giuridici come aggregazioni di punti dati piuttosto che come singoli membri di una comunità politica.

L’emergere di una superintelligenza artificiale ci porterebbe maggiori capacità inventive e di risoluzione dei problemi di quelle di cui gli esseri umani sono capaci. Molti sviluppi potrebbero sembrare distopici, avendo “in teoria” il potenziale per trasformare ciò che significa essere umani in definitiva ed allo stesso tempo, la convergenza di tecnologia e umanità, un’area di studio nota come transumanesimo, sembra essere l’unico modo per tenere il passo con il ritmo costante del cambiamento.

Supponendo che saremo sempre in grado di controllare l’intelligenza artificiale, potremmo finire per trasformarla in “un’arma”: ad esempio, la proliferazione dei social media, è uno dei problemi di sicurezza e privacy più significativi di questo secolo. Non è tanto per le vulnerabilità nella tecnologia, ma perché è un mezzo altamente efficace per condurre attacchi che si possono includere nell’ingegneria sociale.

Prima di raggiungere l’era della vera intelligenza artificiale, la capacità degli algoritmi di analizzare enormi quantità di dati è già stata testata. Da un lato, questi possono svolgere molte attività utili per migliorare il nostro mondo, come la modellazione del clima e la previsione dei disastri, ma, al contempo, dall’altro, la capacità degli esseri umani di interferire con i sistemi informativi li rende una minaccia più significativa della tecnologia stessa.