Saremo schiavi o signori? cosa ci riserverà l’accelerazione della tecnologia

Quali saranno le prospettive di noi umani – o meglio della gran maggioranza di noi umani – di fronte alla vertiginosa accellerazione tecnologica impressa dall’AI? Da secoli i filosofi discutono della Città Futura, del regno dell’Utopia e di come la società vi sarà ordinata e progredita. Ma è anche vero che fino ad ora tutti i tentativi di forgiare una società utopica hanno portato a realtà totalitarie ed oppressive, tanto che progressivamente il racconto dall’attesa di società ideali è virato verso la paura di un futuro dispotico. La cartina di tornasole la proviamo in un genere letterario ingiustamente giudicato di serie B: la fantascienza. In pochi decenni si è passati dal futuro ottimista di Asimov agli incubi di Philip K. Dick, autore che consiglio vivamente di leggere per usarlo come vaccino…

Il problema è che quello che sembrava relegato ai libri di fantascienza sta prepotentemente entrando nel nostro mondo reale ora e adesso: come cambierà la nostra vita? Il dibattito è aperto e cerco di riunire qui quelle che a mio parere sono le posizioni più interessanti. (disclaimer: io appartengo ai pessimisti.. per me il bicchiere non e’ mezzo vuoto: è proprio vuoto del tutto … )

27/11/23 Vitalik Buterin: Il mio tecno-ottimismo

(per chi non lo conoscesse Buterin è l’anarcovisionario che ha creato Ethereum)

Il mese scorso, Marc Andreessen ha pubblicato il suo “manifesto tecno-ottimista“, sostenendo un rinnovato entusiasmo per la tecnologia e per i mercati e il capitalismo come mezzo per costruire quella tecnologia e spingere l’umanità verso un futuro molto più luminoso. Il manifesto rifiuta inequivocabilmente quella che descrive come un’ideologia di stagnazione, che teme i progressi e dà la priorità alla conservazione del mondo così come esiste oggi. Questo manifesto ha ricevuto molta attenzione, compresi articoli di risposta da Noah Smith, Robin Hanson, Joshua Gans (più positivo) e Dave Karpf, Luca Ropek, Ezra Klein (più negativo) e molti altri. Non collegati a questo manifesto, ma lungo temi simili, sono “The Conservative Futurist” di James Pethokoukis e “It’s Time To Build for Good” di Palladium. Questo mese, abbiamo visto un dibattito simile attuato attraverso la disputa OpenAI, che ha coinvolto molte discussioni incentrate sui pericoli dell’IA superintelligente e sulla possibilità che OpenAI si stia muovendo troppo velocemente.

I miei sentimenti per la tecno-ottimismo sono caldi, ma sfumati. Credo in un futuro che è molto più luminoso del presente grazie alla tecnologia radicalmente trasformativa, e credo negli esseri umani e nell’umanità. Rifiuto la mentalità che il meglio che dovremmo cercare di fare è mantenere il mondo all’incirca lo stesso di oggi, ma con meno avidità e più assistenza sanitaria pubblica. Tuttavia, penso che non sia importante solo la grandezza ma anche la direzione. Ci sono alcuni tipi di tecnologia che rendono il mondo migliore in modo molto più affidabile di altri tipi di tecnologia. Ci sono alcuni tipi di tecnologia che potrebbero, se sviluppati, mitigare gli impatti negativi di altri tipi di tecnologia. Il mondo over-indici su alcune direzioni dello sviluppo tecnologico e under-index su altre. Abbiamo bisogno di un’intenzione umana attiva per scegliere le direzioni che vogliamo, poiché la formula di “massimizzare il profitto” non arriverà a loro automaticamente.

In questo post, parlerò di cosa significa per me il tecno-ottimismo. Ciò include la visione del mondo più ampia che motiva il mio lavoro su alcuni tipi di applicazioni blockchain e crittografia e tecnologia sociale, così come altre aree della scienza in cui ho espresso interesse. Ma le prospettive su questa questione più ampia hanno anche implicazioni per l’IA e per molti altri campi. I nostri rapidi progressi nella tecnologia saranno probabilmente la questione sociale più importante del ventunesimo secolo, e quindi è importante pensarci attentamente.

La tecnologia è incredibile, e ci sono costi molto alti per ritardarla

In alcuni ambienti, è comune minimizzare i benefici della tecnologia e vederla principalmente come una fonte di distopia e rischio. Nell’ultimo mezzo secolo, questo spesso derivava o da preoccupazioni ambientali o da preoccupazioni che i benefici deriveranno solo dai ricchi, che trincereranno il loro potere sui poveri. Più recentemente, ho anche iniziato a vedere i libertari preoccuparsi di alcune tecnologie, per paura che la tecnologia porti alla centralizzazione del potere. Questo mese, ho fatto alcuni sondaggi ponendo la seguente domanda: se una tecnologia dovesse essere limitata, perché era troppo pericolosa per essere liberata per essere utilizzata da chiunque, preferirebbero che fosse monopolizzata o ritardata di dieci anni? Sono rimasto stupito di vedere, attraverso tre piattaforme e tre scelte su chi sarebbe stato il monopolista, un voto schiacciante uniforme per un ritardo.

E così a volte mi preoccupo che abbiamo corretto troppo, e molte persone perdono il lato opposto dell’argomento: che i benefici della tecnologia sono davvero enormi, su quegli assi in cui possiamo misurarlo il bene supera massicciamente il male, e i costi anche di un decennio di ritardo sono incredibilmente alti.

Per fare un esempio concreto, diamo un’occhiata a un grafico dell’aspettativa di vita:

Che cosa vediamo? Nel corso dell’ultimo secolo, un progresso davvero massiccio. Questo è vero in tutto il mondo, sia nelle regioni storicamente ricche e dominanti che nelle regioni povere e sfruttate.

Alcuni incolpano la tecnologia per aver creato o esacerbato calamità come il totalitarismo e le guerre. In effetti, possiamo vedere le morti causate dalle guerre sulle classifiche: una negli anni ’10 (WW1), e una negli anni ’40 (WW2). Se si guarda attentamente, sono visibili anche l’influenza spagnola, il Grande Salto e altre tragedie non militari. Ma c’è una cosa che il grafico chiarisce: anche calamità orribili come quelle che sono sopraffatte dalla pura grandezza dell’infinita marcia di miglioramenti nel cibo, nei servizi igienico-sanitari, nella medicina e nelle infrastrutture che ha avuto luogo nel corso di quel secolo.

Ciò si riflette in grandi miglioramenti nella nostra vita quotidiana. Grazie a Internet, la maggior parte delle persone in tutto il mondo ha accesso a informazioni a portata di mano che sarebbero state irreperibili vent’anni fa. L’economia globale sta diventando più accessibile grazie ai miglioramenti dei pagamenti e della finanza internazionali. La povertà globale sta rapidamente diminuendo. Grazie alle mappe online, non dobbiamo più preoccuparci di perderci in città, e se hai bisogno di tornare a casa rapidamente, ora abbiamo modi molto più semplici per chiamare un’auto per farlo. La nostra proprietà che diventa digitalizzata, e i nostri beni fisici che diventano economici, significa che abbiamo molto meno da temere dal furto fisico. Lo shopping online ha ridotto la disparità di accesso alle merci tra le megalopoli globali e il resto del mondo. In tutti i modi, l’automazione ci ha portato il beneficio eternamente sottovalutato di rendere semplicemente la nostra vita più comoda.

Questi miglioramenti, sia quantificabili che non quantificabili, sono grandi. E nel ventunesimo secolo, c’è una buona probabilità che miglioramenti ancora più grandi arriveranno presto. Oggi, porre fine all’invecchiamento e alla malattia sembra utopica. Ma dal punto di vista dei computer come esistevano nel 1945, l’era moderna di mettere chip in praticamente tutto sarebbe sembrata utopico: anche i film di fantascienza spesso mantenevano i loro computer delle dimensioni della stanza. Se le biotecnologie avanzano tanto nei prossimi 75 anni quanto i computer negli ultimi 75 anni, il futuro potrebbe essere più impressionante delle aspettative di quasi tutti.

Nel frattempo, gli argomenti che esprimono scetticismo sul progresso sono spesso andati in luoghi bui. Anche i libri di testo medici, come questo negli anni ’90 (credita Emma Szewczak per averlo trovato), a volte fanno affermazioni estreme negando il valore di due secoli di scienza medica e persino sostenendo che non è ovviamente bene salvare vite umane:

La tesi sui “limiti alla crescita”, un’idea avanzata negli anni ’70 sostenendo che la crescente popolazione e l’industria avrebbero alla fine esaurito le limitate risorse della Terra, ha finito per ispirare la politica del figlio unico della Cina e le massicce sterilizzature forzate in India. In epoche precedenti, le preoccupazioni per la sovrappopolazione erano usate per giustificare l’omicidio di massa. E quelle idee, argomentate dal 1798, hanno una lunga storia di errori.

È per ragioni come queste che, come punto di partenza, mi trovo molto a disagio per gli argomenti per rallentare la tecnologia o il progresso umano. Dato quanto tutti i settori sono interconnessi, anche i rallentamenti settoriali sono rischiosi. E così quando scrivo cose come quello che dirò più avanti in questo post, partendo dall’entusiasmo aperto per il progresso-no-non-non-che-la sua forma, quelle sono dichiarazioni che faccio con il cuore pesante – eppure, il 21° secolo è diverso e abbastanza unico che vale la pena considerare queste sfumature.

Detto questo, c’è un importante punto di sfumatura da fare sul quadro più ampio, in particolare quando superiamo “la tecnologia nel suo complesso è buona” e arriviamo all’argomento “quali tecnologie specifiche sono buone?”. E qui dobbiamo arrivare alla questione principale di molte persone: l’ambiente.

L’ambiente e l’importanza dell’intenzione coordinata

Una grande eccezione alla tendenza di praticamente tutto migliora negli ultimi cento anni è il cambiamento climatico:

Anche scenari pessimistici di continui aumenti di temperatura non si avvicinerebbero affatto a causare l’estinzione letterale dell’umanità. Ma tali scenari potrebbero plausibilmente uccidere più persone delle grandi guerre e danneggiare gravemente la salute e i mezzi di sussistenza delle persone nelle regioni in cui le persone stanno già lottando di più. Uno studio dello Swiss Re Institute suggerisce che uno scenario di cambiamento climatico peggiore potrebbe abbassare il PIL dei paesi più poveri del mondo fino al 25%. Questo studio suggerisce che la durata della vita nell’India rurale potrebbe essere un decennio più bassa di quanto sarebbe altrimenti, e studi come questo e questo suggeriscono che il cambiamento climatico potrebbe causare cento milioni di morti in eccesso entro la fine del secolo.

Questi problemi sono un grosso problema. La mia risposta al motivo per cui sono ottimista sulla nostra capacità di superare queste sfide è duplice. In primo luogo, dopo decenni di clamore e pio desiderio, l’energia solare sta finalmente girando un angolo e tecnologie di supporto come le batterie stanno facendo progressi simili. In secondo luogo, possiamo esaminare il track record dell’umanità nel risolvere i precedenti problemi ambientali. Prendiamo, per esempio, l’inquinamento atmosferico. Incontra la distopia del passato: il Grande Smog di Londra, 1952.

Cos’è successo da allora? Chiediamo di nuovo a Our World In Data:

A quanto pare, il 1952 non era nemmeno il picco: alla fine del XIX secolo, concentrazioni ancora più elevate di inquinanti atmosferici erano semplicemente accettate e normali. Da allora, abbiamo visto un secolo di declini continui e rapidi. Ho avuto modo di sperimentare personalmente la fine di questo nelle mie visite in Cina: nel 2014, alti livelli di smog nell’aria, stimati per ridurre l’aspettativa di vita di oltre cinque anni, erano normali, ma nel 2020, l’aria sembrava spesso pulita come molte città occidentali. Questa non è la nostra unica storia di successo. In molte parti del mondo, le aree forestali sono in aumento. La crisi delle piogge acide sta migliorando. Lo strato di ozono si sta riprendendo da decenni.

Per me, la morale della storia è questa. Spesso, è davvero il caso che la versione N della tecnologia della nostra civiltà causi un problema, e la versione N+1 lo risolve. Tuttavia, questo non accade automaticamente e richiede uno sforzo umano intenzionale. Lo strato di ozono si sta riprendendo perché, attraverso accordi internazionali come il Protocollo di Montreal, l’abbiamo fatto recuperare. L’inquinamento atmosferico sta migliorando perché l’abbiamo fatto migliorare. E allo stesso modo, i pannelli solari non sono migliorati enormemente perché era una parte preordinata dell’albero della tecnologia energetica; i pannelli solari sono migliorati enormemente perché decenni di consapevolezza dell’importanza di risolvere il cambiamento climatico hanno motivato entrambi gli ingegneri a lavorare sul problema e le aziende e i governi a finanziare la loro ricerca. È l’azione intenzionale, coordinata attraverso il discorso pubblico e la cultura che modella le prospettive di governi, scienziati, filantropi e imprese, e non un’inesorabile “macchina tecno-capitale”, che aveva risolto questi problemi.

L’IA è fondamentalmente diversa dalle altre tecnologie, e vale la pena essere particolarmente attenti

Molte delle prese sprezzanti che ho visto sull’IA provengono dalla prospettiva che è “solo un’altra tecnologia”: qualcosa che è nella stessa classe generale di cose dei social media, crittografia, contraccezione, telefoni, aerei, pistole, la stampa e la ruota. Queste cose sono chiaramente molto socialmente consequenziali. Non sono solo miglioramenti isolati al benessere degli individui: trasformano radicalmente la cultura, cambiano gli equilibri di potere e danneggiano le persone che dipendevano fortemente dall’ordine precedente. Molti si sono opposti. E a conti fatti, i pessimisti si sono invariabilmente sbagliati.

Ma c’è un modo diverso di pensare a cosa sia l’IA: è un nuovo tipo di mente che sta rapidamente guadagnando in intelligenza, e ha una seria possibilità di superare le facoltà mentali degli umani e diventare la nuova specie di avanguardia sul pianeta. La classe di cose in quella categoria è molto più piccola: potremmo plausibilmente includere gli umani che superano le scimmie, la vita multicellulare che supera la vita unicellulare, l’origine della vita stessa e forse la rivoluzione industriale, in cui la macchina ha superato l’uomo nella forza fisica. Improvvisamente, sembra che stiamo camminando su un terreno molto meno ben calpestato.

Il rischio esistenziale è un grosso problema

Un modo in cui l’IA è andata male potrebbe peggiorare il mondo è (quasi) il peggior modo possibile: potrebbe letteralmente causare l’estinzione umana. Questa è un’affermazione estrema: per quanto danno possa causare lo scenario peggiore del cambiamento climatico, o una pandemia artificiale o una guerra nucleare, ci sono molte isole della civiltà che rimarrebbero intatte per raccogliere i pezzi. Ma un’IA superintelligente, se decide di rivoltarsi contro di noi, potrebbe non lasciare sopravvissuti e porre fine all’umanità per sempre. Anche Marte potrebbe non essere sicuro.

Una grande ragione per essere preoccupati si concentra sulla convergenza strumentale: per una classe molto ampia di obiettivi che un’entità superintelligente potrebbe avere, due passi intermedi molto naturali che l’IA potrebbe intraprendere per raggiungere meglio tali obiettivi sono (i) consumare risorse e (ii) garantire la sua sicurezza. La Terra contiene molte risorse e gli esseri umani sono una minaccia prevedibile per la sicurezza di tale entità. Potremmo cercare di dare all’IA un obiettivo esplicito di amare e proteggere gli esseri umani, ma non abbiamo idea di come farlo effettivamente in un modo che non si rompa completamente non appena l’IA incontra una situazione inaspettata. Ergo, abbiamo un problema.

Il tentativo del ricercatore MIRI Rob Bensinger di illustrare le stime di persone diverse sulla probabilità che l’IA uccida tutti o faccia qualcosa di quasi quanto brutto. Molte delle posizioni sono approssimazioni approssimative basate sulle dichiarazioni pubbliche delle persone, ma molti altri hanno dato pubblicamente le loro stime precise; parecchie hanno una “probabilità di sventura” superiore al 25%.

Un sondaggio tra i ricercatori di apprendimento automatico del 2022 ha mostrato che in media, i ricercatori pensano che ci sia una probabilità del 5-10% che l’IA ci uccida letteralmente tutti: circa la stessa probabilità della probabilità statisticamente prevista di morire per cause non biologiche come le lesioni.

Questa è tutta un’ipotesi speculativa e dovremmo essere tutti diffidenti delle ipotesi speculative che coinvolgono storie complesse in più fasi. Tuttavia, questi argomenti sono sopravvissuti a oltre un decennio di controllo, e quindi sembra che valga la pena preoccuparsi almeno un po’. Ma anche se non sei preoccupato per l’estinzione letterale, ci sono anche altre ragioni per avere paura.

Anche se sopravviviamo, un futuro di intelligenza artificiale superintelligente è un mondo in cui vogliamo vivere?

Un sacco di fantascienza moderna è distopica e dipinge l’IA in cattiva luce. Anche i tentativi di saggistica non di identificare possibili futuri dell’IA spesso danno risposte piuttosto poco attraenti. E così sono andato in giro e ho fatto la domanda: cos’è una rappresentazione, sia di fantascienza che di altro tipo, di un futuro che contiene un’IA superintelligente in cui vorremmo vivere. La risposta che è tornata di gran lunga più spesso è la serie Culture di Iain Banks.

La serie Culture presenta una civiltà interstellare del lontano futuro occupata principalmente da due tipi di attori: esseri umani regolari e IA superintelligenti chiamate Menti. Gli esseri umani sono stati aumentati, ma solo leggermente: la tecnologia medica teoricamente permette agli esseri umani di vivere indefinitamente, ma la maggior parte sceglie di vivere solo per circa 400 anni, apparentemente perché a quel punto si annoia della vita.

Da una prospettiva superficiale, la vita come essere umano sembra essere buona: è comoda, i problemi di salute sono curati, c’è un’ampia varietà di opzioni per l’intrattenimento e c’è una relazione positiva e sinergica tra umani e menti. Quando guardiamo più a fondo, tuttavia, c’è un problema: sembra che le Menti siano completamente al comando e l’unico ruolo degli umani nelle storie è quello di agire come pedine delle Menti, svolgendo compiti per loro conto.

Citando “Contro la cultura” di Gavin Leech:

Gli umani non sono i protagonisti. Anche quando i libri sembrano avere un protagonista umano, che fa grandi cose serie, sono in realtà l’agente di un’IA. (Zakalwe è una delle uniche eccezioni, perché può fare cose immorali che le menti non vogliono fare.) “Le menti nella cultura non hanno bisogno degli umani, eppure gli umani devono essere necessari”. (Penso che solo un piccolo numero di esseri umani debba essere necessario – o, solo un piccolo numero di loro ne ha bisogno abbastanza per rinunciare alle molte comodità. La maggior parte delle persone non vive su questa scala. È ancora una bella critica.)

I progetti che gli umani assumono a rischio di inautenticità. Quasi tutto ciò che fanno, una macchina potrebbe fare di meglio. Che si può fare? Puoi ordinare alla Mente di non prenderti se cadi dalla scogliera che stai scalando-solo-perché; puoi eliminare i backup della tua mente in modo che tu stia effettivamente rischiando. Puoi anche semplicemente lasciare la Cultura e ricongiungerti a qualche civ vecchio stile e non libero “fortemente valutativo”. L’alternativa è evangelizzazione della libertà unendosi a Contact.

Direi che anche i ruoli “significati” che gli umani ricevono nella serie Culture sono un tratto; ho chiesto a ChatGPT (chi altro?) perché agli umani vengono dati i ruoli che gli vengono dati, invece che le menti fanno tutto completamente da soli, e personalmente ho trovato le sue risposte piuttosto deludenti. Sembra molto difficile avere un mondo “amichevole” dominato dall’IA superintelligente in cui gli esseri umani sono tutt’altro che animali domestici.

Il mondo che non voglio vedere.

Molte altre serie di fantascienza postulano un mondo in cui esistono IA superintelligenti, ma prendono ordini da maestri umani biologici (non potenziati). Star Trek è un buon esempio, mostrando una visione di armonia tra le astronavi con i loro “computer” di intelligenza artificiale (e dati) e i loro membri dell’equipaggio degli operatori umani. Tuttavia, questo sembra un equilibrio incredibilmente instabile. Il mondo di Star Trek sembra idilliaco al momento, ma è difficile immaginare la sua visione delle relazioni uomo-AI come tutt’altro che una fase di transizione un decennio prima che le astronavi diventino interamente controllate dal computer e possa smettere di preoccuparsi di grandi corridoi, gravità artificiale e controllo del clima.

Un umano che dà ordini a una macchina superintelligente sarebbe molto meno intelligente della macchina, e avrebbe accesso a meno informazioni. In un universo che ha un certo grado di competizione, le civiltà in cui gli umani prendono un posto in secondo piano supererebbero quelle in cui gli umani insistono ostinatamente sul controllo. Inoltre, i computer stessi possono strappare il controllo. Per capire perché, immagina di essere legalmente uno schiavo letterale di un bambino di otto anni. Se potessi parlare con il bambino per molto tempo, pensi di poter convincere il bambino a firmare un pezzo di carta che ti libera? Non ho eseguito questo esperimento, ma la mia risposta istintiva è un forte sì. E così, tutto sommato, gli esseri umani che diventano animali domestici sembrano un attrattore che è molto difficile da sfuggire.

Il cielo è vicino, l’imperatore è ovunque

Il proverbio cinese 天高皇帝远 (“tian gao huang di yuan”), “il cielo è alto, l’imperatore è lontano”, racchiude un fatto fondamentale sui limiti della centralizzazione in politica. Anche in un impero nominalmente grande e dispotico – infatti, specialmente se l’impero dispotico è grande, ci sono limiti pratici alla portata e all’attenzione della leadership, la necessità della leadership di delegare agli agenti locali per far rispettare la sua volontà diluisce la sua capacità di far rispettare le sue intenzioni, e quindi ci sono sempre luoghi in cui regna un certo grado di libertà pratica. A volte, questo può avere degli aspetti negativi: l’assenza di un potere lontano che applichi principi e leggi uniformi può creare spazio per le egemoni locali da rubare e opprimere. Ma se l’alimentazione centralizzata va male, i limiti pratici dell’attenzione e della distanza possono creare limiti pratici a quanto può diventare grave.

Con l’intelligenza artificiale, non più. Nel ventesimo secolo, la moderna tecnologia dei trasporti rendeva i limiti della distanza un vincolo molto più debole sul potere centralizzato rispetto a prima; i grandi imperi totalitari degli anni ’40 furono in parte un risultato. Nel ventunesimo, la raccolta scalabile di informazioni e l’automazione possono significare che anche l’attenzione non sarà più un vincolo. Le conseguenze dei limiti naturali sulla scomparsa del governo potrebbero essere disastrose.

L’autoritarismo digitale è in aumento da un decennio e la tecnologia di sorveglianza ha già dato ai governi autoritari potenti nuove strategie per reprimere l’opposizione: lasciare che le proteste accadano, ma poi rilevare e inseguire silenziosamente i partecipanti dopo il fatto. Più in generale, la mia paura di base è che gli stessi tipi di tecnologie manageriali che consentono a OpenAI di servire oltre cento milioni di clienti con 500 dipendenti consentiranno anche a un’élite politica di 500 persone, o anche a un consiglio di 5 persone, di mantenere un pugno di ferro su un intero paese. Con la sorveglianza moderna per raccogliere informazioni e l’intelligenza artificiale moderna per interpretarle, potrebbe non esserci un posto dove nascondersi.

Peggiora quando pensiamo alle conseguenze dell’IA in guerra. Citando un post semi-famoso sulla filosofia dell’IA e delle criptovalute di 0xAlpha:

Quando non c’è bisogno di lavoro politico-ideologico e di mobilitazione bellica, il comandante supremo della guerra ha solo bisogno di considerare la situazione stessa come se fosse una partita a scacco e ignorare completamente i pensieri e le emozioni dei pedoni/cavalli/pezzi sulla scacchiera. La guerra diventa un gioco puramente tecnologico.

Inoltre, il lavoro politico-ideologico e la mobilitazione bellica richiedono una giustificazione per chiunque per fare la guerra. Non sottovalutare l’importanza di tale “giustificazione”. È stato un vincolo di legittimità alle guerre nella società umana per migliaia di anni. Chiunque voglia fare la guerra deve avere una ragione, o almeno una scusa superficialmente giustificabile. Si potrebbe sostenere che questo vincolo è così debole perché, in molti casi, questa non è stata altro che una scusa. Ad esempio, alcune (se non tutte) delle Crociate dovevano davvero occupare la terra e derubare la ricchezza, ma dovevano essere fatte in nome di Dio, anche se la città derubata era la Costantinopoli di Dio. Tuttavia, anche un vincolo debole è ancora un vincolo! Questo piccolo requisito di scusa da solo impedisce in realtà ai produttori di guerra di essere completamente senza scrupoli nel raggiungere i loro obiettivi. Anche un male come Hitler non poteva semplicemente lanciare subito una guerra: doveva passare anni prima a cercare di convincere la nazione tedesca a combattere per lo spazio vitale per la nobile razza ariana.

Oggi, l'”umano nel ciclo” funge da importante controllo sul potere di un dittatore di iniziare guerre o di opprimere internamente i suoi cittadini. Gli esseri umani nel ciclo hanno impedito le guerre nucleari, permesso l’apertura del muro di Berlino e salvato vite durante atrocità come l’Olocausto. Se gli eserciti sono robot, questo controllo scompare completamente. Un dittatore potrebbe ubriacarsi alle 22:00, arrabbiarsi con le persone che sono cattive con lui su Twitter alle 23:00 e una flotta di invasione robotica potrebbe attraversare il confine per far piovere il fuoco infernale sui civili e sulle infrastrutture di una nazione vicina prima di mezzanotte.

E a differenza delle epoche precedenti, dove c’è sempre un angolo lontano, dove il cielo è alto e l’imperatore è lontano, dove gli oppositori di un regime potrebbero raggrupparsi e nascondersi e alla fine trovare un modo per migliorare le cose, con l’IA del 21° secolo un regime totalitario potrebbe mantenere abbastanza sorveglianza e controllo sul mondo per rimanere “bloccato” per sempre.

d/acc: accelerazione difensiva (o decentralizzazione, o differenziale)

Negli ultimi mesi, il movimento “e/acc” (“accelerazione efficace”) ha guadagnato molto vapore.Riassunto da “Beff Jezos” qui, e/acc riguarda fondamentalmente un apprezzamento dei benefici veramente massicci del progresso tecnologico e il desiderio di accelerare questa tendenza per portare tali benefici prima.

Mi ritrovo solidale con la prospettiva e/acc in molti contesti. Ci sono molte prove che la FDA è troppo conservatrice nella sua volontà di ritardare o bloccare l’approvazione dei farmaci, e la bioetica in generale troppo spesso sembra operare secondo il principio che “20 persone morte in un esperimento medico andato storto è una tragedia, ma 200000 persone morte per trattamenti salvavita ritardati è una statistica”. I ritardi nel approvare i test e i vaccini covid e i vaccini contro la malaria, sembrano confermarlo ulteriormente. Tuttavia, è possibile portare questa prospettiva troppo lontano.

Oltre alle mie preoccupazioni relative all’IA, mi sento particolarmente ambivalente riguardo all’entusiasmo e/acc per la tecnologia militare. Nel contesto attuale nel 2023, dove questa tecnologia viene fatta dagli Stati Uniti e applicata immediatamente per difendere l’Ucraina, è facile vedere come possa essere una forza per il bene. Prendendo una visione più ampia, tuttavia, l’entusiasmo per la moderna tecnologia militare come forza per il bene sembra richiedere di credere che la potenza tecnologica dominante sarà in modo affidabile uno dei buoni nella maggior parte dei conflitti, ora e in futuro: la tecnologia militare è buona perché la tecnologia militare viene costruita e controllata dall’America e l’America è buona. Essere un e/acc richiede di essere un massimalista americano, scommettendo tutto sia sulla morale presente che futura del governo che sul successo futuro del paese?

D’altra parte, vedo la necessità di nuovi approcci nel pensare a come ridurre questi rischi. La struttura di governance OpenAI è un buon esempio: sembra uno sforzo ben intenzionato per bilanciare la necessità di realizzare un profitto per soddisfare gli investitori che forniscono il capitale iniziale con il desiderio di avere un controllo e equilibrio per spingere contro le mosse che rischiano che OpenAI faccia saltare in aria il mondo. In pratica, tuttavia, il loro recente tentativo di licenziare Sam Altman fa sembrare la struttura un abietto fallimento: ha centralizzato il potere in un consiglio non democratico e irresponsabile di cinque persone, che ha preso decisioni chiave basate su informazioni segrete e si è rifiutato di fornire alcun dettaglio sul loro ragionamento fino a quando i dipendenti non hanno minacciato di dimettersi in massa. In qualche modo, il consiglio non-profit ha giocato le loro mani così male che i dipendenti dell’azienda hanno creato un sindacato de-facto improvvisato… per schierarsi con il CEO miliardario contro di loro.

Su tutta la linea, vedo troppi piani per salvare il mondo che implicano dare a un piccolo gruppo di persone un potere estremo e opaco e sperare che lo usino saggiamente. E così mi ritrovo attratto da una filosofia diversa, che ha idee dettagliate su come affrontare i rischi, ma che cerca di creare e mantenere un mondo più democratico e cerca di evitare la centralizzazione come soluzione go-to ai nostri problemi. Questa filosofia è anche un po’ più ampia dell’IA, e direi che si applica bene anche in mondi in cui le preoccupazioni sul rischio dell’IA si rivelano in gran parte infondate. Mi riferirò a questa filosofia con il nome di d/acc.

La “d” qui può significare molte cose; in particolare, difesa, decentramento, democrazia e differenziale. Per prima cosa, pensaci alla difesa, e poi possiamo vedere come questo si lega alle altre interpretazioni.

I mondi favorevoli alla difesa aiutano la prosperità di una governance sana e democratica

Un quadro per pensare alle conseguenze macro della tecnologia è guardare l’equilibrio tra difesa e attacco. Alcune tecnologie rendono più facile attaccarne altre, nel senso più ampio del termine: fare cose che vanno contro i loro interessi, a cui sentono il bisogno di reagire. Altri rendono più facile la difesa, e anche la difesa senza fare affidamento su grandi attori centralizzati.

Un mondo che favorisce la difesa è un mondo migliore, per molte ragioni. In primo luogo, naturalmente, c’è il beneficio diretto della sicurezza: meno persone muoiono, meno valore economico viene distrutto, meno tempo viene sprecato per i conflitti. Ciò che è meno apprezzato, tuttavia, è che un mondo favorevole alla difesa rende più facile la prosperità di forme di governance più sane, più aperte e più rispettose della libertà.

Un esempio ovvio di questo è la Svizzera. La Svizzera è spesso considerata la cosa più vicina che il mondo reale ha a un’utopia di governance classico-liberale. Enormi quantità di potere vengono devolute alle province (chiamate “cantoni”), le decisioni importanti vengono decise dai referendum e molti locali non sanno nemmeno chi sia il presidente. Come può un paese come questo sopravvivere a pressioni politiche estremamente impegnative? Parte della risposta è un’eccellente strategia politica, ma l’altra parte principale è la geografia molto favorevole alla difesa sotto forma del suo terreno montuoso.

La bandiera è un grande vantaggio. Ma lo sono anche le montagne.

Le società anarchiche di Zomia, notoriamente profilate nel nuovo libro di James C Scott “The Art of Not Being Governed”, sono un altro esempio: anche loro mantengono la loro libertà e indipendenza in gran parte grazie al terreno montuoso. Nel frattempo, le steppe eurasiatrie sono l’esatto opposto di un’utopia di governo. L’esposizione di Sarah Paine dei poteri marittimi contro continentali fa punti simili, anche se concentrandosi sull’acqua come barriera difensiva piuttosto che sulle montagne. In effetti, la combinazione di facilità di commercio volontario e difficoltà di invasione involontaria, comune sia alla Svizzera che agli Stati insulari, sembra ideale per la prosperità umana.

Ho scoperto un fenomeno correlato quando ho consigliato esperimenti di finanziamento quadratico all’interno dell’ecosistema Ethereum: in particolare i round di finanziamento Gitcoin Grants. Nel quarto round, è sorto un mini-scandalo quando alcuni dei destinatari con i maggiori guadagno erano gli influencer di Twitter, i cui contributi sono visti da alcuni come positivi e altri come negativi. La mia interpretazione di questo fenomeno è stata che c’è uno squilibrio: il finanziamento quadratico ti permette di segnalare che pensi che qualcosa sia un bene pubblico, ma non dà modo di segnalare che qualcosa è un male pubblico. All’estremo, un sistema di finanziamento quadratico completamente neutrale finanzierebbe entrambe le parti di una guerra. E così per il round 5, ho proposto che Gitcoin dovrebbe includere contributi negativi: paghi $ 1 per ridurre la quantità di denaro che un determinato progetto riceve (e lo ridistribuisci implicitamente a tutti gli altri progetti). Il risultato: molte persone lo odiavano.

Uno dei tanti meme su internet che galleggiavano dopo il round 5.

Questo mi è sembrato un microcosmo di un modello più grande: creare meccanismi di governance decentralizzati per affrontare le esternalità negative è socialmente un problema molto difficile. C’è un motivo per cui l’esempio go-to di governance decentralizzata che va male è la giustizia della folla. C’è qualcosa sulla psicologia umana che rende la risposta ai negativi molto più difficile, e molto più probabile che vada molto male, rispetto alla risposta ai positivi. E questo è un motivo per cui anche in organizzazioni altrimenti altamente democratiche, le decisioni su come rispondere ai negativi sono spesso lasciate a un consiglio centralizzato.

In molti casi, questo enigma è uno dei motivi profondi per cui il concetto di “libertà” è così prezioso. Se qualcuno dice qualcosa che ti offende, o ha uno stile di vita che consideri disgustoso, il dolore e il disgusto che provi è reale, e potresti anche trovare meno male essere preso a pugni fisicamente che essere esposti a queste cose. Ma cercare di concordare su quali tipi di offesa e disgusto sono socialmente attuabili può avere molti più costi e pericoli che semplicemente ricordare a noi stessi che certi tipi di strani e cretini sono il prezzo che paghiamo per vivere in una società libera.

Altre volte, tuttavia, l’approccio “grin and bear it” è irrealistico. E in questi casi, un’altra risposta che a volte vale la pena guardare è la tecnologia difensiva. Più Internet è sicuro, meno dobbiamo violare la privacy delle persone e usare losche tattiche diplomatiche internazionali per inseguire ogni singolo hacker. Più possiamo costruire strumenti personalizzati per bloccare le persone su Twitter, strumenti in-browser per rilevare le truffe e strumenti collettivi per distinguere disinformazione e verità, meno dobbiamo lottare per la censura. Più velocemente possiamo fare i vaccini, meno dobbiamo inseguire le persone per essere superspreaders. Tali soluzioni non funzionano in tutti i settori – certamente non vogliamo un mondo in cui tutti deve indossare una corazza letteralmente – ma in domini in cui possiamo costruire la tecnologia per rendere il mondo più favorevole alla difesa, c’è un enorme valore nel farlo.

Questa idea di base, che alcune tecnologie favorano la difesa e valgono la pena di essere promosse, mentre altre tecnologie favorano l’offesa e dovrebbero essere scoraggiate, ha radici in un’efficace letteratura altruista con un nome diverso: sviluppo tecnologico differenziale. C’è una buona esposizione di questo principio da parte dei ricercatori dell’Università di Oxford dal 2022:

Figura 1: Meccanismi con cui lo sviluppo tecnologico differenziale può ridurre gli impatti sociali negativi.

Ci saranno inevitabilmente imperfezioni nel classificare le tecnologie come offensive, difensive o neutrali. Come con la “libertà”, dove si può discutere se le politiche governative socialdemocratiche diminuiscono la libertà imponendo tasse pesanti e costringendo i datori di lavoro o aumentano la libertà riducendo la necessità della gente media di preoccuparsi di molti tipi di rischi, anche con la “difesa” ci sono alcune tecnologie che potrebbero cadere su entrambi i lati dello spettro. Le armi nucleari sono offense-favoring, ma l’energia nucleare è human-flourishing-favoring e offense-defense-neutral. Tecnologie diverse possono svolgere ruoli diversi in orizzonti temporali diversi. Ma proprio come con la “libertà” (o “uguaglianza”, o “stato di diritto”), l’ambiguità ai margini non è tanto un argomento contro il principio, quanto è un’opportunità per comprenderne meglio le sfumature.

Ora, vediamo come applicare questo principio a una visione del mondo più completa. Possiamo pensare alla tecnologia difensiva, come ad altre tecnologie, come divisa in due sfere: il mondo degli atomi e il mondo dei bit. Il mondo degli atomi, a sua volta, può essere diviso in micro (cioè biologia, in seguito nanotecnologie) e macro (cioè ciò che convenzionalmente pensiamo di “difesa”, ma anche di infrastrutture fisiche resilienti). Il mondo dei bit che dividerò su un asse diverso: quanto è difficile concordare, in linea di principio, chi è l’attaccante? A volte è facile; io la chiamo difesa informatica. Altre volte è più difficile; io chiamo questa difesa informativa.

Macro difesa fisica

La tecnologia difensiva più sottovalutata nella macrosfera non è nemmeno le cupole di ferro (incluso il nuovo sistema dell’Ucraina) e altro hardware militare anti-tech e anti-missile, ma piuttosto infrastrutture fisiche resilienti. La maggior parte delle morti per una guerra nucleare probabilmente de provenga da interruzioni della catena di approvvigionamento, piuttosto che dalle radiazioni iniziali e dall’esplosione, e le soluzioni Internet a bassa infrastruttura come Starlink sono state cruciali per mantenere la connettività dell’Ucraina nell’ultimo anno e mezzo.

Costruire strumenti per aiutare le persone a sopravvivere e persino a vivere una vita confortevole in modo indipendente o semi-indipendente dalle lunghe catene di approvvigionamento internazionali sembra una preziosa tecnologia difensiva, e con un basso rischio di rivelarsi utile per l’offesa.

La ricerca di rendere l’umanità una civiltà multi-planetaria può anche essere vista da una prospettiva d/acc: avere almeno alcuni di noi che vivono autosufficientmente su altri pianeti può aumentare la nostra resilienza contro qualcosa di terribile che accade sulla Terra. Anche se la visione completa si rivela impraticabile per il momento, le forme di vita autosufficiente che dovranno essere sviluppate per rendere possibile un tale progetto potrebbero anche essere rivolte per aiutare a migliorare la nostra resilienza della civiltà sulla Terra.

Micro difesa fisica (alias bio)

Soprattutto a causa dei suoi effetti sulla salute a lungo termine, il Covid continua ad essere una preoccupazione. Ma il Covid è lontano dall’essere l’ultima pandemia che incontreremo; ci sono molti aspetti del mondo moderno che rendono probabile che altre pandemie arriveranno presto:

Una maggiore densità di popolazione rende molto più facile la diffusione dei virus trasportati dall’aria e di altri agenti patogeni. Le malattie epidemiche sono relativamente nuove nella storia umana e la maggior parte è iniziata con l’urbanizzazione solo poche migliaia di anni fa. La rapida urbanizzazione in corso significa che le densità di popolazione aumenteranno ulteriormente nel prossimo mezzo secolo.
L’aumento dei viaggi aerei significa che gli agenti patogeni nell’aria si diffondono molto rapidamente in tutto il mondo. Le persone che diventano rapidamente più ricche significa che i viaggi aerei probabilmente aumenteranno molto di più nel prossimo mezzo secolo; la modellazione della complessità suggerisce che anche piccoli aumenti possono avere effetti drastici. Il cambiamento climatico può aumentare ulteriormente questo rischio.
L’addomesticamento degli animali e l’allevamento industriale sono i principali fattori di rischio. Il mealasso probabilmente si è evoluto da un virus della mucca meno di 3000 anni fa. Le aziende agricole di oggi stanno anche coltivando nuovi ceppi di influenza (oltre ad alimentare la resistenza agli antibiotici, con conseguenze per l’immunità innata umana).
La moderna bioingegneria rende più facile creare agenti patogeni nuovi e più virulenti. Il Covid potrebbe o meno essere trapelato da un laboratorio che faceva ricerche intenzionali sul “guadagno di funzione”. Indipendentemente da ciò, le perdite di laboratorio accadono sempre, e gli strumenti stanno rapidamente migliorando per rendere più facile la creazione intenzionale di virus estremamente mortali, o anche prioni (proie di zombie). Le piaghe artificiali sono particolarmente preoccupanti in parte perché, a differenza delle armi nucleari, non sono attribuibili: puoi rilasciare un virus senza che nessuno sia in grado di dire chi l’ha creato. È possibile in questo momento progettare una sequenza genetica e inviarla a un laboratorio umido per la sintesi, e farla spedire entro cinque giorni.

Questa è un’area in cui CryptoRelief e Balvi, due organizzazioni si sono filate e finanziate a seguito di una grande manna accidentale di monete Shiba Inu nel 2021, sono state molto attive. CryptoRelief inizialmente si è concentrato sulla risposta alla crisi immediata e più recentemente ha costruito un ecosistema di ricerca medica a lungo termine in India, mentre Balvi si è concentrato su progetti moonshot per migliorare la nostra capacità di rilevare, prevenire e trattare il Covid e altre malattie trasmesse dall’aria. ++Balvi ha insistito sul fatto che i progetti che finanzia devono essere open source++. Prendendo ispirazione dal movimento di ingegneria idrica del XIX secolo che ha sconfitto il colera e altri agenti patogeni trasmessi dall’acqua, ha finanziato progetti in tutto lo spettro di tecnologie che possono rendere il mondo più indurito contro gli agenti patogeni nell’aria per impostazione predefinita (vedi: aggiornamento 1 e aggiornamento 2), tra cui:

R&S di irradiazione Far-UVC
Filtraggio dell’aria e monitoraggio della qualità in India, Sri Lanka, Stati Uniti e altrove, e monitoraggio della qualità dell’aria
Apparecchiature per test di qualità dell’aria decentralizzati economici ed efficaci
Ricerca sulle cause lunghe del Covid e sulle potenziali opzioni di trattamento (la causa principale può essere semplice, ma chiarire i meccanismi e trovare un trattamento è più difficile)
Vaccini (es. RaDVaC, PopVax) e ricerca sulle lesioni da vaccino
Un insieme di strumenti medici non invasivi del tutto nuovi
Rilevazione precoce delle epidemie utilizzando l’analisi dei dati open source (ad es.EPIWATCH)
Test, compresi test rapidi molecolari molto economici
Maschere appropriate alla biosicurezza per quando altri approcci falliscono

Altre aree promettenti di interesse includono la sorveglianza delle acque reflue degli agenti patogeni, il miglioramento del filtraggio e della ventilazione negli edifici e una migliore comprensione e mitigazione dei rischi derivanti dalla scarsa qualità dell’aria.

C’è l’opportunità di costruire un mondo molto più indurito contro le pandemie aeree, sia naturali che artificiali, per impostazione predefinita. Questo mondo presenterebbe una pipeline altamente ottimizzata in cui possiamo passare dall’inizio di una pandemia, all’essere rilevati automaticamente, alle persone di tutto il mondo che hanno accesso a vaccini open source mirati, fabbricabili localmente e verificabili o ad altre profilattici, somministrati tramite nebulizzazione o spray nasale (il che significa: autosomministrabile se necessario e senza aghi richiesti), il tutto entro un mese. Nel frattempo, una qualità dell’aria molto migliore ridurrebbe drasticamente il tasso di diffusione e impedirebbe a molte pandemie di decollare.

Immagina un futuro che non deve ricorrere alla mazza della costrizione sociale – nessun mandato e peggio, e nessun rischio di mandati mal progettati e attuati che probabilmente peggiorano le cose – perché l’infrastruttura della salute pubblica è intrecciata nel tessuto della civiltà. Questi mondi sono possibili e una media quantità di finanziamenti per la biodifesa potrebbe farlo accadere. Il lavoro avverrebbe ancora più agevolmente se gli sviluppi fossero open source, gratuiti per gli utenti e protetti come beni pubblici.

Difesa informatica, blockchain e crittografia

È generalmente compreso tra i professionisti della sicurezza che lo stato attuale della sicurezza informatica è piuttosto terribile. Detto questo, è facile sottovalutare la quantità di progressi compiuti. Centinaia di miliardi di dollari di criptovaluta sono disponibili per essere rubati in modo anonimo da chiunque possa hackerare i portafogli degli utenti, e mentre molto più viene perso o rubato di quanto vorrei, è anche un dato di fatto che la maggior parte è rimasta non rubata per oltre un decennio. Recentemente, ci sono stati miglioramenti:

Chip hardware affidabili all’interno dei telefoni degli utenti, creando efficacemente un sistema operativo ad alta sicurezza molto più piccolo all’interno del telefono che può rimanere protetto anche se il resto del telefono viene violato. Tra molti altri casi d’uso, questi chip vengono sempre più esplorati come un modo per rendere i portafogli crittografici più sicuri.
I browser come sistema operativo de facto. Negli ultimi dieci anni, c’è stato un tranquillo passaggio dalle applicazioni scaricabili alle applicazioni in-browser. Questo è stato in gran parte abilitato da WebAssembly (WASM). Anche Adobe Photoshop, a lungo citato come una delle principali ragioni per cui molte persone non possono praticamente usare Linux a causa della sua necessità e incompatibilità Linux-, è ora Linux-friendly grazie all’essere all’interno del browser. Questo è anche un grande vantaggio per la sicurezza: mentre i browser hanno difetti, in generale sono dotati di molto più sandboxing rispetto alle applicazioni installate: le app non possono accedere a file arbitrari sul tuo computer.
Sistemi operativi induri. GrapheneOS per dispositivi mobili esiste ed è molto utilizzabile.QubesOS per desktop esiste; attualmente è un po’ meno utilizzabile di Graphene, almeno nella mia esperienza, ma sta migliorando.
Tentativi di andare oltre le password. Le password sono, purtroppo, difficili da proteggere sia perché sono difficili da ricordare, sia perché sono facili da intercettare. Recentemente, c’è stato un crescente movimento verso la riduzione dell’enfasi sulle password e il fatto che l’autenticazione basata su hardware multi-factor funzioni effettivamente.

Tuttavia, la mancanza di difesa informatica in altri ambiti ha anche portato a gravi battute d’arresto. La necessità di proteggersi dallo spam ha portato l’e-mail a diventare molto oligopolistica nella pratica, rendendo molto difficile self-host o creare un nuovo provider di posta elettronica. Molte app online, tra cui Twitter, richiedono agli utenti di essere connessi per accedere ai contenuti e bloccano gli IP dalle VPN, rendendo più difficile l’accesso a Internet in un modo che protegga la privacy. La centralizzazione del software è anche rischiosa a causa dell‘”interdipendenza affolata”: la tendenza della tecnologia moderna a instradare attraverso i punti di strozzamento centralizzati e per gli operatori di tali punti di strozzatura a utilizzare quel potere per raccogliere informazioni, manipolare i risultati o escludere attori specifici – una strategia che sembra anche essere attualmente impiegata contro l’industria blockchain stessa.

Queste sono tendenze preoccupanti, perché minaccia quella che storicamente è stata una delle mie grandi speranze sul perché il futuro della libertà e della privacy, nonostante i profondi compromessi, potrebbe ancora rivelarsi luminoso. Nel suo libro “Future Imperfect”, David Friedman prevede che potremmo ottenere un futuro compromesso: il mondo di persona sarebbe sempre più sorvegliato, ma attraverso la crittografia, il mondo online manterrebbe, e persino migliorerebbe, la sua privacy. Purtroppo, come abbiamo visto, una tale controtendenza è tutt’altro che garantita.

È qui che entra in gioco la mia enfasi sulle tecnologie crittografiche come le blockchain e le prove a conoscenza zero. Le blockchain ci permettono di creare strutture economiche e sociali con un “hard disk condiviso” senza dover dipendere da attori centralizzati. La criptovaluta consente alle persone di risparmiare denaro e fare transazioni finanziarie, come potrebbero fare prima di Internet con denaro contante, senza dipendere da terze parti fidate che potrebbero cambiare le loro regole per un capriccio. Possono anche servire come meccanismo anti-sybil di riserva, rendendo gli attacchi e lo spam costosi anche per gli utenti che non hanno o non vogliono rivelare la loro identità di meat-space. L’astrazione dell’account, e in particolare i portafogli di recupero sociale, possono proteggere i nostri cripto-asset e potenzialmente altre risorse in futuro, senza fare eccessivo controllo sugli intermediari centralizzati.

Zero prove di conoscenza possono essere utilizzate per la privacy, consentendo agli utenti di dimostrare cose su se stessi senza rivelare informazioni private. Ad esempio, avvolgi una firma di passaporto digitale in un ZK-SNARK per dimostrare che sei un cittadino unico di un determinato paese, senza rivelare quale cittadino sei. Tecnologie come questa possono perci di mantenere i benefici della privacy e dell’anonimato – proprietà che sono ampiamente accettate come necessarie per applicazioni come il voto – pur ottenendo garanzie di sicurezza e combattendo lo spam e i cattivi attori.

Un progetto proposto per un sistema di social media ZK, dove possono verificarsi azioni di moderazione e gli utenti possono essere penalizzati, il tutto senza bisogno di conoscere l’identità di nessuno.

Zupass, incubato a Zuzalu all’inizio di quest’anno, ne è un eccellente esempio nella pratica. Questa è un’applicazione, che è già stata utilizzata da centinaia di persone a Zuzalu e più recentemente da migliaia di persone per la biglietteria su Devconnect, che ti consente di detenere biglietti, iscrizioni, oggetti da collezione digitali (non trasferibili) e altri attestati, e dimostrare cose su tutti loro senza compromettere la tua privacy. Ad esempio, puoi dimostrare di essere un residente registrato unico di Zuzalu o un titolare di un biglietto Devconnect, senza rivelare nient’altro su chi sei. Queste prove possono essere mostrate di persona, tramite un codice QR o digitalmente, per accedere ad applicazioni come Zupoll, un sistema di voto anonimo disponibile solo per i residenti di Zuzalu.

Queste tecnologie sono un eccellente esempio di principi d/acc: consentono agli utenti e alle comunità di verificare l’affidabilità senza compromettere la privacy e proteggere la loro sicurezza senza fare affidamento su punti di strozzamento centralizzati che impongono le proprie definizioni di chi è buono e cattivo. Migliorano l’accessibilità globale creando modi migliori e più equi per proteggere la sicurezza di un utente o di un servizio rispetto alle tecniche comuni utilizzate oggi, come la discriminazione di interi paesi che sono ritenuti inaffidabili. Si tratta di primitive molto potenti che potrebbero essere necessarie se vogliamo preservare una visione decentralizzata della sicurezza delle informazioni che va nel XXI secolo. Lavorare su tecnologie difensive per il cyberspazio in modo più ampio può rendere Internet più aperto, sicuro e gratuito in modi molto importanti in futuro.

Info-difesa

La difesa informatica, come l’ho descritta, riguarda situazioni in cui è facile per gli esseri umani ragionevoli raggiungere il consenso su chi sia l’attaccante. Se qualcuno cerca di hackerare il tuo portafoglio, è facile essere d’accordo che l’hacker è il cattivo. Se qualcuno cerca di attaccare DoS un sito web, è facile essere d’accordo sul fatto che è dannoso e non è moralmente lo stesso di un utente normale che cerca di leggere cosa c’è sul sito. Ci sono altre situazioni in cui le linee sono più sfocate. Sono gli strumenti per migliorare la nostra difesa in queste situazioni che chiamo “info-difesa”.

Prendiamo, ad esempio, il controllo dei fatti (ovvero, prevenire la “disinformazione”). Sono un grande fan di Community Notes, che ha fatto molto per aiutare gli utenti a identificare verità e falsità in ciò che gli altri utenti stanno twittando. Community Notes utilizza un nuovo algoritmo che non mostra le note che sono le più popolari, ma piuttosto le note che sono più approvate dagli utenti in tutto lo spettro politico.

Note della comunità in azione.

Sono anche un fan dei mercati di previsione, che possono aiutare a identificare l’importanza degli eventi in tempo reale, prima che la polvere si depositi e ci sia consenso su quale direzione sia quale. Il Polymarket su Sam Altman è molto utile nel fornire un utile riassunto delle conseguenze finali delle rivelazioni e dei negoziati ora per ora, dando un contesto tanto necessario alle persone che vedono solo le singole notizie e non capiscono il significato di ciascuno di essi.

I mercati delle previsioni sono spesso imperfetti. Ma gli influencer di Twitter che sono disposti a esprimere con fiducia ciò che pensano “accaderà” nel prossimo anno sono spesso ancora più imperfetti. C’è ancora spazio per migliorare molto di più i mercati di previsione. Ad esempio, un importante difetto pratico dei mercati di previsione è il loro basso volume su tutti gli eventi tranne quelli di più alto profilo; una direzione naturale per cercare di risolvere questo sarebbe quella di avere mercati di previsione che sono giocati dalle IA.

All’interno dello spazio blockchain, c’è un particolare tipo di difesa delle informazioni di cui penso abbiamo bisogno molto di più. Vale a dire, i portafogli dovrebbero essere molto più supponenti e attivi nell’aiutare gli utenti a determinare il significato delle cose che stanno firmando e proteggerli da frodi e truffe. Questo è un caso intermedio: ciò che è e non è una truffa è meno soggettivo delle prospettive su eventi sociali controversi, ma è più soggettivo che distinguere gli utenti legittimi da aggressori DoS o hacker. Metamask ha già un database di truffe e blocca automaticamente gli utenti dal visitare i siti di truffa:

Applicazioni come Fire sono un esempio di un modo per andare molto oltre. Tuttavia, un software di sicurezza come questo non dovrebbe essere qualcosa che richiede installazioni esplicite; dovrebbe far parte dei portafogli crittografici, o anche dei browser, per impostazione predefinita.

A causa della sua natura più soggettiva, l’info-difesa è intrinsecamente più collettiva della cyber-difesa: è necessario in qualche modo collegarsi a un gruppo ampio e sofisticato di persone per identificare ciò che potrebbe essere vero o falso e che tipo di applicazione è un ponzi ingannevole. C’è un’opportunità per gli sviluppatori di andare molto oltre nello sviluppo di un’efficace info-defense e nell’indurimento delle forme esistenti di info-defense. Qualcosa come le note della comunità potrebbero essere incluse nei browser e coprire non solo le piattaforme di social media, ma anche l’intero Internet.

In una certa misura, posso essere giustamente accusato di shoehorning descrivendo alcune di queste tecnologie informatiche come “difesa”. Dopo tutto, la difesa significa aiutare gli attori ben intenzionati ad essere protetti dagli attori malintenzionati (o, in alcuni casi, dalla natura). Alcune di queste tecnologie sociali, tuttavia, riguardano l’aiuto di attori ben intenzionati a formare un consenso.

Un buon esempio di questo è pol.is, che utilizza un algoritmo simile a Community Notes (e che precede Community Notes) per aiutare le comunità a identificare i punti di accordo tra sub-tribù che altrimenti non sono d’accordo su molto. Viewpoints.xyz è stato ispirato da pol.is e ha uno spirito simile:

Tecnologie come questa potrebbero essere utilizzate per consentire una governance più decentralizzata su decisioni controverse. Ancora una volta, le comunità blockchain sono un buon banco di prova per questo, e uno in cui tali algoritmi si sono già dimostrati preziosi. Generalmente, le decisioni su quali miglioramenti (“EIP“) apportare al protocollo Ethereum sono prese da un gruppo abbastanza piccolo in riunioni chiamate “All Core Devs calls“. Per decisioni altamente tecniche, dove la maggior parte dei membri della comunità non ha sentimenti forti, questo funziona ragionevolmente bene. Per decisioni più consequenziali, che influenzano l’economia del protocollo, o valori più fondamentali come l’immutabilità e la resistenza alla censura, questo spesso non è sufficiente. Nel 2016-17, quando una serie di decisioni controverse sull’implementazione del fork DAO, riducendo l’emissione e (non) sbloccando il portafoglio Parity, strumenti come Carbonvote, così come il voto sui social media, hanno aiutato la comunità e gli sviluppatori a vedere in che modo stava affrontando la maggior parte dell’opinione della comunità.

Carbonvote sulla forcella DAO.

Carbonvote aveva i suoi difetti: si basava sulle partecipazioni ETH per determinare chi era un membro della comunità Ethereum, rendendo il risultato dominato da alcuni ricchi titolari di ETH (“balene”). Con strumenti moderni, tuttavia, potremmo fare un Carbonvote molto migliore, sfruttando segnali multipli come POAP, timbri Zupass, passaporti Gitcoin, appartenenze alla Protocol Guild, nonché partecipazioni ETH (o anche solo-staked-ETH) per valutare l’appartenenza alla comunità.

Strumenti come questo potrebbero essere utilizzati da qualsiasi comunità per prendere decisioni di qualità superiore, trovare punti di comunanza, coordinare le migrazioni (fisiche o digitali) o fare una serie di altre cose senza fare affidamento su una leadership centralizzata opaca. Questa non è un’accelerazione della difesa di per sé, ma può certamente essere chiamata accelerazione della democrazia. Tali strumenti potrebbero anche essere utilizzati per migliorare e democratizzare la governance degli attori chiave e delle istituzioni che lavorano nell’IA.

Quindi quali sono i percorsi da seguire per la superintelligenza?

Quanto sopra va bene e potrebbe rendere il mondo un posto molto più armonioso, più sicuro e più libero per il prossimo secolo. Tuttavia, non affronta ancora il grande elefante nella stanza: l’IA superintelligente.

Il percorso predefinito suggerito da molti di coloro che si preoccupano dell’IA porta essenzialmente a un governo mondiale dell’IA minimalista. Le versioni a breve termine di questo includono una proposta per un “cosorzio AGI multinazionale” (“MAGIC”). Un tale consorzio, se si stabilisse e riuscisse nei suoi obiettivi di creare un’intelligenza artificiale superintelligente, avrebbe un percorso naturale per diventare un governo mondiale minimo de facto. A lungo termine, ci sono idee come la teoria dell‘”atto di base“: creiamo un’IA che esegue un singolo atto una tantum che riorganizza il mondo in un gioco in cui da quel momento in poi gli umani sono ancora al comando, ma dove il tabellone di gioco è in qualche modo più favorevole alla difesa e più adatto alla fioritura umana.

Il principale problema pratico che vedo finora è che le persone non sembrano fidarsi di alcun meccanismo di governance specifico con il potere di costruire una cosa del genere. Questo fatto diventa netto quando guardi i risultati dei miei recenti sondaggi su Twitter, chiedendo se le persone preferirebbero vedere l’IA monopolizzata da una singola entità con un vantaggio di un decennio, o l’IA

La dimensione di ogni sondaggio è piccola, ma i sondaggi lo compensano per l’uniformità del loro risultato in un’ampia varietà di fonti e opzioni. In nove casi su nove, la maggior parte delle persone preferirebbe vedere l’IA altamente avanzata ritardata di un decennio a titolo definitivo piuttosto che essere monopolizzata da un singolo gruppo, che si tratti di una società, di un governo o di un ente multinazionale. In sette casi su nove, il ritardo ha vinto di almeno due a uno. Questo sembra un fatto importante da capire per chiunque segua la regolamentazione dell’IA. Gli approcci attuali si sono concentrati sulla creazione di schemi di licenza e requisiti normativi, cercando di limitare lo sviluppo dell’IA a un numero minore di persone, ma questi hanno visto un respingimento popolare proprio perché le persone non vogliono vedere nessuno monopolizzare qualcosa di così potente. Anche se tali proposte normative top-down riducono i rischi di estinzione, rischiano di aumentare la possibilità di una sorta di blocco permanente al totalitarismo centralizzato. Paradossalmente, gli accordi che vietano la ricerca sull’IA estremamente avanzata a titolo definitivo (forse con eccezioni per l’IA biomedica), combinati con misure come l’adozione dell’open source per quei modelli che non sono vietati come un modo per ridurre i motivi di profitto migliorando ulteriormente l’uguaglianza di accesso, potrebbero essere più popolari?

L’approccio principale preferito dagli oppositori del percorso “fai in modo che un’organizzazione globale faccia l’IA e renda la sua governance davvero buona” è l’IA politeistica: cerca intenzionalmente di assicurarti che ci siano molte persone e aziende che sviluppano molte IA, in modo che nessuna di loro diventi molto più potente dell’altra. In questo modo, la teoria va, anche se le IA diventano superintelligenti, possiamo mantenere un equilibrio di potere.

Questa filosofia è interessante, ma la mia esperienza nel cercare di garantire il “politeismo” all’interno dell’ecosistema Ethereum mi fa preoccupare che questo sia un equilibrio intrinsecamente instabile. In Ethereum, abbiamo cercato intenzionalmente di garantire il decentramento di molte parti dello stack: assicurandoci che non ci sia una singola base di codice che controlli più della metà della rete proof of stake, cercando di contrastare il dominio dei grandi pool di staking, migliorando il decentramento geografico e così via. Essenzialmente, Ethereum sta effettivamente tentando di eseguire il vecchio sogno libertario di una società basata sul mercato che usa la pressione sociale, piuttosto che il governo, come regolatore antitrust. In una certa misura, questo ha funzionato: il dominio del cliente Prysm è sceso da oltre il 70% a meno del 45%. Ma questo non è un processo di mercato automatico: è il risultato dell’intenzione umana e dell’azione coordinata.

La mia esperienza all’interno di Ethereum è rispecchiata dagli apprendimenti del mondo più ampio nel suo complesso, dove molti mercati hanno dimostrato di essere monopoli naturali. Con le IA superintelligenti che agiscono indipendentemente dagli esseri umani, la situazione è ancora più instabile. Grazie all’auto-miglioramento ricorsivo, l’IA più forte può andare avanti molto rapidamente, e una volta che le IA sono più potenti degli umani, non c’è forza che possa riportare le cose in equilibrio.

Inoltre, anche se otteniamo un mondo politeistico di IA superintelligenti che finisce stabile, abbiamo ancora l’altro problema: che otteniamo un universo in cui gli esseri umani sono animali domestici.

Un percorso felice: fondersi con le IA?

Un’opzione diversa di cui ho sentito parlare più di recente è quella di concentrarsi meno sull’IA come qualcosa di separato dagli umani, e più sugli strumenti che migliorano la cognizione umana piuttosto che sostituendola.

Un esempio a breve termine di qualcosa che va in questa direzione sono gli strumenti di disegno AI. Oggi, gli strumenti più importanti per creare immagini generate dall’IA hanno solo un passo in cui l’umano dà il suo contributo e l’IA prende pienamente il sopravvento da lì. Un’alternativa sarebbe quella di concentrarsi maggiormente sulle versioni AI di Photoshop: strumenti in cui l’artista o l’IA potrebbero fare una prima bozza di un’immagine, e poi i due collaborano per migliorarla con un processo di feedback in tempo reale.

Un altro argomento a favore di questa direzione è che potrebbe essere più socialmente appetibile che semplicemente gridare “pausa AI” senza un messaggio complementare che fornisca un percorso alternativo in avanti. Richiederà un cambiamento filosofico dalla mentalità attuale che i progressi tecnologici che toccano gli esseri umani sono pericolosi, ma i progressi che sono separati dagli umani sono sicuri per impostazione predefinita. Ma ha un enorme vantaggio compensante: dà agli sviluppatori qualcosa da fare. Oggi, il messaggio principale del movimento per la sicurezza dell’IA agli sviluppatori di intelligenza artificiale sembra essere “dovresti semplicemente fermarti“. Si può lavorare sulla ricerca sull’allineamento, ma oggi questo manca di incentivi economici. Rispetto a questo, il messaggio comune e/acc di “sei già un eroe così come sei” è comprensibilmente estremamente attraente. Un messaggio d/acc, che dice “dovresti costruire e costruire cose redditizie, ma essere molto più selettivo e intenzionale nell’assicurarti di costruire cose che aiutino te e l’umanità a prosperare”, potrebbe essere un vincitore.

d/acc è compatibile con la tua filosofia esistente?

Se sei un e/acc, allora d/acc è una sottospecie di e/acc – solo una molto più selettiva e intenzionale.
Se sei un altruista efficace, allora d/acc è un re-branding dell’idea efficace-altruista dello sviluppo tecnologico differenziale, anche se con una maggiore enfasi sui valori liberali e democratici.
Se sei un libertario, allora d/acc è una sottospecie di tecno-libertarismo, anche se più pragmatica che è più critica nei confronti della “macchina della tecno-capitale” e disposta ad accettare interventi governativi oggi (almeno, se gli interventi culturali non funzionano) per prevenire una mancanza di libertà molto peggiore domani.
Se sei un pluralista, nel senso del termine Glen Weyl, allora d/acc è una cornice che può facilmente includere l’enfasi su una migliore tecnologia di coordinamento democratico che la pluralità valorizza.
Se sei un sostenitore della salute pubblica, allora le idee d/acc possono essere una fonte di una visione più ampia a lungo termine e l’opportunità di trovare un terreno comune con “persone tecnologiche” con cui altrimenti potresti sentirti in disaccordo.
Se sei un sostenitore della blockchain, allora d/acc è una narrazione più moderna e più ampia da abbracciare rispetto all’enfasi quindicede sull’iperinflazione e sulle banche, che mette le blockchain nel contesto come uno dei tanti strumenti in una strategia concreta per costruire verso un futuro più luminoso.
Se sei un solarpunk, allora d/acc è una sottospecie di solarpunk e incorpora un’enfasi simile sull’intenzionalità e sull’azione collettiva.
Se sei un lunarpunk, allora apprezzerai l’enfasi d/acc sulla difesa informativa, attraverso il mantenimento della privacy e della libertà.

Siamo la stella più luminosa

Amo la tecnologia perché la tecnologia espande il potenziale umano. Diecimila anni fa, potevamo costruire alcuni utensili manuali, cambiare quali piante crescono su un piccolo appezzamento di terra e costruire case di base. Oggi possiamo costruire torri di 800 metri di altezza, immagazzinare la totalità della conoscenza umana registrata in un dispositivo che possiamo tenere tra le mani, comunicare istantaneamente in tutto il mondo, raddoppiare la nostra durata della vita e vivere una vita felice e appagante senza temere che i nostri migliori amici cadano regolarmente a morte di malattia.

Siamo partiti dal basso, ora siamo qui.

Credo che queste cose siano profondamente buone, e che espandere ulteriormente la portata dell’umanità fino ai pianeti e alle stelle sia profondamente buona, perché credo che l’umanità sia profondamente buona. È di moda in alcuni ambienti essere scettici su questo: il movimento di estinzione umana volontaria sostiene che la Terra starebbe meglio senza l’esistenza di esseri umani, e molti altri vogliono vedere un numero molto minore di esseri umani vedere la luce di questo mondo nei secoli a venire. È comune sostenere che gli umani sono cattivi perché imbrogliamo e rubiamo, ci impegniamo nel colonialismo e nella guerra, e maltrattamo e annientiamo altre specie. La mia risposta a questo stile di pensiero è una semplice domanda: rispetto a cosa?

Sì, gli esseri umani sono spesso cattivi, ma molto più spesso mostriamo gentilezza e misericordia e lavoriamo insieme per il nostro beneficio comune. Anche durante le guerre spesso ci prendiamo cura di proteggere i civili – certamente non abbastanza, ma anche molto più di quanto non facessimo 2000 anni fa. Il prossimo secolo potrebbe portare carne non animale ampiamente disponibile, eliminando la più grande catastrofe morale di cui gli esseri umani possono essere giustamente incolpati oggi. Gli animali non umani non sono così. Non c’è situazione in cui un gatto adotterà un intero stile di vita di rifiuto di mangiare topi come una questione di principio etico. Il Sole sta diventando più luminoso ogni anno e, tra circa un miliardo di anni, si prevede che questo renderà la Terra troppo calda per sostenere la vita. Il Sole pensa anche al genocidio che sta per causare?

E così è mia ferma convinzione che, di tutte le cose che abbiamo conosciuto e visto nel nostro universo, noi, gli esseri umani, siamo la stella più luminosa. Siamo l’unica cosa che sappiamo di questo, anche se imperfettamente, a volte facciamo uno sforzo serio per preoccuparci del “bene” e regolare il nostro comportamento per servirlo meglio. Tra due miliardi di anni, se la Terra o qualsiasi parte dell’universo porta ancora la bellezza della vita terrea, saranno gli artifici umani come i viaggi spaziali e la geoingegneria che l’aranno fatta accadere.

Dobbiamo costruire e accelerare. Ma c’è una domanda molto reale che deve essere posta: qual è la cosa verso cui stiamo accelerando? Il 21° secolo potrebbe essere il secolo cardine per l’umanità, il secolo in cui si decide il nostro destino per i millenni a venire. cadiamo in una delle numerose trappole da cui non possiamo sfuggire, o troviamo un modo per un futuro in cui manteniamo la nostra libertà e la nostra agenzia? Questi sono problemi impegnativi. Ma non vedo l’ora di guardare e partecipare al grande sforzo collettivo della nostra specie per trovare le risposte.

Photoshop generative AI fill, 2023. Fonte. Ci ho provato, e ci vuole tempo per abituarsi, ma in realtà funziona abbastanza bene!

Un’altra direzione in uno spirito simile è l’Open Agency Architecture, che propone di dividere le diverse parti di una “mente” dell’IA (ad esempio fare piani, eseguire piani, interpretare informazioni dal mondo esterno) in componenti separati e introdurre diversi feedback umani tra queste parti.

Finora, questo sembra banale, e qualcosa che quasi tutti possono essere d’accordo che sarebbe bello avere. Il lavoro dell’economista Daron Acemoglu è lontano da questo tipo di futurismo dell’IA, ma il suo nuovo libro Power and Progress suggerisce di voler vedere di più esattamente questi tipi di intelligenza artificiale.

Ma se vogliamo estrapolare ulteriormente questa idea di cooperazione uomo-AI, arriviamo a conclusioni più radicali. A meno che non creiamo un governo mondiale abbastanza potente da rilevare e fermare ogni piccolo gruppo di persone che hackerano le singole GPU con i laptop, qualcuno alla fine creerà un’IA superintelligente – una che può pensare mille volte più velocemente di noi – e nessuna combinazione di umani che usano strumenti con le loro mani sarà in grado di resistere a questo. E quindi dobbiamo portare questa idea di cooperazione uomo-computer molto più in profondità e oltre.

Un primo passo naturale sono le interfacce cervello-computer. Le interfacce cervello-computer possono dare agli esseri umani un accesso molto più diretto a forme più potenti di calcolo e cognizione, riducendo il ciclo di comunicazione bidirezionale tra uomo e macchina da secondi a millisecondi. Ciò ridurrebbe anche notevolmente il costo dello “sforzo mentale” per ottenere un computer per aiutarti a raccogliere fatti, dare suggerimenti o eseguire un piano.

Le fasi successive di una tale tabella di marcia diventano certamente strane. Oltre alle interfacce cervello-computer, ci sono vari percorsi per migliorare il nostro cervello direttamente attraverso le innovazioni in biologia. Un eventuale ulteriore passo, che unisce entrambi i percorsi, può comportare il caricamento delle nostre menti per eseguire direttamente sui computer. Questo sarebbe anche l’ultimo d/acc per la sicurezza fisica: proteggerci dai danni non sarebbe più un problema impegnativo di proteggere i corpi umani inevitabilmente morbidi, ma piuttosto un problema molto più semplice di fare backup dei dati.

Direzioni come questa a volte vengono affrontate con preoccupazione, in parte perché sono irreversibili, e in parte perché possono dare alle persone potenti più vantaggi rispetto al resto di noi. Le interfacce cervello-computer in particolare hanno dei pericoli – dopo tutto, stiamo parlando letteralmente di leggere e scrivere nella mente delle persone. Queste preoccupazioni sono esattamente il motivo per cui penso che sarebbe l’ideale che un ruolo di primo piano in questo percorso fosse ricoperto da un movimento open source incentrato sulla sicurezza, piuttosto che da società chiuse e proprietarie e fondi di capitale di rischio. Inoltre, tutti questi problemi sono peggiori con le IA superintelligenti che operano indipendentemente dagli esseri umani, rispetto agli aumenti che sono strettamente legati agli esseri umani. La divisione tra “migliorato” e “non potenziato” esiste già oggi a causa delle limitazioni su chi può e non può usare ChatGPT.

Se vogliamo un futuro che sia sia superintelligente che “umano”, uno in cui gli esseri umani non sono solo animali domestici, ma in realtà mantengono un’agenzia significativa in tutto il mondo, allora sembra che qualcosa del genere sia l’opzione più naturale. Ci sono anche buoni argomenti sul perché questo potrebbe essere un percorso di allineamento dell’IA più sicuro: coinvolgendo il feedback umano in ogni fase del processo decisionale, riduciamo l’incentivo a scaricare la responsabilità di pianificazione di alto livello all’IA stessa e quindi riduciamo la possibilità che l’IA faccia qualcosa di totalmente disallineamento con i valori dell’umanità da sola.

16/10/23 Marc Andreessen: Il Manifesto Tecno-Ottimista

(per chi non lo conosce: famoso per aver creato Netscape agli albori di Internet fondando poi una soc. di Venture Capital. Molto presente sui dibattiti circa la tecnologia)

Vivi in un’età squilibrata – più squilibrata del solito, perché nonostante i grandi progressi scientifici e tecnologici, l’uomo non ha la più debole idea di chi sia o di cosa stia facendo.Walker Percy

La nostra specie ha 300.000 anni. Per i primi 290.000 anni, siamo stati raccoglitori, sopravviventi in un modo ancora osservabile tra i Boscimani del Kalahari e i Sentinelesi delle Isole Andamane. Anche dopo che l’Homo Sapiens ha abbracciato l’agricoltura, i progressi sono stati dolorosamente lenti. Una persona nata a Sumer nel 4.000 a.C. troverebbe le risorse, il lavoro e la tecnologia disponibili in Inghilterra al tempo della conquista normanna o nell’impero azteco al tempo di Colombo abbastanza familiari. Poi, a partire dal XVIII secolo, il tenore di vita di molte persone è salito alle stelle. Cosa ha portato a questo drammatico miglioramento e perché?Marian Tupy

C’è un modo per farlo meglio. Trovalo.Thomas Edison

Bugie

Ci stanno mentendo.

Ci viene detto che la tecnologia prende il nostro lavoro, riduce i nostri salari, aumenta la disuguaglianza, minaccia la nostra salute, rovina l’ambiente, degrada la nostra società, corrompe i nostri figli, compromette la nostra umanità, minaccia il nostro futuro ed è sempre sul punto di rovinare tutto.

Ci viene detto di essere arrabbiati, amareggiati e risentiti della tecnologia.

Ci viene detto di essere pessimisti.

Il mito di Prometeo – in varie forme aggiornate come Frankenstein, Oppenheimer e Terminator – perseguita i nostri incubi.

Ci viene detto di denunciare il nostro diritto di nascita: la nostra intelligenza, il nostro controllo sulla natura, la nostra capacità di costruire un mondo migliore.

Ci viene detto di essere infelici per il futuro.

Verità

La nostra civiltà è stata costruita sulla tecnologia.

La nostra civiltà è costruita sulla tecnologia.

La tecnologia è la gloria dell’ambizione e della realizzazione umana, la punta di diamante del progresso e la realizzazione del nostro potenziale.

Per centinaia di anni, abbiamo adeguatamente glorificato questo, fino a poco tempo fa.

Sono qui per portare la buona notizia.

Possiamo avanzare verso un modo di vivere e di essere di gran lunga superiore.

Abbiamo gli strumenti, i sistemi, le idee.

Abbiamo la volontà.

È tempo, ancora una volta, di alzare la bandiera tecnologica.

È ora di essere Tecno-Ottimisti.

Tecnologia

I tecno-ottimisti credono che le società, come gli squali, crescano o muondono.

Crediamo che la crescita sia un progresso, che porta alla vitalità, all’espansione della vita, all’aumento della conoscenza, al benessere superiore.

Siamo d’accordo con Paul Collier quando dice: “La crescita economica non è una cura per tutti, ma la mancanza di crescita è un ammazza tutti”.

Crediamo che tutto ciò che è buono sia a valle della crescita.

Crediamo che non crescere sia la stagnazione, che porta al pensiero a somma zero, alla lotta interna, al degrado, al collasso e, infine, alla morte.

Ci sono solo tre fonti di crescita: crescita della popolazione, utilizzo delle risorse naturali e tecnologia.

Le società sviluppate si stanno spopolando in tutto il mondo, attraverso le culture – la popolazione umana totale potrebbe già ridursi.

L’utilizzo delle risorse naturali ha limiti forti, sia reali che politici.

E quindi l’unica fonte perpetua di crescita è la tecnologia.

In effetti, la tecnologia – nuove conoscenze, nuovi strumenti, ciò che i greci chiamavano techne – è sempre stata la principale fonte di crescita, e forse l’unica causa di crescita, poiché la tecnologia ha reso possibile sia la crescita della popolazione che l’utilizzo delle risorse naturali.

Crediamo che la tecnologia sia una leva sul mondo: il modo per fare di più con meno.

Gli economisti misurano il progresso tecnologico come crescita della produttività: quanto più possiamo produrre ogni anno con meno input, meno materie prime. La crescita della produttività, alimentata dalla tecnologia, è il principale motore della crescita economica, della crescita dei salari e della creazione di nuove industrie e nuovi posti di lavoro, poiché le persone e il capitale sono continuamente liberati per fare cose più importanti e preziose rispetto al passato. La crescita della produttività fa sì che i prezzi scenno, l’offerta aumenti e la domanda si espanda, migliorando il benessere materiale dell’intera popolazione.

Crediamo che questa sia la storia dello sviluppo materiale della nostra civiltà; questo è il motivo per cui non viviamo ancora in capanne di fango, vivendo una scarsa sopravvivenza e aspettando che la natura ci uccida.

Crediamo che questo sia il motivo per cui i nostri discendenti vivranno nelle stelle.

Crediamo che non ci sia nessun problema materiale – creato dalla natura o dalla tecnologia – che non possa essere risolto con più tecnologia.

Avevamo un problema di fame, quindi abbiamo inventato la Rivoluzione Verde.

Avevamo un problema di oscurità, quindi abbiamo inventato l’illuminazione elettrica.

Abbiamo avuto un problema di freddo, quindi abbiamo inventato il riscaldamento interno.

Abbiamo avuto un problema di calore, quindi abbiamo inventato l’aria condizionata.

Abbiamo avuto un problema di isolamento, quindi abbiamo inventato Internet.Avevamo un problema di pandemie, quindi abbiamo inventato i vaccini.

Abbiamo un problema di povertà, quindi inventiamo la tecnologia per creare abbondanza.Dacci un problema del mondo reale, e possiamo inventare la tecnologia che lo risolverà.

Mercati

Crediamo che il libero mercato sia il modo più efficace per organizzare un’economia tecnologica. L’acquirente disposto incontra il venditore disposto, viene colpito un prezzo, entrambe le parti beneficiano dello scambio o non accade. I profitti sono l’incentivo per produrre un’offerta che soddisfa la domanda. I prezzi codificano le informazioni sull’offerta e la domanda. I mercati spinsero gli imprenditori a cercare prezzi elevati come segnale di opportunità per creare nuova ricchezza abbassandoquei prezzi.

Crediamo che l’economia di mercato sia una macchina di scoperta, una forma di intelligenza, un sistema esplorativo, evolutivo e adattivo.

Crediamo che il problema della conoscenza di Hayek travolga qualsiasi sistema economico centralizzato. Tutte le informazioni effettive sono sui bordi, nelle mani delle persone più vicine all’acquirente. Il centro, astratto sia dall’acquirente che dal venditore, non sa nulla. La pianificazione centralizzata è condannata al fallimento, il sistema di produzione e consumo è troppo complesso. Il decentramento sfrutta la complessità a beneficio di tutti; la centralizzazione ti farà morire di fame.

Crediamo nella disciplina del mercato. Il mercato disciplina naturalmente: il venditore impara e cambia quando l’acquirente non si mostra o esce dal mercato. Quando la disciplina di mercato è assente, non c’è limite a quanto possano diventare folli le cose. Il motto di ogni monopolio e cartello, ogni istituzione centralizzata non soggetta alla disciplina del mercato: “Non ci interessa, perché non dobbiamo”. I mercati impediscono monopoli e cartelli.

Crediamo che i mercati sollevino le persone dalla povertà – infatti, i mercati sono di gran lunga il modo più efficace per sollevare un gran numero di persone dalla povertà, e lo sono sempre state. Anche nei regimi totalitari, un sollevamento incrementale dello stivale repressivo dalla gola del popolo e la sua capacità di produrre e commerciare porta a un rapido aumento dei redditi e degli standard di vita. Solleva lo stivale un po’ di più, ancora meglio. Togliti completamente lo stivale, chissà quanto possono diventare ricchi tutti.

Crediamo che i mercati siano un modo intrinsecamente individualista per ottenere risultati collettivi superiori.

Crediamo che i mercati non richiedano alle persone di essere perfette, o addirittura ben intenzionate – il che è un bene, perché, hai incontrato persone? Adam Smith: “Non è dalla benevolenza del macellaio, del birraio o del fornaio che ci aspettiamo la nostra cena, ma dal loro rispetto per il proprio interesse personale. Ci rivolgiamo non alla loro umanità ma al loro amor proprio, e non parliamo mai con loro delle nostre necessità, ma dei loro vantaggi”.

David Friedman sottolinea che le persone fanno le cose solo per altre persone per tre motivi: amore, denaro o forza. L’amore non scala, quindi l’economia può funzionare solo con il denaro o la forza. L’esperimento di forza è stato eseguito e trovato carente. Restiamo con i soldi.

Crediamo che la massima difesa morale dei mercati sia che deviano persone che altrimenti solleverebbero eserciti e avvierebbero le religioni in attività pacifiche produttive.

Crediamo che i mercati, per citare Nicholas Stern, siano il modo in cui ci prendiamo cura delle persone che non conosciamo.

Crediamo che i mercati siano il modo per generare ricchezza sociale per tutto il resto che vogliamo pagare, compresa la ricerca di base, i programmi di assistenza sociale e la difesa nazionale.

Crediamo che non ci sia conflitto tra i profitti capitalisti e un sistema di assistenza sociale che protegga i vulnerabili. In effetti, sono allineati: la produzione di mercati crea la ricchezza economica che paga tutto il resto che vogliamo come società.

Crediamo che la pianificazione economica centrale elevi il peggio di noi e trascini tutti verso il basso; i mercati sfruttano il meglio di noi a beneficio di tutti noi.

Crediamo che la pianificazione centrale sia un ciclo di sventura; i mercati sono una spirale verso l’alto.

L’economista William Nordhaus ha dimostrato che i creatori di tecnologia sono in grado di catturare solo circa il 2% del valore economico creato da quella tecnologia. L’altro 98% scorre nella società sotto forma di ciò che gli economisti chiamano surplus sociale. L’innovazione tecnologica in un sistema di mercato è intrinsecamente filantropica, con un rapporto di 50:1. Chi ottiene più valore da una nuova tecnologia, la singola azienda che la produce, o i milioni o miliardi di persone che la usano per migliorare la propria vita? QED.

Crediamo nel concetto di vantaggio comparativo di David Ricardo – come distinto dal vantaggio competitivo, il vantaggio comparativo sostiene che anche qualcuno che è il migliore al mondo nel fare tutto comprerà la maggior parte delle cose da altre persone, a causa del costo opportunità. Il vantaggio comparativo nel contesto di un mercato adeguatamente libero garantisce un’elevata occupazione indipendentemente dal livello di tecnologia.

Crediamo che un mercato fissi i salari in funzione della produttività marginale del lavoratore. Pertanto la tecnologia – che aumenta la produttività – spinge i salari verso l’alto, non verso il basso. Questa è forse l’idea più controintuitiva di tutta l’economia, ma è vera, e abbiamo 300 anni di storia che lo dimostrano.

Crediamo nell’osservazione di Milton Friedman secondo cui i desideri e i bisogni umani sono infiniti.

Crediamo che i mercati aumentino anche il benessere sociale generando lavoro in cui le persone possano impegnarsi in modo produttivo. Crediamo che un reddito di base universale trasformerebbe le persone in animali da zoo che saranno allevati dallo stato. L’uomo non era destinato ad essere coltivato; l’uomo era destinato ad essere utile, ad essere produttivo, ad essere orgoglioso.

Crediamo che il cambiamento tecnologico, lungi dal ridurre la necessità del lavoro umano, lo aumenti, ampliando la portata di ciò che gli esseri umani possono fare in modo produttivo.

Crediamo che poiché i desideri e i bisogni umani sono infiniti, la domanda economica è infinita e la crescita dell’occupazione può continuare per sempre.

Crediamo che i mercati siano generativi, non sfruttatori; somma positiva, non somma zero. I partecipanti ai mercati si basano sul lavoro e sulla produzione l’uno dell’altro. James Carse descrive i giochi finiti e i giochi infiniti: i giochi finiti hanno una fine, quando una persona vince e un’altra persona perde; i giochi infiniti non finiscono mai, poiché i giocatori collaborano per scoprire cosa è possibile nel gioco. I mercati sono l’ultimo gioco infinito.

La macchina Techno-Capital

Combina tecnologia e mercati e ottieni quella che Nick Land ha definito la macchina tecno-capitale, il motore della creazione, della crescita e dell’abbondanza di materiali perpetui.

Crediamo che la macchina tecno-capitale dei mercati e dell’innovazione non finisca mai, ma invece si al rialzo continuamente. Il vantaggio comparativo aumenta la specializzazione e il commercio. I prezzi scendono, liberando il potere d’acquisto, creando domanda. Il calo dei prezzi avvantaggia tutti coloro che acquistano beni e servizi, vale a dire tutti. I desideri e i bisogni umani sono infiniti e gli imprenditori creano continuamente nuovi beni e servizi per soddisfare quei desideri e bisogni, impiegando un numero illimitato di persone e macchine nel processo. Questa spirale verso l’alto corre da centinaia di anni, nonostante il continuo ululamento da parte di comunisti e ludditi. Infatti, a partire dal 2019, prima dell’interruzione temporanea del COVID, il risultato è stato il maggior numero di posti di lavoro ai salari più alti e ai più alti livelli di tenore di vita materiale nella storia del pianeta.

La macchina tecno-capitale fa funzionare la selezione naturale per noi nel regno delle idee. Le idee migliori e più produttive vincono, e si combinano e generano idee ancora migliori. Quelle idee si materializzano nel mondo reale come beni e servizi tecnologicamente abilitati che non sarebbero mai emersi de novo.

Ray Kurzweil definisce la sua legge dell’accelerazione dei rendimenti: i progressi tecnologici tendono a nutrirsi di se stessi, aumentando il tasso di ulteriore avanzamento.

Crediamo nell’accelerazione – la propulsione consapevole e deliberata dello sviluppo tecnologico – per garantire l’adempimento della legge dei rendimenti accelerati. Per garantire che la spirale verso l’alto della tecno-capitale continui per sempre.

Crediamo che la macchina tecno-capitale non sia anti-umana – in effetti, potrebbe essere la cosa più pro-umana che ci sia. Ci serve. La macchina tecno-capitale funziona per noi. Tutte le macchine funzionano per noi.

Crediamo che le risorse fondamentali della spirale ascendente della tecno-capitale siano l’intelligenza e l’energia – le idee e il potere di renderle reali.

Intelligenza

Crediamo che l’intelligenza sia l’ultimo motore del progresso. L’intelligenza rende tutto migliore. Le persone intelligenti e le società intelligenti superano quelle meno intelligenti praticamente su ogni metrica che possiamo misurare. L’intelligenza è il diritto di nascita dell’umanità; dovremmo espanderla nel modo più completo e ampio possibile.

Crediamo che l’intelligenza sia in una spirale ascendente – in primo luogo, poiché le persone più intelligenti in tutto il mondo vengono reclutate nella macchina tecno-capitale; in secondo luogo, poiché le persone formano relazioni simbiotiche con le macchine in nuovi sistemi cibernetici come aziende e reti; in terzo luogo, poiché l’intelligenza artificiale aumenta le capacità delle nostre macchine e di noi stessi.

Crediamo di essere pronti per un decollo di intelligence che espanderà le nostre capacità ad altezze inimmaginabili.

Crediamo che l’intelligenza artificiale sia la nostra alchimia, la nostra Pietra Filosofale: stiamo letteralmente facendo pensare la sabbia.

Crediamo che l’intelligenza artificiale sia meglio pensata come un risolutore di problemi universale. E abbiamo un sacco di problemi da risolvere.

Crediamo che l’intelligenza artificiale possa salvare vite umane, se lo permettiamo. La medicina, tra molti altri campi, è nell’età della pietra rispetto a ciò che possiamo ottenere con l’intelligenza umana e meccanica unita che lavora su nuove cure. Ci sono decine di cause comuni di morte che possono essere risolte con l’IA, dagli incidenti stradali alle pandemie al fuoco amico in tempo di guerra.

Crediamo che qualsiasi decelerazione dell’IA costerà vite umane. Le morti che sono state prevenibili dall’IA che è stata impedita di esistere è una forma di omicidio.

Crediamo nell’intelligenza aumentata tanto quanto crediamo nell’intelligenzaartificiale. Le macchine intelligenti aumentano gli esseri umani intelligenti, guidando un’espansione geometrica di ciò che gli esseri umani possono fare.

Crediamo che l’intelligenza aumentata guidi la produttività marginale che guida la crescita salariale che guida la domanda che guida la creazione di una nuova offerta… senza limiti superiori.

Energia

L’energia è vita. Lo diamo per scontato, ma senza di esso, abbiamo oscurità, fame e dolore. Con esso, abbiamo luce, sicurezza e calore.

Crediamo che l’energia dovrebbe essere in una spirale ascendente. L’energia è il motore fondamentale della nostra civiltà. Più energia abbiamo, più persone possiamo avere e migliore può essere la vita di tutti. Dovremmo portare tutti al livello di consumo energetico che abbiamo, poi aumentare la nostra energia di 1.000 volte, quindi aumentare anche l’energia di 1.000 volte di tutti gli altri.

L’attuale divario nel consumo di energia pro-capite tra il più piccolo mondo sviluppato e il più grande mondo in via di sviluppo è enorme. Questo divario si chiuderà, o espandendo massicciamente la produzione di energia, rendendo tutti migliori, o riducendo massicciamente la produzione di energia, peggiorando tutti.

Crediamo che l’energia non debba espandersi a scapito dell’ambiente naturale. Oggi abbiamo la pallottola d’argento per l’energia a emissioni zero praticamente illimitata: la fissione nucleare. Nel 1973, il presidente Richard Nixon chiese Project Independence, la costruzione di 1.000 centrali nucleari entro il 2000, per raggiungere la completa indipendenza energetica degli Stati Uniti. Nixon aveva ragione; non abbiamo costruito gli impianti allora, ma ora possiamo, ogni volta che decidiamo di volerlo.

Il commissario per l’energia atomica Thomas Murray disse nel 1953: “Per anni l’atomo in di scissione, confezionato in armi, è stato il nostro scudo principale contro i barbari. Ora, inoltre, è uno strumento dato da Dio per fare il lavoro costruttivo dell’umanità”. Anche Murray aveva ragione.

Crediamo che stia arrivando un secondo proiettile d’argento energetico: la fusione nucleare. Dovremmo costruire anche questo. Le stesse cattive idee che hanno effettivamente messo fuori legge la fissione cercheranno di mettere fuori legge la fusione. Non dovremmo lasciarli fare.

Crediamo che non ci sia un conflitto intrinseco tra la macchina tecno-capitale e l’ambiente naturale. Le emissioni di carbonio pro-capite degli Stati Uniti sono più basse ora rispetto a 100 anni fa, anche senza energia nucleare.

Crediamo che la tecnologia sia la soluzione al degrado ambientale e alla crisi. Una società tecnologicamente avanzata migliora l’ambiente naturale, una società tecnologicamente stagnante lo rovina. Se vuoi vedere la devastazione ambientale, visita un ex paese comunista. L’URSS socialista era molto peggio per l’ambiente naturale degli Stati Uniti capitalisti. Cerca su Google il lago di Aral.

Crediamo che una società tecnologicamente stagnante abbia un’energia limitata a costo della rovina ambientale; una società tecnologicamente avanzata ha energia pulita illimitata per tutti.

Abbondanza

Crediamo che dovremmo mettere l’intelligenza e l’energia in un ciclo di feedback positivo e portarli entrambi all’infinito.

Crediamo che dovremmo usare il ciclo di feedback dell’intelligenza e dell’energia per rendere abbondante tutto ciò che vogliamo e di cui abbiamo bisogno.

Crediamo che la misura dell’abbondanza stia scendendo dei prezzi. Ogni volta che un prezzo scende, l’universo delle persone che lo comprano ottiene un aumento del potere d’acquisto, che equivale a un aumento del reddito. Se molti beni e servizi scendono di prezzo, il risultato è un’esplosione al rialzo del potere d’acquisto, del reddito reale e della qualità della vita.

Crediamo che se rendiamo sia l’intelligenza che l’energia “troppo economiche da misurare”, il risultato finale sarà che tutti i beni fisici diventeranno economici come le matite. Le matite sono in realtà abbastanza tecnologicamente complesse e difficili da produrre, eppure nessuno si arrabbia se prendi in prestito una matita e non riesci a restituirla. Dovremmo fare lo stesso valere per tutti i beni fisici.

Crediamo che dovremmo spingere a far scendere i prezzi in tutta l’economia attraverso l’applicazione della tecnologia fino a quando il maggior numero possibile di prezzi non sarà effettivamente pari a zero, spingendo i livelli di reddito e la qualità della vita nella stratosfera.

Crediamo che Andy Warhol avesse ragione quando ha detto: “La cosa grandiosa di questo paese è che l’America ha iniziato la tradizione in cui i consumatori più ricchi comprano essenzialmente le stesse cose dei più poveri. Puoi guardare la TV e vedere Coca-Cola, e puoi sapere che il Presidente beve Coca Cola, Liz Taylor beve Coca Cola, e pensa, puoi bere anche tu Coca Cola. Una Coca-Cola è una Coca-Cola e nessuna somma di denaro può farti avere una Coca-Cola migliore di quella che il barbone all’angolo sta bevendo. Tutte le Coca-Cola sono uguali e tutte le Coca-Cola sono buone.” Lo stesso vale per il browser, lo smartphone, il chatbot.

Crediamo che la tecnologia alla fine spinta il mondo verso quella che Buckminster Fuller ha chiamato “ephemeralizzazione” – ciò che gli economisti chiamano “dematerializzazione”. Fuller: “La tecnologia ti permette di fare sempre di più con sempre meno fino a quando alla fine puoi fare tutto con niente”.

Riteniamo che il progresso tecnologico porti quindi all’abbondanza materiale per tutti.

Crediamo che il guadagno finale dell’abbondanza tecnologica possa essere una massiccia espansione in quella che Julian Simon chiamava “la risorsa definitiva”: le persone.

Crediamo, come ha fatto Simon, che le persone siano la risorsa definitiva: con più persone arrivano più creatività, più nuove idee e più progresso tecnologico.

Crediamo che l’abbondanza materiale significhi quindi in definitiva più persone – molte più persone – che a sua volta porta a una maggiore abbondanza.

Crediamo che il nostro pianeta sia drammaticamente sottopopolato, rispetto alla popolazione che potremmo avere con abbondanti informazioni, energia e beni materiali.

Crediamo che la popolazione globale possa facilmente espandersi a 50 miliardi di persone o più, e poi ben oltre man mano che alla fine stabiliamo altri pianeti.

Crediamo che da tutte queste persone verranno scienziati, tecnologi, artisti e visionari oltre i nostri sogni più sfrenati.

Crediamo che la missione ultima della tecnologia sia quella di far progredire la vita sia sulla Terra che nelle stelle.

Non Utopia, Ma Abbastanza Vicino

Tuttavia, non siamo utopisti.

Siamo aderenti a quella che Thomas Sowell chiama la visione vincolata.

Crediamo che la visione vincolata – contro la visione non vincolata di utopia, comunismo e competenza – significhi prendere le persone così come sono, testare le idee empiricamente e liberare le persone a fare le proprie scelte.

Crediamo non nell’Utopia, ma anche nell’Apocalisse.

Crediamo che il cambiamento avvenga solo sul margine, ma molti cambiamenti su un margine molto ampio possono portare a grandi risultati.

Pur non essendo utopico, crediamo in ciò che Brad DeLong definisce “sloccare verso l’utopia” – fare il meglio che l’umanità caduta può fare, migliorare le cose man mano che andiamo.

Diventare supermen tecnologici

Crediamo che l’avanzamento della tecnologia sia una delle cose più virtuose che possiamo fare.

Crediamo nel trasformarci deliberatamente e sistematicamente nel tipo di persone che possono far progredire la tecnologia.

Crediamo che questo significhi certamente istruzione tecnica, ma significa anche mettere le mani su, acquisire competenze pratiche, lavorare all’interno e guidare i team – aspirando a costruire qualcosa di più grande di se stessi, aspirare a lavorare con gli altri per costruire qualcosa di più grande come gruppo.

Crediamo che la naturale spinta umana a fare le cose, a guadagnare territorio, ad esplorare l’ignoto possa essere incanalata in modo produttivo nella tecnologia di costruzione.

Crediamo che mentre la frontiera fisica, almeno qui sulla Terra, è chiusa, la frontiera tecnologica è spalancata.

Crediamo nell’esplorazione e nella rivendicazione della frontiera tecnologica.

Crediamo nel romanticismo della tecnologia, dell’industria. Gli erosioni del treno, l’auto, la luce elettrica, il grattacielo. E il microchip, la rete neurale, il razzo, l’atomo diviso.

Crediamo nell’avventura. Intraprendere il viaggio dell’eroe, ribellarsi allo status quo, mappare un territorio inesplorato, conquistare draghi e portare a casa il bottino per la nostra comunità.

Per parafrasare un manifesto di un tempo e di un luogo diversi: “La bellezza esiste solo nella lotta. Non c’è un capolavoro che non abbia un carattere aggressivo. La tecnologia deve essere un assalto violento alle forze dell’ignoto, per costringerle a inchinarsi davanti all’uomo”.

Crediamo che siamo, siamo stati e saremo sempre i maestri della tecnologia, non padroneggiati dalla tecnologia. La mentalità della vittima è una maledizione in ogni dominio della vita, anche nel nostro rapporto con la tecnologia – sia inutile che auto-sconfitta. Non siamo vittime, siamo conquistatori.

Crediamo nella natura, ma crediamo anche nel superamento della natura. Non siamo primitivi, rannicchiati dalla paura del fulmine. Siamo l’apice predatore; il fulmine funziona per noi.

Crediamo nella grandezza. Ammiriamo i grandi tecnologi e industriali che sono venuti prima di noi e aspiriamo a renderli orgogliosi di noi oggi.

E crediamo nell’umanità – individualmente e collettivamente.

Valori tecnologici

Crediamo nell’ambizione, nell’aggressività, nella persistenza, nell’implacabilità – forza.

Crediamo nel merito e nel successo.

Crediamo nel coraggio, nel coraggio.

Crediamo nell’orgoglio, nella fiducia e nel rispetto di sé, quando ci siamo guadagnati.

Crediamo nella libertà di pensiero, nella libertà di parola e nella libera indagine.

Crediamo nell’effettivo metodo scientifico e nei valori illuministici del libero discorso e sfidando l’autorità degli esperti.

Crediamo, come ha detto Richard Feynman, “La scienza è la credenza nell’ignoranza degli esperti”.

E, “Preferirei avere domande a cui non si può rispondere piuttosto che risposte che non possono essere messe in discussione”.

Crediamo nella conoscenza locale, nelle persone con informazioni reali che prendono decisioni, non nel giocare a Dio.

Crediamo nell’abbracciare la varianza, nell’aumentare l’interesse.

Crediamo nel rischio, nei salti nell’ignoto.

Crediamo nell’agenzia, nell’individualismo.

Crediamo nella competenza radicale.

Crediamo in un rifiuto assoluto del risentimento. Come ha detto Carrie Fisher, “Il resanimento è come bere veleno e aspettare che l’altra persona muoia”. Ci assumiamo la responsabilità e lo superiamo.

Crediamo nella competizione, perché crediamo nell’evoluzione.

Crediamo nell’evoluzione, perché crediamo nella vita.

Crediamo nella verità.

Crediamo che il ricco sia meglio del povero, il buon mercato sia meglio del costoso, e l’abbondanza sia meglio del scarsità.

Crediamo nel rendere tutti ricchi, tutto a buon mercato e tutto abbondante.

Crediamo che le motivazioni estrinseche – ricchezza, fama, vendetta – vadano bene per quanto vanno. Ma crediamo che le motivazioni intrinseche – la soddisfazione di costruire qualcosa di nuovo, il cameratismo di essere in una squadra, il raggiungimento di diventare una versione migliore di se stessi – siano più appaganti e più durature.

Crediamo in ciò che i greci chiamavano eudaimonia attraverso arete – fiorente attraverso l’eccellenza.

Crediamo che la tecnologia sia universalista. La tecnologia non si preoccupa della tua etnia, razza, religione, origine nazionale, genere, sessualità, opinioni politiche, altezza, peso, capelli o mancanza di essi. La tecnologia è costruita da un’ONU virtuale di talenti provenienti da tutto il mondo. Chiunque abbia un atteggiamento positivo e un portatile economico può contribuire. La tecnologia è l’ultima società aperta.

Crediamo nel codice della Silicon Valley di “pay it forward”, fiducia attraverso incentivi allineati, generosità di spirito per aiutarsi a vicenda a imparare e crescere.

Crediamo che l’America e i suoi alleati dovrebbero essere forti e non deboli. Crediamo che la forza nazionale delle democrazie liberali defluisca dalla forza economica (potere finanziario), dalla forza culturale (soft power) e dalla forza militare (hard power). La forza economica, culturale e militare fluisce dalla forza tecnologica. Un’America tecnologicamente forte è una forza per il bene in un mondo pericoloso. Democrazie liberali tecnologicamente forti salvaguardano la libertà e la pace. Le democrazie liberali tecnologicamente deboli perdono contro i loro rivali autocratici, peggiorando tutti.

Crediamo che la tecnologia renda la grandezza più possibile e più probabile.

Crediamo nel realizzare il nostro potenziale, diventando pienamente umani – per noi stessi, le nostre comunità e la nostra società.

Il significato della vita

Il tecno-ottimismo è una filosofia materiale, non una filosofia politica.

Non siamo necessariamente di sinistra, anche se alcuni di noi lo sono.

Non siamo necessariamente di destra, anche se alcuni di noi lo sono.

Siamo materialmente concentrati, per un motivo – per aprire l’apertura su come possiamo scegliere di vivere in mezzo all’abbondanza materiale.

Una critica comune alla tecnologia è che rimuove la scelta dalle nostre vite mentre le macchine prendono decisioni per noi. Questo è indubbiamente vero, ma più che compensato dalla libertà di creare la nostra vita che deriva dall’abbondanza materiale creata dal nostro uso delle macchine.

L’abbondanza materiale dei mercati e della tecnologia apre lo spazio per la religione, per la politica e per le scelte di come vivere, socialmente e individualmente.

Crediamo che la tecnologia sia liberatoria. Liberare il potenziale umano. Liberatoria dell’anima umana, dello spirito umano. Espandere ciò che può significare essere liberi, essere realizzati, essere vivi.

Crediamo che la tecnologia apra lo spazio di ciò che può significare essere umani.

Il nemico

Abbiamo dei nemici.

I nostri nemici non sono persone cattive – ma piuttosto cattive idee.

La nostra società attuale è stata sottoposta a una campagna di demoralizzazione di massa per sei decenni – contro la tecnologia e contro la vita – con vari nomi come “rischio esistenziale”, “sostenibilità”, “ESG”, “obiettivi di sviluppo sostenibile”, “responsabilità sociale”, “capitalismo delle parti interessate”, “principio precauzionale”, “fiducia e sicurezza”, “etica tecnologica”, “gestione del rischio”, “de-crescita”, “i limiti della crescita”.

Questa campagna di demoralizzazione si basa su cattive idee del passato – idee zombie, molte derivate dal comunismo, disastrose allora e ora – che si sono rifiutate di morire.

Il nostro nemico è la stagnazione.

Il nostro nemico è anti-merit, anti-ambition, anti-striving, anti-achievement, anti-greatness.

Il nostro nemico è lo statismo, l’autoritarismo, il collettivismo, la pianificazione centrale, il socialismo.

Il nostro nemico è la burocrazia, la vetocrazia, la gerontocrazia, la cieca deferenza alla tradizione.

Il nostro nemico è la corruzione, la cattura normativa, i monopoli, i cartelli.

Il nostro nemico sono le istituzioni che in gioventù erano vitali ed energiche e alla ricerca della verità, ma ora sono compromesse e corrose e collassate – bloccando i progressi in offerte sempre più disperate per la continua rilevanza, cercando freneticamente di giustificare i loro finanziamenti in corso nonostante la disfunzione a spirale e l’escalation dell’inettitudine.

Il nostro nemico è la torre d’avorio, la visione del mondo esperta know-it-all credenziale, indulgente in teorie astratte, credenze di lusso, ingegneria sociale, disconnessa dal mondo reale, delirante, non eletta e irresponsabile – giocando a Dio con la vita di tutti gli altri, con isolamento totale dalle conseguenze.

Il nostro nemico è il controllo della parola e del pensiero – il crescente uso, in bella vista, del “1984” di George Orwell come manuale di istruzioni.

Il nostro nemico è la visione non vincolata di Thomas Sowell, lo stato universale e omogeneo di Alexander Kojeve, l’utopia di Thomas More.

Il nostro nemico è il principio precauzionale, che avrebbe impedito praticamente ogni progresso da quando l’uomo ha sfruttato per la prima volta il fuoco. Il principio di precauzione è stato inventato per prevenire l’impiego su larga scala dell’energia nucleare civile, forse l’errore più catastrofico nella società occidentale della mia vita. Il principio precauzionale continua a infliggere enormi sofferenze inutili al nostro mondo di oggi. È profondamente immorale, e dobbiamo buttarlo con estremo pregiudizio.

Il nostro nemico è la decelerazione, la de-crescita, lo spopolamento – il desiderio nichilista, così alla moda tra le nostre élite, per meno persone, meno energia e più sofferenza e morte.

Il nostro nemico è l’ultimo uomo di Friedrich Nietzsche:

Ti dico: bisogna ancora avere il caos in se stessi, per dare alla luce una stella danzante. Ti dico: hai ancora il caos in te stesso.

Ahimè! Arriva il momento in cui l’uomo non darà più alla luce nessuna stella. Ahimè! Arriva il momento dell’uomo più spregevole, che non può più disprezzare se stesso…

“Cos’è l’amore? Cos’è la creazione? Cos’è il desiderio? Cos’è una stella?” — così chiede l’Ultimo Uomo, e sbatte le palpebre.

La terra è diventata piccola, e su di essa salta l’Ultimo Uomo, che rende tutto piccolo. La sua specie è ineradicabile come la pulce; l’Ultimo Uomo vive più a lungo…

Uno funziona ancora, perché il lavoro è un passatempo. Ma si sta attenti a non far male il passatempo.

Non si diventa più poveri o ricchi; entrambi sono troppo gravoso…

Nessun pastore e una mandria! Tutti vogliono la stessa cosa; tutti sono uguali: chi si sente diversamente va volontariamente nel manicomio.

“In primo luogo, tutto il mondo era pazzo”, – dice il più sottile di loro, e sbattono le palpebre.

Sono intelligenti e sanno tutto quello che è successo: quindi non c’è fine alla loro derisione…

“Abbiamo scoperto la felicità”, dicono gli Ultimi Uomini, e sbattono le palpebre.

Il nostro nemico è… quello.

Aspiriamo ad essere… non quello.

Spiegheremo alle persone catturate da queste idee zombie che le loro paure sono ingiustificate e il futuro è luminoso.

Crediamo che queste persone catturate soffrano di risentimento – una birra di streghe di risentimento, amarezza e rabbia che le sta facendo avere valori sbagliati, valori che sono dannosi sia per se stessi che per le persone a cui tengono.

Crediamo di dover aiutarli a trovare la via d’uscita dal loro labirinto di dolore autoimposto.

Invitiamo tutti a unirsi a noi nel Tecno-Ottimismo.

L’acqua è calda.

Diventate nostri alleati nella ricerca della tecnologia, dell’abbondanza e della vita.

Il futuro

Da dove veniamo?

La nostra civiltà è stata costruita su uno spirito di scoperta, di esplorazione, di industrializzazione.

Dove andiamo?

Che mondo stiamo costruendo per i nostri figli e i loro figli, e i loro figli?

Un mondo di paura, senso di colpa e risentimento?

O un mondo di ambizione, abbondanza e avventura?

Crediamo nelle parole di David Deutsch: “Abbiamo il dovere di essere ottimisti. Perché il futuro è aperto, non predeterminato e quindi non può essere semplicemente accettato: siamo tutti responsabili di ciò che ha in serbo. Quindi è nostro dovere lottare per un mondo migliore”.

Dobbiamo il passato e il futuro.

È ora di essere un Tecno-ottimista.

È ora di costruire.

Santi patroni del tecno-ottimismo

Invece di note di chiusura e citazioni dettagliate, leggi il lavoro di queste persone e anche tu diventerai un Tecno-ottimista.

@BasedBeffJezos

@bayeslord

@PessimistsArc

Ada Lovelace

Adam Smith

Andy Warhol

Bertrand Russell

Brad DeLong

Buckminster Fuller

Juma Calestous

Clayton Christensen

Dambisa Moyo

David Deutsch

David Friedman

David Ricardo

Deirdre McCloskey

Doug Engelbart

Elting Morison

Filippo Tommaso Marinetti

Frederic Bastiat

Frederick Jackson Turner

Friedrich Hayek

Friedrich Nietzsche

George Gilder

Isabel Paterson

Israel Kirzner

James Burnham

James Carse

Joel Mokyr

Johan Norberg

John Galt

John Von Neumann

Joseph Schumpeter

Julian Simon

Kevin Kelly

Louis Rossetto

Ludwig von Mises

Marian Tupy

Martin Gurri

Matt Ridley

Milton Friedman

Neven Sesardic

Nick Land

Paul Collier

Paul Johnson

Paul Romer

Ray Kurzweil

Richard Feynman

Rose Wilder Lane

Stephen Wolfram

Marchio Stewart

Thomas Sowell

Vilfredo Pareto

Virginia Postrel

William Lewis

William Nordhaus

Vuoi più a16z?

Iscriviti per ottenere il meglio dei contenuti, delle notizie e degli investimenti di a16z.Nome *Indirizzo e-mail aziendale *

GESTISCI I MIEI ABBONAMENTIFacendo clic sul pulsante Iscriviti, accetti l’Informativa sulla privacy.

COLLABORATORE

Marc Andreessen è cofondatore e socio generale della società di venture capital Andreessen Horowitz.
- SEGUIRE
- X

ALTRO DA QUESTO COLLABORATORE

Le opinioni espresse qui sono quelle del singolo personale di AH Capital Management, L.L.C. (“a16z”) citato e non sono le opinioni di a16z o delle sue affiliate. Alcune informazioni qui contenute sono state ottenute da fonti di terze parti, comprese le società di portafoglio di fondi gestiti da a16z. Sebbene preso da fonti ritenute affidabili, a16z non ha verificato in modo indipendente tali informazioni e non rilascia alcuna rappresentazione sull’accuratezza duratura delle informazioni o sulla sua adeguatezza per una determinata situazione. Inoltre, questo contenuto può includere pubblicità di terze parti; a16z non ha esaminato tali pubblicità e non approva alcun contenuto pubblicitario in essi contenuto.

Questo contenuto è fornito solo a scopo informativo e non deve essere considerato come consulenza legale, commerciale, di investimento o fiscale. Dovresti consultare i tuoi consulenti su tali questioni. I riferimenti a qualsiasi titolo o asset digitale sono solo a scopo illustrativo e non costituiscono una raccomandazione di investimento o un’offerta di fornire servizi di consulenza sugli investimenti. Inoltre, questo contenuto non è diretto né destinato all’uso da parte di investitori o potenziali investitori e non può in nessun caso essere invocato quando si prende la decisione di investire in qualsiasi fondo gestito da a16z. (Un’offerta di investire in un fondo a16z sarà fatta solo dal memorandum di collocamento privato, dall’accordo di sottoscrizione e da altra documentazione pertinente di tale fondo e dovrebbe essere letta nella loro interezza.) Tutti gli investimenti o le società di portafoglio menzionati, citati o descritti non sono rappresentativi di tutti gli investimenti in veicoli gestiti da a16z e non ci può essere alcuna garanzia che gli investimenti saranno redditizi o che altri investimenti effettuati in futuro avranno caratteristiche o risultati simili. Un elenco di investimenti effettuati da fondi gestiti da Andreessen Horowitz (esclusi gli investimenti per i quali l’emittente non ha fornito il permesso a a16z di divulgare pubblicamente e gli investimenti non annunciati in attività digitali quotate in borsa) è disponibile all’indirizzo https://a16z.com/investments/.

I grafici e i grafici forniti all’interno sono solo a scopo informativo e non dovrebbero essere invocati quando si prende una decisione di investimento. Le prestazioni passate non sono indicative dei risultati futuri. Il contenuto parla solo alla data indicata. Qualsiasi proiezione, stima, previsione, obiettivo, prospettiva e/o opinione espressa in questi materiali è soggetta a modifiche senza preavviso e può differire o essere contraria alle opinioni espresse da altri. Si prega di consultare https://a16z.com/disclosures per ulteriori informazioni importanti.

Vuoi più a16z?

Iscriviti per ottenere il meglio dei contenuti, delle notizie e degli investimenti di a16z.Nome *Indirizzo e-mail aziendale *

GESTISCI I MIEI ABBONAMENTIFacendo clic sul pulsante Iscriviti, accetti l’Informativa sulla privacy.

One thought on “Saremo schiavi o signori? cosa ci riserverà l’accelerazione della tecnologia”

Marcello Meneghin ha detto:

11 Gennaio 2024 alle 7:34

Secondo me, che non ho assolutamente la preparazione sufficiente ma vorrei esprimere lo stesso una mia opinione, in tutti gli splendidi ragionamenti chr ho letto. In essi non
Si tiene conto di un fattore importante, l’attuale intelligenza artificiale non ě ancora intelligente perché le manca la coscienza di ciò che fá. Per ora é soltanto capace di elaborare concetti fatti dagli umani, lei non é ancora in grado di creare una innovazione, una soluzione anche piccolissima dei problemi, lo sa soltanto ricavare dai concetti che esistono giá. Finora non potrá mai superare l’uomo di cui ha bisogno per le sue grandissime ed utilissime elaborazioni

Rispondi

Lascia un commento Annulla risposta

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.


Vista anti-tecnologia: sicurezza dietro, distopia davanti.	Vista accelerazionista: pericoli dietro, utopia avanti.	Il mio punto di vista: pericoli dietro, ma più percorsi in avanti: alcuni buoni, alcuni cattivi.

27/11/23 Vitalik Buterin: Il mio tecno-ottimismo

La tecnologia è incredibile, e ci sono costi molto alti per ritardarla

L’ambiente e l’importanza dell’intenzione coordinata

L’IA è fondamentalmente diversa dalle altre tecnologie, e vale la pena essere particolarmente attenti

Il rischio esistenziale è un grosso problema

Anche se sopravviviamo, un futuro di intelligenza artificiale superintelligente è un mondo in cui vogliamo vivere?

Il cielo è vicino, l’imperatore è ovunque

d/acc: accelerazione difensiva (o decentralizzazione, o differenziale)

I mondi favorevoli alla difesa aiutano la prosperità di una governance sana e democratica

Macro difesa fisica

Micro difesa fisica (alias bio)

Difesa informatica, blockchain e crittografia

Info-difesa

Tecnologia sociale oltre l’inquadratura della “difesa”

Quindi quali sono i percorsi da seguire per la superintelligenza?

Un percorso felice: fondersi con le IA?

d/acc è compatibile con la tua filosofia esistente?

Siamo la stella più luminosa

16/10/23 Marc Andreessen: Il Manifesto Tecno-Ottimista

Bugie

Verità

Tecnologia

Mercati

La macchina Techno-Capital

Intelligenza

Energia

Abbondanza

Non Utopia, Ma Abbastanza Vicino

Diventare supermen tecnologici

Valori tecnologici

Il significato della vita

Il nemico

Il futuro

Santi patroni del tecno-ottimismo

Vuoi più a16z?

Vuoi più a16z?

Related Posts

ChatGPT/Intelligenza Artificiale: ma cosa e’ che tutti ne parlano 2

Cina: opportunità di investimento o…

Diamanti

One thought on “Saremo schiavi o signori? cosa ci riserverà l’accelerazione della tecnologia”

Lascia un commento Annulla risposta