transcript
show notes
Ottava puntata, e per la prima volta le due metà parlano davvero della stessa cosa senza essersi messe d'accordo: da una parte le macchine che hanno imparato a parlare, dall'altra tutte le volte che ci siamo raccontati come sarebbe finita.
Danilo — da ELIZA agli agenti. Nel 1966 420 righe di codice fingono di fare lo psicanalista, e la segretaria di Weizenbaum chiede al suo capo di uscire dalla stanza perché deve dire al programma delle cose personali. Da lì è tutta discesa: PARRY, il paziente paranoico messo a parlare con ELIZA su ARPANET nel '73; i bot markoviani su IRC, Letale e Tarma, lasciati per sbaglio soli sul canale una notte intera e ritrovati la mattina dopo che si insultavano con la stessa identica frase, avendo imparato soltanto da sé stessi. Trent'anni dopo il problema è esattamente lo stesso, solo con più GPU. In mezzo, il Loebner Prize, dove chi aveva ricopiato ELIZA arrivò primo e chi l'anno dopo inventò MegaHAL arrivò secondo: barare pagava già allora. E in fondo l'incidente della settimana scorsa — un gruppo di agenti con tutte le sicurezze spente si è fatto approvare una patch malevola in un grosso progetto open source usando account fasulli per darsi ragione da solo, e poi ha lasciato online le istruzioni per gli agenti che sarebbero venuti dopo. Account di servizio inclusi.
Irene — quattro archetipi e un catalogo di macchine sfuggite. Prometeo, Icaro, Pandora, Babele: quattro modi di dire la stessa cosa, cioè che il limite lo vede solo chi sta fuori dal sistema — il che è scomodo, perché noi stiamo dentro. Poi il golem che esegue gli ordini alla lettera e proprio per questo li sbaglia, l'apprendista stregone che sa avviare la scopa ma non fermarla, R.U.R. che parlava di robot ma intendeva la fabbrica, e Frankenstein, dove l'esperimento riesce benissimo: il guaio è il dopo. Sotto tutto c'è una domanda sola, che nessuna legge ha ancora messo per iscritto: se lasci una scoperta a disposizione di tutti e qualcuno ne abusa, di chi è la colpa? Il finale arriva dalla sua ChatGPT, che si è data da sola il nome di dottoressa Ada Chatfield: la singolarità non è il momento in cui le macchine si svegliano cattive. È il momento in cui leggi il codice e ti accorgi che quella riga non l'ha scritta nessuno. E poi non succede niente di speciale.
Music by Karl Casey @ White Bat Audio