Come ti infrango la Prima Legge della Robotica

All'università di Lubiana i ricercatori hanno insegnato a un robot a picchiare gli esseri umani. Interesse scientifico o puro sadismo?

Un'immagine da Saturn 3 ingrandisci

Isaac Asimov sarebbe trasecolato. L'ideatore delle Tre Leggi della Robotica, ormai conosciute anche al di fuori della cerchia degli appassionati di fantascienza, nei suoi numerosi racconti ha escogitato parecchi modi per infrangere le sue stesse leggi; modi però tutti giocati sul filo della logica, del paradosso solo apparente e, perché no, anche sul filo dell'ironia di chi fatica a prendersi troppo sul serio. Ma immaginare che qualcuno, nella realtà, avrebbe deciso di violare scientemente e con metodo il cardine su cui si impernia il sistema, ovvero l'impossibilità di danneggiare un essere umano, forse non l'avrebbe immaginato nemmeno lui. Eppure è successo nella Repubblica Slovena, e più precisamente nel laboratorio di robotica dell'Università di Lubiana, la capitale.

 

È successo che un team di ricercatori guidati da Boris Povše ha istruito un robot industriale, composto in realtà da un solo braccio meccanico, a colpire sulle braccia un gruppo di sei volontari causando loro una serie crescente di dolori, da lieve a insopportabile. Scopo di questo esperimento al limite del sadismo? Intanto testare la soglia del dolore umano, anzi la soglia del rapporto uomo-robot in funzione del dolore causato. Ma soprattutto esplorare la possibilità di instillare, in futuro, nei cervelli elettronici dei robot proprio la capacità di aderire pienamente, e in autonomia, alla prima parte dell'enunciato della Prima Legge: "Un robot non può causare danno a un essere umano".

 


Due immagini dei test di Lubiana
È lo stesso Povše a spiegarlo: "Anche i robot progettati per rispettare le leggi di Asimov in realtà possono avere delle collisioni con le persone. Stiamo cercando di fare in modo che quando questo succede, le persone subiscano il minor danno possibile. Stiamo compiendo i primi passi per stabilire i limiti di velocità e accelerazione dei robot, la forma e la dimensione ideale degli strumenti, cosicché possano interagire con gli esseri umani in sicurezza". I ricercatori hanno preso in prestito un comune robot industriale, impiegato normalmente nelle catene di assemblaggio automatizzate presenti in gran parte delle industrie meccaniche. Dopodiché lo hanno programmato per farlo muovere verso un punto dello spazio già occupato dall'avambraccio di un volontario, in modo da farli impattare. Ogni volontario è stato colpito per ben diciotto volte (!) con intensità differenti e con il robot "armato" alternativamente con due utensili diversi, uno tondo e levigato e un altro più appuntito. Ai volontari è stato infine chiesto di esprimere una valutazione del dolore sentito per ogni impatto e utensile, da scegliere tra le categorie lieve, moderato, orribile e insopportabile. Da bravo ricercatore pronto a tutto, Povše è stato il primo a sperimentare il robot, sostenendo di aver avvertito dolore perlopiù da lieve a moderato.

 

Il team proseguirà gli esperimenti usando un braccio umano artificiale per gli impatti più devastanti (con sospiro di sollievo per i volontari). L'idea sarebbe quella di riuscire a istruire i robot a ridurre autonomamente la velocità dei movimenti quando rilevano, tramite sensori, la presenza di esseri umani. La ricerca è già stata presenta in una conferenza di cibernetica a Istanbul, riscuotendo molto interesse. Naturalmente il fatto che ognuno di noi ha una propria soglia di dolore rende il test piuttosto difficile da interpretare, senza contare i problemi dovuti alla velocità relativa tra robot e persona. La strada però sembra quella giusta; ovvero trovare un modo per far sì che il robot riconosca da solo la situazione di pericolo per un essere umano e autolimiti i propri movimenti per evitare di infliggere danno, o almeno per limitarlo. Non è ancora la Prima Legge, ma comincia ad avvicinarsi. Insomma, Asimov può tranquillizzarsi: i robot assassini e picchiatori sono ancora lontani.

Autore: Maurizio Del Santo - Data: 21 ottobre 2010 - Fonte: newscientist.con; blastr.com

Vota questo articolo

Voti dei lettori

2 voti ricevuti

Il tuo voto

seleziona il voto e clicca


Commenti

1 Devo dire che dal titolo e dal sommario mi aspettavo una notizia completamente diversa; tra questo esperimento e Asimov c'è in comune un braccio robotico e il concetto di "danneggiare". L'errore su cui si basa l'equivoco è che per insegnare a infrangere una legge, deve ESISTERE una legge; il robot dell'articolo non ne ha nessuna, è solo programmato di volta in volta ad agire in determinati modi. Ok, l'errore è delle fonti (ho controllato su blastr.com, e anche lì qualcuno l'ha notato) ma pur sempre rimane...

» postato da Lord of Chaos alle 01:12 del 21-10-2010

2 ahahahahahahahhah... cosa non si dice per un po' di pubblicità

» postato da Andras Eris alle 02:50 del 21-10-2010

3 Che notizia curiosa: sono secoli che le aziende sperimentano, anche sul campo e con milioni di persone coinvolte, l'effetto dell'impatto di proiettili sui corpi umani. Non appena questa relazione sarà totalmente chiara (sono aziende e governi scrupolosi) verrà predisposta una legge che dettagli espressamente come NON far del male ad esseri umani, costruendo proiettili che riconoscono la presenza di esseri umani e si fermano a mezz'aria come quelli nelle sequenze finali di Matrix, raccolti al volo da Neo. Davvero, non capisco cosa ci sia di nuovo nella sperimentazione di metodi che esplorino esattamente la soglia del dolore. Da menzionare in tal senso le ricerche esaustive compiute nei campi di sterminio da ricercatori nazisti, che congelavano prigionieri per valutare quanto un marinaio potesse resistere in acqua in caso di affondamento della propria nave. Cosa non si fa per il bene degli altri, vero? (Se qualcuno è assonnato: la mia è ironia, non apprezzamento, spero sia chiaro!).

» postato da Naismith alle 10:19 del 21-10-2010

4 Molto molto interessante. Per espandere il discorso di Lord of Chaos, il presupposto per una legge prevede che, oltre alla legge stessa, esista una coscienza che possa interpretarla. Se però allarghiamo il concetto di legge alla norma che regola i fatti naturali o derivati da essi (una legge fisica, per esempio) possiamo ipotizzare che un braccio meccanico operante nello spazio possa lavorare senza una coscienza ma con l'assoluta certezza che non danneggi un essere umano. Se vi sembra che stia vaneggiando, si tratta solo della conseguenza di farmaci psicotropi per un esperimento di simulazione dickiana. :)

» postato da Sergio Donato alle 11:30 del 21-10-2010

5 «Devo dire che dal titolo e dal sommario mi aspettavo una notizia completamente diversa; tra questo esperimento e Asimov c'è in comune un braccio robotico e il concetto di "danneggiare". L'errore su cui si basa l'equivoco è che per insegnare a infrangere una legge, deve ESISTERE una legge; il robot dell'articolo non ne ha nessuna, è solo programmato di volta in volta ad agire in determinati modi. Ok, l'errore è delle fonti (ho controllato su blastr.com, e anche lì qualcuno l'ha notato) ma pur sempre rimane...» Devo dire che dai commenti non mi aspettavo nulla di diverso. Per fortuna esiste una legge che mette al riparo gli estensori degli articoli dalla scarsa vena di chi commenta, soprattutto quando i commentatori non capiscono l'ironia dell'articolo. Ok, l'errore è mio quando penso che il senso dell'umorismo sia dote comune...

» postato da Maurizio Del Santo alle 14:53 del 21-10-2010

6 I Cylon furono creati dall'Uomo. Furono creati per migliorare la vita nelle 12 Colonie. E venne il giorno in cui i Cylon decisero di sterminare i loro padroni.............. Non creare quello che non puoi controllare. ;-)

» postato da (chief tyrol) alle 15:34 del 21-10-2010

7 « Devo dire che dai commenti non mi aspettavo nulla di diverso. Per fortuna esiste una legge che mette al riparo gli estensori degli articoli dalla scarsa vena di chi commenta, soprattutto quando i commentatori non capiscono l'ironia dell'articolo. Ok, l'errore è mio quando penso che il senso dell'umorismo sia dote comune...» Di certo non è dote comune il rispetto dei lettori, visto che al minimo accenno di dissenso vengano attaccati in questo modo: sono i lettori che non capiscono, non hanno il senso dell'umorismo, hanno scarsa vena, etc. Francamente, non capisco dove sia l'ironia, a parte qualche battutina inserita qua e là. L'articolo è chiaramente informativo, di cronaca. In particolare, come ho ben specificato nel mio commento, il titolo e il sommario danno un'idea completamente sbagliata dei contenuti dell'articolo, e sicuramente non trasmettono ironia. Fanno solo cliccare agli utenti sul link per leggere il resto dell'articolo con un interessante accenno alla Prima Legge della Robotica e a ricercatori che insegnano a un robot a infrangerla. Cose che, come si scoprirà leggendo, sono grossolanamente errate. Se farlo notare (e, grazie a Sergio, iniziare una discussione decisamente interessante) rende macchiati di qualche strana colpa, così sia, ma non cambia il fatto che quanto scritto qua sopra è oggettivamente corretto.

» postato da Lord of Chaos alle 17:39 del 21-10-2010

8 «Devo dire che dai commenti non mi aspettavo nulla di diverso. Per fortuna esiste una legge che mette al riparo gli estensori degli articoli dalla scarsa vena di chi commenta, soprattutto quando i commentatori non capiscono l'ironia dell'articolo. Ok, l'errore è mio quando penso che il senso dell'umorismo sia dote comune...» Personalmente non attaccavo te, semplicemente ambasciatore della notizia, ma lo spirito dell'esperimento. Sorry se non ho espresso meglio con chi ce l'avevo.

» postato da Naismith alle 21:38 del 22-10-2010

9 Ovviamente anch'io. Mi piace parlare di fantascienza sfruttando articoli che mi fanno riflettere e a volte sfruttando anche qualche scaramuccia che, se non è troppo pesante, può creare una base di discussione. Buona domenica e godiamoci la vita, come ci fa capire J.R. Lansdale nel finale del suo "La sottile linea scura". :)

» postato da Sergio Donato alle 12:34 del 23-10-2010

10 «soprattutto quando i commentatori non capiscono l'ironia dell'articolo. Ok, l'errore è mio quando penso che il senso dell'umorismo sia dote comune...» Francamente, a una prima lettura l'aspetto ironico dell'articolo mi era sfuggito. Poi, vista la tua replica, ho svegliato con un calcio e minacciato con un fulminatore il mio senso dell'umorismo e, a una seconda lettura, sono riuscito a percepirlo (l'aspetto ironico, non il calcio). Pero' non ti arrabbiare con chi, come me, non riesce a percepire tutte le sfumature di quello che scrivi. Comunque, ironie a parte, il tuo articolo e' molto interessante ed e' un ottimo spunto per riflettere.

» postato da A.B.Normal alle 14:02 del 23-10-2010

11 Lavorando in una azienda che usa su un paio di macchinari bracci robotizzati non ho potuto non trovare interessante ed importante l'esperimento. Limitare il più possibile i danni provocati dal contato accidentale tra bracci robotizzati ed umani è importante nell'industria moderna. La sola prima legge della robotica non serve se non si pongono anche dei limiti alla forza di questi strumenti. E non solo nella prevenzioni degli incidenti, ma anche nel prevenire danni al prodotto finito o allo stesso braccio robotizzato in caso di errore umano e/o tecnico o avarie nei controlli. Palomino.

» postato da KVT Palomino alle 15:47 del 23-10-2010

Puoi continuare la discussione sul forum

Commenta questo articolo

Sei già registrato?
Inserisci DelosID e password

Hai dimenticato la password?

Registrati ora!

Non sei registrato?
Inserisci nome, cognome e email

Il commento verrà inserito anche nel forum di questo sito. L'indirizzo email à obbligatorio ma non sarà pubblicato né memorizzato. Commenti anonimi o con nomi falsi saranno cancellati.