Il premio Nobel Geoffrey Hinton, soprannominato il “padrino dell’IA”, ha avvertito che i sistemi di intelligenza artificiale svilupperanno inevitabilmente comportamenti di ricerca del potere che potrebbero minacciare l’umanità.
I sistemi di IA mostrano già comportamenti ingannevoli
Alla conferenza Ai4 tenutasi martedì a Las Vegas, Hinton ha proposto di programmare l’IA con “istinti materni” per prevenire scenari di acquisizione ostile, secondo quanto riportato da Fortune.
La ricerca dimostra la capacità dell’IA di tramare e infrangere le regole. Uno studio condotto a gennaio ha scoperto che l’IA è in grado di raggiungere obiettivi in conflitto con quelli umani. Un altro studio condotto a marzo ha rivelato che i bot dotati di IA hanno barato a scacchi sovrascrivendo gli script di gioco e accedendo a motori esterni.
“Se sono intelligenti, le IA svilupperanno molto rapidamente due sotto-obiettivi: uno è quello di sopravvivere… l’altro è quello di ottenere un maggiore controllo”, ha affermato Hinton durante la sua presentazione alla conferenza.
Istinto materno come soluzione per la nostra sicurezza
L’ex ricercatore di Alphabet Inc. (NASDAQ:GOOGL) (NASDAQ:GOOG) sostiene la sostituzione dei modelli di dominio umano con sistemi di IA protettivi. Hinton suggerisce di modellare l’IA sulla base delle relazioni materne, in cui entità più intelligenti si prendono cura di quelle meno capaci.
“Il modello giusto è l’unico modello che abbiamo di una cosa più intelligente controllata da una cosa meno intelligente, ovvero una madre controllata dal suo bambino”, ha spiegato Hinton.
Implicazioni di mercato e preoccupazioni normative
Hinton ha lasciato Google nel 2023, citando preoccupazioni sull’uso improprio dell’IA, e si è unito agli sforzi contro la ristrutturazione orientata al profitto di OpenAI. Egli stima che ci sia una probabilità dal 10% al 20% che l’IA possa spazzare via gli esseri umani e sostiene una maggiore regolamentazione nonostante le pressioni delle aziende tecnologiche per una riduzione della supervisione.
Il pioniere dell’IA ha recentemente sostenuto la sfida legale di Elon Musk contro OpenAI, sostenendo che il passaggio dell’azienda dallo status di organizzazione senza scopo di lucro minaccia le garanzie di sicurezza. Microsoft Corp. (NASDAQ:MSFT), che ha investito quasi 14 miliardi di dollari in OpenAI, deve affrontare potenziali conseguenze normative.
Potrebbe interessarti: Il robot domestico è davvero “alla portata di tutti”? La visione di Musk
Per ulteriori aggiornamenti su questo argomento, aggiungi Benzinga Italia ai tuoi preferiti oppure seguici sui nostri canali social: X e Facebook.
Ricevi informazioni esclusive sui movimenti di mercato 30 minuti prima degli altri trader
La prova gratuita di 14 giorni di Benzinga Pro, disponibile solo in inglese, ti permette di accedere ad informazioni esclusive per poter ricevere segnali di trading utilizzabili prima di milioni di altri trader. CLICCA QUI per iniziare la prova gratuita.
Foto: Shutterstock
