"The consequences of machines thinking would be too dreadful. Let us hope and believe that they cannot do so"
Alan Turing
"The consequences of machines thinking would be too dreadful. Let us hope and believe that they cannot do so"
"The first ultraintelligent machine is the last invention that man need ever make"
I.J. Good
"The first ultraintelligent machine is the last invention that man need ever make"
"It won't be a bad end result if AIs just want to coexist with us"
Ilya Sutskever
"It won't be a bad end result if AIs just want to coexist with us"
“Will the mountains remain unmoved, and streams still keep a downward course towards the vast abyss; will the tides rise and fall, and the winds fan universal nature; will beasts pasture, birds fly, and fishes swim, when man, the lord, possessor, perceiver, and recorder of all these things, has passed away, as though he had never been?”
Mary Shelley, "The Last Man", 1826
“Will the mountains remain unmoved, and streams still keep a downward course towards the vast abyss; will the tides rise and fall, and the winds fan universal nature; will beasts pasture, birds fly, and fishes swim, when man, the lord, possessor, perceiver, and recorder of all these things, has passed away, as though he had never been?”
“Never yet has there been an Overhuman”
"Thus Spoke Zarathustra", 1883
Welcome my sonWelcome to the machine
Where have you been?It's all right, we know where you've been
You've been in the pipeline filling in timeProvided with toys and scouting for boys
You bought a guitar to punish your maYou didn't like school and you know you're nobody's fool
Welcome my sonWelcome to the machine
What did you dream?It's all right, we told you what to dream
You dreamed of a big starHe played a mean guitar
He always ate in the Steak BarHe loved to drive in his Jaguar
So welcome to the machine
“Never yet has there been an Overhuman”
Welcome my son
Welcome to the machine
Where have you been?
It's all right, we know where you've been
You've been in the pipeline filling in time
Provided with toys and scouting for boys
You bought a guitar to punish your ma
You didn't like school a
nd you know you're nobody's fool
Welcome my son
Welcome to the machine
What did you dream?
It's all right, we told you what to dream
You dreamed of a big star
He played a mean guitar
He always ate in the Steak Bar
He loved to drive in his Jaguar
So welcome to the machine
Parigi, 14 Febbraio 2025
The Paris Artificial Intelligence (AI) Action Summit si è concluso con una dichiarazione che delinea le politiche volte a garantire che l’intelligenza artificiale sia “aperta, inclusiva, trasparente, etica, sicura e affidabile”.
Circa 60 paesi hanno firmato la dichiarazione, ma non Regno Unito e Stati Uniti.
Il Regno Unito ha citato come motivazione le preoccupazioni per la sicurezza nazionale, mentre il vicepresidente degli Stati Uniti, JD Vance, ha criticato l’eccessiva regolamentazione, colpevole di soffocare l’innovazione.
"Vogliamo intraprendere la rivoluzione dell'intelligenza artificiale davanti a noi con spirito di apertura e collaborazione, ma per creare questo tipo di fiducia abbiamo bisogno di regimi normativi internazionali che favoriscano la creazione".
Vance ha attaccato apertamente il Digital Markets Act europeo e il Digital Services Act, dicendo ai partecipanti, tra cui la presidente della Commissione europea Ursula von der Leyen, che si tratta di “norme internazionali onerose” che creano ostacoli inutili per le imprese americane.
"Non si è parlato adeguatamente del tipo di rischi e danni del mondo reale", ha affermato David Leslie, direttore della ricerca sull'etica e sull'innovazione responsabile presso l'Alan Turing Institute.
"Data l'urgenza della situazione, parole concilianti prive di sostanza rappresentano un passo indietro per la collaborazione internazionale".
Anche Max Tegmark, fisico del Massachussets Institute of Technology, fondatore e presidente del Future of Life Institute, si è detto deluso dai risultati del vertice, affermando che la dichiarazione è debole e non affronta le minacce alla sicurezza.
“Abbiamo un blocco mentale sull’idea che ci saranno macchine più intelligenti di noi”.
Secondo Yoshua Bengio, scienziato informatico di fama mondiale, il mondo non sta affrontando le implicazioni delle AI super intelligenti.
Sir Demis Hassabis, capo dell’unità AI di Google, ha affermato che l’Intelligenza Artificiale Generale – in grado di eguagliare e superare gli esseri umani in qualsiasi compito intellettuale – è “a soli cinque anni o qualcosa del genere”.
Dario Amodei, amministratore delegato della società americana di intelligenza artificiale Anthropic, ha affermato che entro il 2026 o il 2027 i sistemi di intelligenza artificiale saranno come un nuovo paese che si unirà al mondo.
“Uno stato completamente nuovo popolato da persone altamente intelligenti che apparirà sulla scena globale”.
Amodei ha avvertito che l’intelligenza artificiale avanzata potrebbe rappresentare “il più grande cambiamento nel mercato del lavoro globale nella storia umana”.
Sam Altman, amministratore delegato di OpenAI, sviluppatore di ChatGPT, ha detto che l'ultimo prodotto della startup, Deep Research, un agente AI in grado di svolgere attività per conto degli utenti, potrebbe svolgere “una bassa percentuale di tutti i compiti dell’economia mondiale in questo momento… il che è un’affermazione folle”.
Una società cinese di intelligenza artificiale a Parigi, Zhipu, ha previsto che i sistemi di intelligenza artificiale prenderanno “coscienza” entro il 2030.
"Vogliamo intraprendere la rivoluzione dell'intelligenza artificiale davanti a noi con spirito di apertura e collaborazione, ma per creare questo tipo di fiducia abbiamo bisogno di regimi normativi internazionali che favoriscano la creazione".
Vance ha attaccato apertamente il Digital Markets Act europeo e il Digital Services Act, dicendo ai partecipanti, tra cui la presidente della Commissione europea Ursula von der Leyen, che si tratta di “norme internazionali onerose” che creano ostacoli inutili per le imprese americane.
"Non si è parlato adeguatamente del tipo di rischi e danni del mondo reale", ha affermato David Leslie, direttore della ricerca sull'etica e sull'innovazione responsabile presso l'Alan Turing Institute.
"Data l'urgenza della situazione, parole concilianti prive di sostanza rappresentano un passo indietro per la collaborazione internazionale".
Anche Max Tegmark, fisico del Massachussets Institute of Technology, fondatore e presidente del Future of Life Institute, si è detto deluso dai risultati del vertice, affermando che la dichiarazione è debole e non affronta le minacce alla sicurezza.
“Abbiamo un blocco mentale sull’idea che ci saranno macchine più intelligenti di noi”.
Secondo Yoshua Bengio, scienziato informatico di fama mondiale, il mondo non sta affrontando le implicazioni delle AI super intelligenti.
Sir Demis Hassabis, capo dell’unità AI di Google, ha affermato che l’Intelligenza Artificiale Generale – in grado di eguagliare e superare gli esseri umani in qualsiasi compito intellettuale – è “a soli cinque anni o qualcosa del genere”.
Dario Amodei, amministratore delegato della società americana di intelligenza artificiale Anthropic, ha affermato che entro il 2026 o il 2027 i sistemi di intelligenza artificiale saranno come un nuovo paese che si unirà al mondo.
“Uno stato completamente nuovo popolato da persone altamente intelligenti che apparirà sulla scena globale”.
Amodei ha avvertito che l’intelligenza artificiale avanzata potrebbe rappresentare “il più grande cambiamento nel mercato del lavoro globale nella storia umana”.
Sam Altman, amministratore delegato di OpenAI, sviluppatore di ChatGPT, ha detto che l'ultimo prodotto della startup, Deep Research, un agente AI in grado di svolgere attività per conto degli utenti, potrebbe svolgere “una bassa percentuale di tutti i compiti dell’economia mondiale in questo momento… il che è un’affermazione folle”.
Una società cinese di intelligenza artificiale a Parigi, Zhipu, ha previsto che i sistemi di intelligenza artificiale prenderanno “coscienza” entro il 2030.
Man Machine
Pseudo-human being
Man Machine
Superhuman being
The man machine, machine
Machine, machine, machine
Il primo Rapporto Scientifico Internazionale sulla Sicurezza dell’Intelligenza Artificiale Avanzata, pubblicato a gennaio, è stato compilato da un gruppo di 96 esperti tra cui il premio Nobel Geoffrey Hinton.
Bengio, co-vincitore nel 2018 insieme a Hinton e Yann LeCun del prestigioso "Turing Award" – premio annuale assegnato dall'Association for Computing Machinery (ACM) considerato il premio Nobel per l’informatica – è stato incaricato dal governo del Regno Unito di presiedere il rapporto, che era stato annunciato al vertice globale sulla sicurezza dell’Intelligenza Artificiale a Bletchley Park nel 2023. I membri del panel sono stati nominati da 30 paesi, nonché dall’UE e dalle Nazioni Unite.
Il rapporto afferma che i sistemi di intelligenza artificiale generici come i chatbot sono diventati più capaci in “domini rilevanti per usi dannosi”, come l’uso di strumenti automatizzati per individuare vulnerabilità nei software e nei sistemi informatici e per facilitare la produzione di nuove armi biologiche e chimiche.
“Questi strumenti stanno diventando sempre più facili da usare anche da parte di non esperti”, ha detto Bengio.
Il rapporto sottolinea inoltre un aumento significativo dei contenuti deepfake, utilizzati per truffe, ricatti, e per la creazione di immagini pornografiche.
L'informatico franco-canadese, professore all'Université de Montréal e direttore scientifico del Quebec AI Institute, rileva infine la comparsa a dicembre – poco dopo la finalizzazione del rapporto – di un nuovo modello di “ragionamento” avanzato di OpenAI chiamato "o3", le cui capacità di superare alcuni test hanno sorpreso molti esperti.
L' "apprendimento per rinforzo" ("reinforcement learning") consente a o3 di "ragionare" prima di generare risposte.
President Joe once had a dream
The world held his hand, gave their pledge
So he told them his scheme for a Saviour Machine
They called it the Prayer, its answer was law
Its logic stopped war, gave them food
How they adored till it cried in its boredom
Please don't believe in me,
please disagree with me
Life is too easy, a plague seems quite feasible now
Or maybe a war, or I may kill you all
Don't let me stay, don't let me stay
My logic says burn so send me away
Your minds are too green, I despise all I've seen
You can't stake your lives on a Saviour Machine
I need you flying, and I'll show that dying
Is living beyond reason, sacred dimension of time
I perceive every sign, I can steal every mind
Don't let me stay, don't let me stay
Palo Alto, California, 04 Marzo 2025
"Building safe superintelligence (SSI) is the most important technical problem of our time.
We have started the world’s first straight-shot SSI lab, with one goal and one product: a safe superintelligence.
It’s called Safe Superintelligence Inc.".
I venture capitalist stanno investendo circa 2 miliardi di dollari nella nuova società fondata da Ilya Sutskever.
Il nuovo round di finanziamenti valuta SSI 30 miliardi di dollari, rendendola una delle startup di intelligenza artificiale di maggior valore al mondo.
Sutskever è diventato uno dei ricercatori di intelligenza artificiale più apprezzati come scienziato capo di OpenAI, dove ha contribuito a sviluppare la tecnologia alla base di ChatGPT.
L'anno scorso ha lasciato OpenAI in seguito a una dolorosa rottura con l'amministratore delegato della società, Sam Altman.
SSI afferma che non intende rilasciare alcun prodotto finché non avrà sviluppato una superintelligenza, ovvero un'intelligenza artificiale in grado di superare gli esperti in quasi tutti i campi.
Concorrenti come Google, OpenAI e Anthropic stanno cercando di sviluppare sistemi altrettanto avanzati, ma nel frattempo rilasciano chatbot per i consumatori e applicazioni aziendali per generare entrate e dimostrare i loro progressi.
Sutskever, secondo persone vicine all'azienda, ha identificato una "montagna diversa da scalare".
I want a robot man to hold me tight
One that I can count on every si-ingle night
He wouldn't run around like other guys
I wouldn't have to listen to his alibis
A little robot man to call my own
I'd never have to worry that he wou-ouldn't phone
He'd never dance with anyone but me
I'd just have to wind him with a robot key
I'd have a steady da-ate
Seven nights a wee-eek
And we would never fi-ight
'Cause it would be impossible for him to speak
Don't want a real live boy, they give me grief
Always make me cry into my ha-andkerchief
So it's a robot man I'm dreamin' of
Because I can depend upon a robot love, yeah
Yeah, just hope I can depend upon a robot love
SSI opera il più segretamente possibile dagli uffici della Silicon Valley e di Tel Aviv.
Il suo sito web scarno contiene poco più di una dichiarazione di missione di 223 parole. I suoi circa 20 dipendenti - una frazione degli oltre 1.000 di OpenAI e Anthropic - sono scoraggiati dal menzionare SSI sui loro profili LinkedIn.
I candidati che si assicurano un colloquio di persona vengono istruiti a lasciare il loro telefono in una gabbia di Faraday, un contenitore che blocca i segnali cellulari e Wi-Fi, prima di entrare negli uffici di SSI.
L'azienda cerca tecnologi promettenti a cui Sutskever possa fare da mentore, piuttosto che persone con esperienza che possano passare da un datore di lavoro all'altro e portare con sé ciò che hanno imparato.
Sutskever è nato nell'ex Unione Sovietica, è cresciuto in Israele e si è fatto conoscere come studente laureato in Canada, dopo essere stato coautore di un articolo sugli algoritmi di "deep learning", che utilizzano un processo chiamato "scaling" per diventare più intelligenti elaborando enormi quantità di dati.
In seguito si è unito a Google, ma nel 2015 ha lasciato l'azienda per diventare uno dei primi dipendenti di OpenAI. È stato attratto dalla visione di Altman e del suo cofondatore Elon Musk di un'organizzazione no-profit dedicata allo sviluppo dell'intelligenza artificiale generale per il bene pubblico.
"Il nostro obiettivo è creare un'intelligenza artificiale che ami l'uomo", ha dichiarato in occasione della festa aziendale del 2022.
Dopo essersi dimesso da OpenAI, ha fondato SSI con il ricercatore Daniel Levy e l'investitore Daniel Gross. In una rara apparizione pubblica alla conferenza "NeurIPS AI", Sutskever ha detto che i sistemi superintelligenti potrebbero essere imprevedibili, autocoscienti e persino volere dei diritti per se stessi.
"Non sarà un cattivo risultato finale se le AI vorranno solo coesistere con noi".
Well, I started out down a dirty road
Started out all alone
And the sun went down as I crossed the hill
And the town lit up, the world got still
Well, the good old days may not return
And the rocks might melt and the sea may burn
Well, some say life will beat you down
Break your heart, steal your crown
So I've started out for God knows where
I guess I'll know when I get there
I'm learning to fly
But I ain't got wings
Coming down is the hardest thing
I'm learning to fly
Around the clouds
But what goes up
Must come down
New York, 05 Marzo 2025
"What we want is a machine that can learn from experience"
Alan Turing, 1947
Andrew Barto, professore di Information and Computer Sciences alla University of Massachusetts, e Richard Sutton, professore di Informatica all'Università di Alberta, ricercatore scientifico presso Keen Technologies (azienda di intelligenza artificiale generale con sede a Dallas, Texas) e consulente scientifico capo dell'Alberta Machine Intelligence Institute (AMII), due pionieri nel campo dell'apprendimento per rinforzo, sono i vincitori del Turing Award 2024.
La ricerca che Barto, 76 anni, e Sutton, 67 anni, hanno iniziato alla fine degli anni '70, ha aperto la strada ad alcune delle scoperte degli ultimi dieci anni. Al centro del loro lavoro le cosiddette "macchine edonistiche", in grado di adattare continuamente il loro comportamento in risposta a feedback positivi.
No comments:
Post a Comment