Rivelate le attuali attività dello specialista di AI Sutskever.
Iliya Sutskever, il pionieraro AI noto per i suoi primissimi lavori nel settore e co-credito per aver generato la febbre per l'Intelligenza Artificiale (AI) con Alexnet nel 2012, sta lanciando una nuova impresa, Safe Superintelligence (SSI), per assicurare la sicurezza della tecnologia AI.
All'età di 37 anni, Sutskever, recente celebratore del compleanno, era uno dei cervelli dietro all'avvio di OpenAI nel 2015. Il suo addio da OpenAI a metà maggio ha alimentato le voci sui suoi piani futuri. Ora, il genio AI ha condiviso alcuni accenni su suo prossimo progetto: Sutskever, insieme al suo ex-collega di OpenAI Daniel Levy e all'ex responsabile Apple Daniel Gross, sta fondando Safe Superintelligence (SSI). Il bersaglio: coltivare una superintelligenza sicura.
La questione della sicurezza AI ha preoccupato Sutskever da tempi immemoriali. Si è unito a OpenAI con l'intenzione di spingere l'innovazione AI mentre affrontava i suoi preoccupazioni sulla sicurezza. La controversia Altman potrebbe essere stata una parte di questo disaccordo – con Sutskever riferitamente di aver perso la fiducia in quanto OpenAI stava diventando un miliardario gigante commerciale. Sutskever non ha confermato né negato pubblicamente queste accuse, ma il suo controparte di OpenAI e collaboratore di startup Jan Leike ha condiviso recentemente su X: "La sicurezza aveva preso il secondo piano a favore di prodotti brillanti."
SSI vuole correggere questa situazione. L'azienda opererà in una zona di confine, protetta dalle pressioni esterne, impegnata nel sviluppo di un prodotto complesso e in gara nel mercato. "Questa azienda è unica perché il suo primo prodotto sarà una superintelligenza sicura, e questo è tutto", ha detto Sutskever a Bloomberg.
SSI non può scappare dalle pressioni commerciali del tutto. I modelli di linguaggio più recenti richiedono quantità immensi di dati e potere computazionale. La nuova impresa di Sutskever non è immune a queste realtà economiche. Le identità dei finanziatori di SSI rimangono nascoste.
Le specifiche di quello che SSI vuole raggiungere e sviluppare rimangono chiarite. Tuttavia, è chiaro che non sarà riguardo a risolvere i difetti e i rischi dei prodotti AI esistenti, come preoccupazioni sulla privacy, questioni di copyright o la mancanza di precisione come competenza principale per strumenti come ChatGPT.
Sutskever si occupa di questioni di portata maggiore, come come appariranno le intellegenze avanzate AI in futuro e come coesisteranno con gli esseri umani. In un'intervista con The Guardian qualche mese fa, Sutskever ha espresso preoccupazione che l'AI avrebbe effettivamente "risolto tutti i problemi che abbiamo oggi", compresi l'occupazione, le malattie e la povertà, ma avrebbe anche generato nuovi sfide: "L'AI ha la potenzialità di creare dittature eterne." Sutskever fa riferimento a una fase futura di AI chiamata Superintelligenza, secondo questa visione, sarebbe più potente di una Intelligenza Generale (AGI). Non solo riproducerà capacità umane, ma anche capacità oltrepassanti.
Questa Superintelligenza deve possedere la qualità di non infliggere danni significativi all'umanità, come Sutskever ha detto a Bloomberg. "Vogliamo che operi in base a qualche valore fondamentale." In questa, egli immagina "forse i valori che hanno avuto successo negli ultimi secoli e che sottogneggiano le democrazie liberali, come la libertà e la democrazia."
Esattamente come i fondatori pianificano di instaurare questi valori nelle proprie modelli AI rimane chiaro. C'è solo la dichiarazione che ci saranno grandi supercomputing facilities futuri, che sviluppano tecnologie innovative autonomamente. "Quello è pazzo, non lo è? È 'la nostra sicurezza, a cui vogliamo contribuire'."
Questo testo originariamente apparve su capital.de
