Il a tenté d'évincer le PDG d'OpenAI et lance maintenant un concurrent qui met l'accent sur la sécurité.
Samedi X, Ilya Sutskever a annoncé des plans pour une nouvelle entreprise intitulée Safe Superintelligence Inc. (SSI). Sur leur site web, l'entreprise a déclaré :
"SSI représente notre mission, notre identité et notre stratégie produit entière, car c'est notre point focal. Notre équipe, nos investisseurs et notre modèle d'affaires sont tous alignés pour atteindre SSI. Notre objectif est de développer rapidement des capacités tout en faisant de la sécurité la priorité. Ainsi, nous pouvons étendre notre activité sans aucune inquiétude."
Cette annonce arrive lorsque les inquiétudes grandissent dans la communauté technologique et au-delà, questionnant si l'IA avance à un taux plus rapide que la recherche de sécurité et d'éthique, avec une régulation minimale qui guide les entreprises technologiques sur l'utilisation responsable de la technologie.
Connu comme l'une des figures pionnières de la révolution AI, Sutskever a travaillé sous le pionnier de l'IA Geoffrey Hinton pendant ses années d'études et a cofondé une entreprise AI qui a été plus tard rachetée par Google. Suivant un passage sur l'équipe de recherche AI de Google, Sutskever a contribué à l'établissement de l'entité derrière ChatGPT.
Cependant, les choses se sont compliquées pour Sutskever à OpenAI lorsqu'il a été associé à une tentative de licencier Sam Altman l'an dernier, entraînant une remaniement spectaculaire de la direction qui comprenait le licenciement, le réengagement et une réorganisation du conseil d'administration en une semaine.
Selon des sources telles que le contributeur de CNN Kara Swisher, Sutskever craignait que Altman poussait la technologie AI trop agressivement. Cependant, après le licenciement d'Altman, Sutskever a exprimé des regrets pour son implication et a par la suite signé une lettre appuyant la démission complète du conseil d'administration et le retour d'Altman.
En mars, Sutskever a annoncé son départ d'OpenAI – l'un des nombreux départements autour du même temps – pour se concentrer sur un projet de signification personnelle.
Les objectifs de Safe Superintelligence restent incertains, car il est indéterminé comment ils prévoient de monétiser un modèle d'IA plus "sûr" ou la forme précise de leur technologie en termes de produits. De plus, il est incertain ce qu'ils entendent par "sécurité" en relation avec une technologie d'IA très intelligente.
Dans une interview avec Bloomberg, Sutskever a déclaré : "Par sûr, nous signifions sûr comme la sécurité nucléaire au lieu de sûr comme 'sécurité et confiance'."
Les employés qui ont quitté OpenAI ont exprimé des inquiétudes quant à l'entreprise qui privilégiait la croissance commerciale au-delà des investissements de long terme en matière de sécurité. L'un de ces anciens employés, Jan Leike, a soulevé des inquiétudes en mars quant à la décision d'OpenAI de dissoudre leur équipe "superalignement", qui était consacrée à la formation de systèmes AI pour s'adapter aux objectifs et aux valeurs humaines. (OpenAI, cependant, a affirmé que les membres de l'équipe superalignement étaient répartis dans l'entreprise pour mieux aborder les questions de sécurité.)
Dans leur annonce de lancement, Safe Superintelligence montre un désir de tracer une voie distincte : "Notre concentration sur le point focal nous assure qu'il n'y a pas de hassles de gestion ni de cycles de produit, et notre modèle d'affaires assure que la sécurité, la sécurité et le progrès sont tous protégés des pressions commerciales à court terme."
Se joint à Sutskever dans cette nouvelle entreprise Daniel Levy, qui a travaillé à OpenAI pendant les deux dernières années, et Daniel Gross, un investisseur qui auparavant travaillé comme partenaire au programme de lancement de startups Y Combinator et dans des projets de machine learning à Apple. Selon l'entreprise, ils établiront des bureaux à Palo Alto, en Californie, et à Tel Aviv, Israël.
Lire aussi:
- Telefónica vise le lancement commercial de la téléphonie par hologramme
- vzbv : Les groupes Internet continuent à tricher malgré l'interdiction
- Telefónica vise un lancement commercial de la téléphonie par hologramme en 2026
- L'écobilan des systèmes informatiques de la Confédération ne s'est guère amélioré
