Le rêve d'une IA dans l'intérêt de tous s'est évanoui
Autrefois, Sam Altman voulait créer une intelligence artificielle pour le bien de l'humanité. Puis les milliards de Microsoft sont arrivés. Dans la guerre de religion qui divise le milieu de l'IA, il s'est imposé : les profits rapides passent désormais avant la sécurité.
Lorsque Sam Altman a reçu vendredi dernier un SMS de son chef de la technologie et cofondateur Ilya Sutskever, il ne pouvait pas encore se douter que son dernier jour de travail chez OpenAI venait de commencer. Sutskever lui a demandé s'il pouvait participer à un appel vidéo à midi. Lors de la réunion, Sutskever et le reste de son conseil d'administration ont annoncé à Altman qu'il était viré. Immédiatement après, ses comptes ont été bloqués. C'est ce que rapportent les médias américains.
L'éviction d'Altman a provoqué une onde de choc dans le monde de la technologie aux Etats-Unis, voire dans le monde entier. Car le développeur de ChatGPT n'est pas une simple start-up, mais la figure de proue de la révolution de l'IA. Et son fondateur et chef Sam Altman son visage. Après que les collaborateurs se soient ouvertement rebellés et aient menacé de faire défection auprès de Microsoft, le plus gros investisseur, ou de s'engager chez la concurrence, les surveillants ont cédé. Après d'âpres négociations, Altman fait un retour triomphal en tant que CEO, quelques jours seulement après avoir été licencié. La tranquillité règne désormais dans ce qui est peut-être la plus importante entreprise technologique des Etats-Unis. Mais elle reste trompeuse.
Car les analystes technologiques, les journalistes et les investisseurs continuent de s'interroger sur ce qui s'est exactement passé chez OpenAI. Même l'entreprise d'intelligence artificielle ne le sait pas et veut faire examiner les événements par des enquêteurs externes. Une seule chose est claire : pour les uns, Sam Altman a sacrifié sa noble mission au profit de l'argent. Pour les autres, il est devenu la cible de superviseurs hyper prudents et incompétents. Il a certes gagné la lutte de pouvoir avec ses adversaires internes. Mais avec le drame d'OpenAI, il faut sans doute enterrer son rêve d'une intelligence artificielle développée en toute sécurité au profit de l'humanité, à l'abri des intérêts commerciaux des géants de la technologie.
Le grand écart entre sauver le monde et le commerce
C'est précisément avec cette ambition qu'Altman a fondé sa start-up en 2015 à San Francisco. L'idée altruiste se manifestait déjà dans le nom : OpenAI, ouvert et transparent. Il en va de même pour la forme : ce n'est pas une entreprise à but lucratif, mais une organisation de recherche à but non lucratif qui se trouve jusqu'à aujourd'hui formellement derrière le logiciel révolutionnaire de la startup.
Mais Altman n'a pas pu tenir longtemps cette exigence : À partir de 2019, Microsoft a investi au total jusqu'à 13 milliards de dollars et s'est assuré en contrepartie les droits exclusifs sur les programmes des artistes de l'IA. OpenAI a créé à cet effet une filiale à but lucratif, dont les bénéfices sont toutefois plafonnés.
Depuis, OpenAI s'est retrouvée coincée dans une structure unique, que l'on peut qualifier de bizarre : les investisseurs multimilliardaires, comme c'est souvent le cas dans la Silicon Valley, n'ont pas voix au chapitre au sein du conseil d'administration d'OpenAI. Et Altman de faire le grand écart : développer l'intelligence artificielle pour le bien de l'humanité et dans un souci de sécurité. Tout en transformant son but non lucratif en un business de plusieurs milliards.
Hystérie de la fin du monde ou engouement pour la technologie ?
Bien avant l'éviction d'Altman, une profonde déchirure a donc traversé OpenAI. Dès 2021, quelques chercheurs en IA autour de Dario Amodei se sont retirés et ont fondé avec AnthropicAI le plus grand concurrent d'Altman aujourd'hui - de peur que leur ancien chef n'ait perdu de vue les risques de cette technologie révolutionnaire. Grâce à l'accord avec Microsoft, Altman a pu investir toujours plus d'argent et de puissance de calcul dans les programmes. "Nous pensions qu'il fallait plus que de simples modèles toujours plus performants : une adaptation aux valeurs humaines - la sécurité", a expliqué plus tard Amodei à "Fortune" pour expliquer son départ.
Son départ était un signal d'alarme montrant que la guerre de religion qui fait rage sur la scène de l'IA avait également touché OpenAI depuis longtemps : d'un côté, il y a les oiseaux de mauvais augure qui voient dans l'intelligence artificielle une machine potentiellement semblable à un dieu, qui pourrait un jour échapper à tout contrôle et exterminer l'humanité comme des animaux. Au moins trois des surveillants désormais licenciés sont considérés comme appartenant à cette faction. On dit également de Sutskever qu'il doutait qu'Altman ait encore en tête la noble mission d'OpenAI.
Les optimistes estiment que ces scénarios de fin du monde sont exagérés. Pour eux, l'IA est peut-être l'invention la plus importante de l'humanité, avec d'énormes avantages potentiels pour des milliards de personnes. "Nous en sommes arrivés là parce que des risques insignifiants et minuscules ont été gonflés de manière hystérique par les opinions exotiques de nerds de la science et d'une presse accro aux clics", a commenté le vétéran du capital-risque Vinod Khosla, l'un des premiers investisseurs dans l'IA ouverte, après l'éviction d'Altman.
Les intérêts de profit des géants de l'Internet dominent désormais
Dans le cas d'OpenAI, ces deux factions - les superviseurs hyper prudents et les grands investisseurs orientés vers le profit - se livraient donc depuis longtemps une lutte cachée. La semaine dernière, elle a simplement éclaté au grand jour. Le déclencheur exact n'est pas clair. Altman "n'a pas été cohérent et sincère dans sa communication avec le conseil de surveillance" et a ainsi "entravé sa capacité à exercer ses fonctions", peut-on lire dans le communiqué de presse annonçant son éviction.
Cela pourrait être lié à la tournée d'investisseurs au Moyen-Orient, dans laquelle Altman se trouvait depuis des semaines, selon les médias, afin de mobiliser de nouveaux fonds pour des puces bon marché dont OpenAI a besoin pour ses modèles. La base de confiance entre le charismatique CEO, auquel les investisseurs étaient attachés, et ses superviseurs s'est manifestement érodée de plus en plus - peut-être parce que son cours est devenu trop commercial pour eux.
Le conseil de surveillance d'OpenAI n'a peut-être fait que ce qui relève de son mandat : tirer la sonnette d'alarme lorsqu'il estime que la mission d'utilité publique d'OpenAI est en danger. L'ironie, c'est que les superviseurs "incompétents", comme les employés d'OpenAI les ont appelés dans leur lettre de protestation, ont presque ruiné l'entreprise entière. Et ont ainsi ouvert la voie à la commercialisation.
En effet, trois des quatre superviseurs critiques, plutôt orientés vers la sécurité, qui ont viré Altman, sont désormais eux-mêmes exclus du conseil d'administration. En revanche, l'ex-secrétaire au Trésor américain Larry Summers et Bret Taylor - ex-patron de Salesforce et familier d'Altman - font leur entrée. Taylor devient en outre président du conseil de surveillance. Altman a ainsi installé des contrôleurs qui lui sont favorables, qui devraient soutenir son orientation plus rapide et plus commerciale et lui donner "les ressources nécessaires à son succès", comme l'a souhaité le chef de Microsoft Satya Nadella. Il est également prévu d'installer jusqu'à six nouveaux superviseurs supplémentaires, qui pourraient représenter davantage les intérêts des bailleurs de fonds milliardaires. Ils détermineront bientôt dans quelle mesure la plus grande révolution technologique de l'histoire de l'humanité se déroulera réellement dans l'intérêt général.
Source: www.ntv.de
