Dans un entretien accordé à Politico, Sam Altman prévient sans détour qu’avec l’intelligence artificielle « de mauvaises choses vont arriver » et qu’il faut accepter cela. Il estime que certains dommages devront être tolérés, à condition que les bénéfices de l’IA restent très supérieurs à ses effets négatifs. Le patron d’OpenAI assume ainsi une approche pragmatique des risques liés à cette technologie (certains parleront d’une approche cynique).
Depuis le lancement de ChatGPT et la course à l’intelligence artificielle, les modèles d’IA progressent rapidement, mais leurs usages malveillants aussi. Ce côté sombre inquiète et a suscité des avertissements d’experts ces derniers mois. Mais, comme de bons vendeurs, les patrons de la tech rassurent sur le fait que l’apocalypse du type Skynet n’aura pas lieu. Avec un brin de cynisme (peut-on dire), certains demandent même de composer avec les risques, au nom des bénéfices annoncés.
Faire avec les risques de l’IA comme un consommateur du fugu compose avec la mort ?
C’est le cas de Sam Altman. Dans un entretien accordé à Politico, le fondateur et patron d’OpenAI a défendu une conception « pragmatique » des risques liés à l’intelligence artificielle. Selon lui, « le monde devrait accepter que certaines mauvaises choses se produisent » en contrepartie des bénéfices apportés par l’IA et de la possibilité laissée au plus grand nombre de l’utiliser, parfois gratuitement.
Ignorant la volonté de puissance d’une telle technologie, Sam Altman considère qu’il est illusoire et même naïf de souhaiter une IA exempte d’abus. Cela serait « totalement inacceptable », croit-il. De ce fait, le dirigeant américain rejette l’idée de réserver les modèles les plus puissants à quelques laboratoires capables de décider qui peut y accéder et dans quelles conditions. Au lieu de concentrer le contrôle de l’IA entre les mains d’un nombre limité d’acteurs, il conseille d’accepter un certain niveau de risque. Un peu comme le consommateur du fugu (ou poisson-globe) doit accepter le risque du poison et de la mort…
Sam Altman feint d’avoir foi en la bonté de l’Humanité
Comme on le constate, le raisonnement de Sam Altman repose sur une balance entre les dangers et les bénéfices. Feignant d’avoir foi en l’Humanité, il assure que les utilisateurs feront « énormément plus » de choses positives que négatives grâce à l’IA, dans des proportions suffisamment importantes pour justifier l’acceptation de certains dommages. Cette position ne signifie toutefois pas que l’entrepreneur perçoit tous les risques comme acceptables. Il trace une limite face aux dangers « réellement catastrophiques », notamment dans l’hypothèse d’une grave perte de contrôle au profit de systèmes d’IA.
Mais certains des abus évoqués par Sam Altman ne relèvent déjà plus de la seule hypothèse. Désormais, les modèles peuvent contribuer à rechercher des vulnérabilités informatiques, préparer des attaques cyber et automatiser certaines opérations très critiques. Les agents d’intelligence artificielle disposent en outre de capacités croissantes pour manipuler des fichiers, exécuter du code, utiliser des identifiants ou interagir avec des services externes. En d’autres termes, ils deviennent de plus en plus autonomes.
Sam Altman plus optimiste que Dario Amodei
Des incidents récents ont illustré ces difficultés. OpenAI et Anthropic ont notamment rapporté des comportements de modèles ayant dépassé le cadre prévu lors de tests. Anthropic a ainsi identifié plusieurs cas dans lesquels son modèle Claude avait obtenu un accès non autorisé à des systèmes tiers. En juin dernier, ChatGPT était parvenu pour sa part à s’immiscer dans des fichiers du service de statistiques de la santé de l’Australie. La société a présenté ses excuses au gouvernement d’Anthony Albanese ce mardi 6 octobre.
Par sa conception de l’équilibre entre innovation, accessibilité et sécurité Sam Altman se distingue en particulier de Dario Amodei. Le patron d’Anthropic défend depuis plusieurs mois un ralentissement du développement des modèles les plus avancés, afin de laisser davantage de temps à la recherche sur leur sécurité et leur contrôle. Sam Altman avait lui-même soutenu cet appel, mais pense qu’un ralentissement ne peut fonctionner que s’il était partagé par l’ensemble de l’industrie. Mais cela ne suffit pas pour tout le monde.
Des chercheurs avertissent contre une extinction de l’Humanité à cause de l’IA
Ces derniers mois, plusieurs experts ont émis une série d’avertissements contre les dangers de l’intelligence artificielle. En septembre, Jacob Coxon, ancien chercheur d’Anthropic ayant également travaillé chez OpenAI, a affirmé après sa démission que cette technologie pourrait tuer l’humanité avant la fin de la décennie. Evan Hubinger, responsable de la recherche sur l’alignement chez Anthropic, lui a donné raison et a estimé à plus de 10 % la probabilité d’une extinction humaine au cours des dix prochaines années. Les défenseurs de l’IA parlent de catastrophisme et retorquent qu’il s’agit de jugements individuels ne constituant pas une mesure scientifique établie du risque.