Quelqu’un devrait faire un jeu sur : garder une IA dans sa boîte
Fermez les portes de la baie de pod.
En 2016, l’informaticien Andrew Ng a comparé l’inquiétude concernant l’IA super intelligente à l’inquiétude concernant la surpopulation sur Mars. Nous n’avons même pas atterri sur la planète, dit-il, alors pourquoi diable devrions-nous commencer à paniquer ? L’IA moderne peut tirer des tours accrocheurs, bien sûr, mais c’est à des milliards de kilomètres de présenter une menace existentielle pour l’humanité.
Le problème avec ce raisonnement est qu’il ne tient pas compte du temps qu’il nous faudra pour résoudre ce que les chercheurs en IA appellent “le problème d’alignement”, et ce que les spectateurs comme moi appellent “une merde assez bizarre”. Il y a beaucoup d’idées que je vais devoir parcourir pour expliquer pourquoi, mais les points clés sont : une IA super intelligente pourrait émerger très rapidement si jamais nous concevons une IA qui est bonne pour concevoir de l’IA, le produit d’une telle intelligence récursive explosion pourrait bien avoir des objectifs qui ne correspondent pas aux nôtres, et il y a peu de raisons de penser que cela nous permettrait d’appuyer sur l’interrupteur.
Comme des gens comme le philosophe Nick Bostrom aiment le dire, le problème n’est pas la malveillance – c’est la compétence. C’est lui qui a proposé cette expérience de pensée sur une IA qui se propose de transformer l’univers entier en trombones, un fantasme que vous pouvez et devez vivre grâce à ce clic en ligne gratuit. Une partie particulièrement épicée de la boulette de viande apocalyptique est qu’en donnant à une IA presque littéralement n’importe quel objectif, nous lui donnerions probablement aussi par inadvertance certains objectifs instrumentaux, comme maximiser sa propre puissance de calcul ou supprimer tout agent qui pourrait se mettre en travers de son chemin.
Actualités Eurogamer : Square Enix a-t-il fait assez pour sauver Marvel’s Avengers ?
Pour éviter le trombone, nous devons faire l’une des deux choses suivantes : soit nous assurer que l’IA ne veuille jamais nuire à l’humanité (en esquivant d’une manière ou d’une autre tous les scénarios de pattes de singe où nous sommes transformés en zombies de bonheur drogués), soit nous assurer l’IA ne peut pas nous atteindre. Enfermons l’IA dans une cage de Faraday, selon l’idée, et ne lui permettons d’interagir avec le monde qu’en nous parlant. Voila ! Le super-oracle de l’humanité, prêt à résoudre tous les problèmes du monde.
Voilà votre jeu. Vous pouvez jouer en tant qu’équipe de chercheurs, pompant l’IA pour obtenir des informations tout en la gardant sous clé, ou l’IA alors qu’elle tente de se frayer un chemin vers la liberté. Il existe peut-être des moyens de faire passer des signaux à travers une cage de Faraday que les esprits mortels ne peuvent pas comprendre – ou, plus probablement, vous pouvez peut-être défoncer les portes en discutant simplement avec les gardes.
Si les humains deviennent conscients de leur malléabilité, ils pourraient refuser de discuter ouvertement. Comme le souligne Bostrom, cependant, la discussion ne serait pas la seule voie de manipulation. Même si les humains ne posent aucune question et se contentent de scruter le fonctionnement interne de la machine, l’IA peut déformer ces lectures pour qu’elles paraissent inoffensives, berçant ses gardiens dans un faux sentiment de sécurité tout en les guidant subtilement vers des questions qui conduisent à sa sortie.
Quel que soit le réalisme avec lequel vous traitez tout ce scénario, ce serait intrigant à jouer. D’autant plus que le chercheur Elizer Yudkowsky l’a déjà fait et a réussi de manière déconcertante à s’accrocher à un pari en espèces trois fois sur cinq où il a défié quelqu’un de le garder enfermé.
Allez-vous soutenir Eurogamer ?
Nous voulons améliorer Eurogamer, et cela signifie mieux pour nos lecteurs – pas pour les algorithmes. Tu peux aider! Devenez un supporter d’Eurogamer et vous pourrez consulter le site sans aucune publicité, ainsi qu’un accès exclusif à des articles, des podcasts et des conversations qui vous rapprocheront de l’équipe, des histoires et des jeux que nous aimons tous. Les abonnements commencent à 3,99 £ / 4,99 $ par mois.
Soutenez-nous
Découvrez aussi plus d’articles dans nos catégories Astuce, Consoles & Jeux.
Merci pour votre visite on espère que notre article Quelqu’un devrait faire un jeu sur : garder une IA dans sa boîte
, n’oubliez pas de partager l’article sur Facebook, pinterest et whatsapp avec les hashtag ☑️ #Quelquun #devrait #faire #jeu #sur #garder #une #dans #boîte ☑️!