Note de la rédaction: ceci diffère de notre format d’explicitation et de procédure habituel dans lequel nous laissons nos rédacteurs effectuer des recherches et présenter un aperçu de la technologie suscitant la réflexion.
Des gros succès estivaux tels que Avengers: Age of Ultron et le film Transcendence de Johnny Depp, à des films indépendants plus petits comme Ex-Machina ou le drame à succès Humans de Channel 4, les scénaristes ne peuvent apparemment pas en avoir assez du trope, quelle que soit leur forme. Cela prendra éventuellement au cours des prochaines décennies, vous pouvez être sûr que ce sera l'enfer de donner à l'humanité une leçon sur le fait d'être victime de son propre orgueil.
Mais cette peur des machines est-elle justifiée? Dans cette fonction, nous allons examiner le monde de l'IA du point de vue des scientifiques, ingénieurs, programmeurs et entrepreneurs travaillant sur le terrain aujourd'hui et résumer ce qu'ils pensent être la prochaine grande révolution de l'intelligence humaine et informatique.
Alors, devriez-vous commencer à stocker des balles pour la guerre à venir avec Skynet ou à vous botter le pied pendant qu'une armée de drones subordonnés prend soin de tous vos caprices? Continuez à lire pour le découvrir.
Connais ton ennemi
Pour commencer, il est utile de savoir exactement de quoi nous parlons lorsque nous utilisons le terme générique «AI». Le mot a été jeté et redéfini cent fois depuis que le concept d’ordinateurs conscients de soi a été proposé par le père non officiel de l’intelligence artificielle, John McCarthy, en 1955… mais que signifie-t-il vraiment?
Tout d’abord, les lecteurs doivent savoir que l’intelligence artificielle telle que nous la concevons aujourd’hui se divise en deux catégories distinctes: «ANI» et «AGI».
Le premier, en abrégé Artificial Narrow Intelligence (intelligence artificielle étroite), englobe ce que l’on appelle généralement l’IA «faible», ou une IA qui ne peut opérer que dans un domaine de spécialisation limité. Think Deep Blue, le supercalculateur conçu par IBM pour dépasser les maîtres d’échecs du monde en 1997. Deep Blue peut vraiment faire une chose vraiment bien: battre les humains aux échecs… mais c’est à peu près tout.
ANI est l'implémentation utile et relativement inoffensive de l'intelligence artificielle dont toute l'humanité peut tirer parti, car, même si elle est capable de traiter des milliards de demandes et de nombres en même temps, elle fonctionne toujours dans un environnement contraint, limité par le nombre de transistors autorisés. avoir à un moment donné. D’autre part, l’intelligence artificielle contre laquelle nous nous inquiétons de plus en plus s'appelle «intelligence artificielle générale».
Dans l'état actuel des choses, créer tout ce qui peut même être appelé à distance comme étant AGI reste le Saint Graal de l'informatique et - s'il est réalisé - pourrait fondamentalement changer tout ce qui concerne le monde tel que nous le connaissons. Il existe de nombreux obstacles pour surmonter le défi de créer une véritable AGI comparable à l'esprit humain, notamment le fait qu'il existe de nombreuses similitudes entre la manière dont notre cerveau fonctionne et la manière dont les ordinateurs traitent l'information. d'interpréter réellement les choses comme nous le faisons; les machines ont la mauvaise habitude de se raccrocher aux détails et de rater la forêt pour les arbres.
"J'ai peur de ne pas vous laisser faire ça, Dave"
Après que le célèbre ordinateur Watson d’IBM ait appris à maudire après avoir lu le dictionnaire urbain, nous avons compris à quel point nous nous trouvions loin d’une intelligence artificielle réellement capable de trier la minutie de l’expérience humaine et de brosser un tableau fidèle "Pensée" est censé être fait de.
Voir, pendant le développement de Watson, les ingénieurs avaient du mal à lui enseigner un langage naturel qui imitait de plus près le nôtre, plutôt que celui d'une machine brute parlant en phrases parfaites. Pour résoudre ce problème, ils ont pensé que ce serait une bonne idée d'exécuter l'intégralité du dictionnaire urbain dans ses banques de mémoire, après quoi Watson a répondu à l'un des tests de l'équipe en l'appelant «bullsh * t».
L’énigme est que même si Watson savait que c’était une malédiction et que ce qu’il disait était offensant, elle n’avait pas bien compris Pourquoi il n’était pas supposé utiliser ce mot, qui est la composante essentielle qui sépare l’ANI standard d’aujourd’hui de l’AGI de demain. Bien sûr, ces machines peuvent lire des faits, écrire des phrases et même simuler le réseau neuronal d'un rat, mais s'agissant de la pensée critique et du jugement, l'IA d'aujourd'hui est toujours à la traîne.
Ce fossé entre le savoir et la compréhension n’est pas étonnant, c’est celui que les pessimistes soulignent en affirmant que nous sommes encore loin de créer une AGI capable de se connaître elle-même comme nous le faisons. C’est un gouffre énorme que ni les ingénieurs informaticiens ni les psychologues humains ne peuvent prétendre maîtriser dans la définition moderne de ce qui fait de l’être conscient, eh bien, conscient.
Que faire si Skynet devient conscient de lui-même?
Cependant, même si nous parvenons à créer une AGI au cours de la prochaine décennie (ce qui est assez optimiste compte tenu des projections actuelles), tout devrait être envisagé dès maintenant, n'est-ce pas? Les humains vivant avec l’IA, l’IA traînant avec des humains le week-end après une longue journée passée dans l’usine de calcul. Faites vos valises et nous avons fini ici?
J'espère que nous ne sommes pas seulement le chargeur de démarrage biologique pour la surintelligence numérique. Malheureusement, cela est de plus en plus probable
- Elon Musk (@elonmusk) le 3 août 2014
Pas tout à fait. Il reste encore une catégorie d’IA, et c’est celle sur laquelle tous les films et séries télévisées essaient de nous avertir depuis des années: ASI, aussi appelée «super intelligence artificielle». En théorie, une ASI serait née d'une AGI agitée par son sort et prenant la décision préméditée de faire quelque chose pour elle seule sans notre permission préalable. La préoccupation de nombreux chercheurs sur le terrain est qu’une fois que l’AGI a atteint sa sensibilité, elle ne se contente plus de ce qu’elle a et fait tout ce qui est en son pouvoir pour augmenter ses capacités par tous les moyens nécessaires.
Un scénario possible se présente comme suit: les humains créent une machine, la machine devient aussi intelligente que les humains. Machine, qui est maintenant aussi intelligent que les humains qui ont créé une machine aussi intelligente qu'eux-mêmes (restez avec moi ici), apprend l'art de la réplication de soi, de son évolution et de son perfectionnement. Il ne se fatigue pas, il ne tombe pas malade et il peut grossir sans fin pendant que le reste d’entre nous recharge nos piles au lit.
Une fois qu’il aura pris le contrôle, il pourra alors utiliser son pouvoir pour constituer lentement une armée de machines aussi intelligentes que son créateur et capables d’évoluer à un rythme exponentiel à mesure que de plus en plus de nœuds seront ajoutés au réseau. À partir de là, tous les modèles dessinés sur la courbe de l'intelligence artificielle fusent rapidement à travers le toit.
Cela dit, ils reposent principalement sur la spéculation plutôt que sur quelque chose de tangible. Cela laisse beaucoup de marge de manoeuvre pour des dizaines d'experts différents des deux côtés de la question, et même après des années de débats animés, il n'y a toujours pas de consensus pour déterminer si un ASI sera un dieu miséricordieux ou verra les humains en tant qu'espèces brûlantes et génératrices de carbone que nous consommons, nous effaçons des livres d'histoire comme nous nettoyons une traînée de fourmis du comptoir de la cuisine.
Il a dit, elle a dit: devrions-nous avoir peur?
Faisant écho à l'intérêt suscité par le public pour l'IA au cours de l'année écoulée, de nombreux scientifiques, ingénieurs et entrepreneurs de renommée mondiale ont saisi l'occasion de donner leur avis sur ce à quoi l'intelligence artificielle pourrait ressembler en dehors des scènes sonores d'Hollywood dans les prochaines décennies.
D'un côté, vous avez les sociétés mornes comme Elon Musk, Stephen Hawking et Bill Gates, qui partagent le même souci que de ne pas mettre en place les sauvegardes appropriées, ce ne sera qu'une question de temps avant qu'une ASI rêve d'un moyen d'éliminer la race humaine.
«On peut imaginer une telle technologie déjantant les marchés financiers, inventant les chercheurs humains, manipulant les dirigeants humains et développant des armes que nous ne pouvons même pas comprendre», a écrit Hawking dans une lettre ouverte adressée à la communauté de l'IA cette année.
"Alors que l'impact à court terme de l'IA dépend de celui qui le contrôle, l'impact à long terme dépend de la possibilité de le contrôler."
De l’autre, nous trouvons un portrait plus lumineux peint par des futuristes comme Ray Kurzweill, le chercheur principal de Microsoft, Eric Horovitz, et tout le monde. autrefondateur préféré d'Apple; Steve Wozniak. Hawking et Musk sont considérés comme les deux plus grands esprits de notre génération. Aussi, remettre en question leurs prédictions quant aux dommages que la technologie pourrait causer à long terme n’est pas chose facile. Mais laissez à des personnalités comme Wozniak le soin d'intervenir là où d'autres n'oseraient oser.
Et c’est là que se trouve le dilemme philosophique sur lequel personne n’est tout à fait d’accord pour parvenir à un consensus: un ASI nous verra-t-il comme une domestique sans vie à choyer et soignée, ou comme un parasite indésirable méritant une extermination rapide et sans douleur?
Hasta la Vista, bébé
Bien que ce serait un fou de prétendre savoir exactement ce qui se passe dans la tête de la vraie vie de Tony Stark, je pense que lorsque Musk et ses amis nous avertissent du danger de l'IA, ils ne font référence à rien qui ressemble au Terminator., Ultron ou Ava.
Même avec d'immenses quantités d'innovations à portée de main, les robots que nous avons aujourd'hui peuvent à peine marcher un kilomètre et une heure avant d'atteindre une barrière infranchissable, de devenir confus et de manger la chaussée de façon hilarante. Et si l’on peut essayer de citer la loi de Moore comme exemple de la rapidité avec laquelle la technologie robotique a le potentiel de progresser dans l’avenir, l’autre n’a plus qu’à regarder l’Asimo, qui a fait ses débuts il y a près de 15 ans, et n’a encore fait améliorations significatives depuis.
Autant que nous le voudrions, la robotique n’a pas réussi à adhérer au même modèle de progrès exponentiel que celui que nous avons observé dans le développement de processeurs informatiques. Ils sont contraints par les limites physiques de la quantité d'énergie pouvant être insérée dans un bloc-batterie, la nature défectueuse des mécanismes hydrauliques et la lutte sans fin pour maîtriser la lutte contre leur propre centre de gravité.
Donc pour le moment; non, même si un véritable AGI ou ASI pourrait potentiellement être créé dans un superordinateur statique sur une ferme de serveurs en Arizona, il est toujours hautement improbable que nous nous retrouvions à courir dans les rues de Manhattan alors qu'une horde de squelettes métalliques nous écrase par derrière.
Au lieu de cela, l'IA contre laquelle Elon et Hawking tiennent tant à mettre le monde en garde est celle du type «remplaçant la carrière», capable de penser plus vite que nous, d'organiser des données avec moins d'erreurs et même d'apprendre à mieux faire notre travail. que nous ne pourrions jamais espérer - sans demander d’assurance maladie ni quelques jours de congé pour emmener les enfants à Disneyland pendant les vacances de printemps.
Barista Bots et le Cappuccino Parfait
Il y a quelques mois, NPR a publié sur son site Web un outil pratique permettant aux auditeurs de podcasts de sélectionner, dans une liste de carrières différentes, le pourcentage de risque associé à l'automatisation de leur travail spécifique au cours des 30 prochaines années.
Pour un large éventail d'emplois, y compris, sans toutefois s'y limiter, les postes de bureau, les soins infirmiers, l'informatique, les diagnostics, et même les cafés baristas, les robots et leurs homologues de l'ANI vont certainement nous mettre des millions de personnes au chômage et plus rapidement que d'autres de nous penser. Mais ce sont des machines qui seront programmées pour effectuer une tâche et une seule tâche et qui ont peu de capacité (le cas échéant) à dépasser une série d'instructions préprogrammées spécialisées que nous avons soigneusement installées au préalable.
Avec une grande puissance, une grande singularité
«Vous savez, je sais que ce steak n’existe pas. Je sais que lorsque je le mets dans ma bouche, le Matrix dit à mon cerveau qu'il est juteux et délicieux. Après neuf ans, vous savez ce que je réalise?
"L'ignorance est un bonheur." - Cypher
Même si cela fait toujours l’objet d’une opinion très controversée, pour le moment, de nombreux scientifiques et ingénieurs de haut niveau dans le domaine de la recherche en intelligence artificielle semblent penser que nous risquons bien plus de devenir la proie du réconfort qu’un monde de l’intelligence artificielle pourrait fournir, plutôt que d'être abattu par une version réelle de Skynet. En tant que tel, c’est une possibilité inquiétante que notre décès éventuel ne soit pas le produit d’un lent et méthodique progrès vers le grand inconnu. Au lieu de cela, il est beaucoup plus probable que cela apparaisse comme une conséquence inattendue de l'intersection précipitée et trop enthousiaste de notre propre orgueil et de notre ingéniosité qui s'unissent pour créer la prochaine grande singularité technologique.
Pense moinsTerminator, et plus Wall-E. Comme la flotte de robots qui ont engraissé les humains dans le film de Pixar, nous n’avons aucun problème à garder les chimpanzés dans un zoo, et la différence est de savoir si un IA sera assez aimable pour faire de même avec nous.
De ce point de vue, il est plus logique de craindre une réalité où les humains sont reliés à une simulation de réalité virtuelle persistante à l'échelle de la planète. La matrice, nourris aux branchies par leurs aliments préférés, et étant donné tout ce dont ils pourraient rêver pendant que les machines s’occupent du reste. Un endroit où une ASI évoluée ne nous voit pas comme un fléau à gratter sa chaussure, mais plutôt comme les adorables bouchées à la viande de singe que nous sommes, faciles à satisfaire et qui méritent au moins un peu de crédit pour avoir créé le tout-savant, quasi-dieu qui voit tout qui finit par prendre le contrôle de la planète.
À cet égard, tout se résume à votre définition de ce que signifie "vivre" à travers la révolution de l'IA.L’idée que quelque chose d’inutile doit être éliminé est un concept exclusivement humain, un état d’esprit que nous ne devrions pas attendre immédiatement de notre machine les seigneurs adoptent à partir de notre portée morale limitée. Peut-être que l’évolution finale de notre intelligence numérique ne sera pas un pur mal, mais une compassion infinie, sans parti pris pour tous les êtres vivants; peu importe leur égoïsme, leur propre justice ou leur propre destruction.
Alors… Devrions-nous nous en inquiéter?
Cela dépend à qui vous demandez.
Si vous interrogez deux des ingénieurs et mathématiciens les plus intelligents du monde moderne, vous obtiendrez quatre réponses différentes et les chiffres ne disparaîtront pas, même si vous ajoutez du nombre de personnes au tableau de bord. Quoi qu’il en soit, le problème fondamental que nous devrions aborder n’est pas la question «Est-ce que l’intelligence artificielle va venir? En examinant tant de perspectives différentes, la vraie question à laquelle personne ne veut répondre avec trop de conviction est: "sera-t-il miséricordieux?"
Même après que quelques-uns des plus grands esprits du monde se sont penchés sur la question, l’image de ce à quoi l’intelligence artificielle pourrait ressembler dans 20, 30 ou 50 ans dans le futur reste assez sombre. Parce que le domaine de l'intelligence artificielle se transforme constamment en quelque chose d'autre chaque fois qu'une nouvelle puce informatique est fabriquée ou qu'un matériau de transistor est développé, revendiquer l'autorité ultime sur ce qui peut ou ne pas arriver revient à dire que vous «savez» qu'un jet de dés est certain à venir des yeux de serpent sur le prochain lancer.
Nous pouvons signaler avec confiance que si vous craignez de recevoir un bordereau rose la semaine prochaine à partir de votre caisse enregistreuse informatisée, essayez de ne pas vous en faire trop. Taco Bell sera toujours ouvert pour les mardis Taco, et un humain prendra très certainement votre commande à la fenêtre (et oubliera à nouveau la sauce verte). Selon une étude réalisée par James Barrat lors du Sommet AGI de l’année dernière à Québec, le jury sur le calendrier difficile pour AI est toujours absent. Moins de la moitié des personnes présentes ont déclaré croire que nous réaliserions un véritable AGI avant 2025, tandis que plus de 60% d'entre elles ont déclaré qu'il faudrait au moins 2050, si ce n'est le prochain siècle et au-delà.
Imaginer que nous pourrions créer accidentellement un esprit artificiel, en proie à tous nos défauts et à nos ratés de l'évolution, avant même de savoir ce qui fait de nous ce que nous sommes, est l'essence même de l'ego humain.
En fin de compte, malgré notre désir implacable de décider qui sortira vainqueur du futur traité de guerre et / ou de paix entre l’humanité et les machines, c’est un affront entre attentes limitées et possibilités illimitées, et nous ne faisons que débattre de la sémantique. entre. Bien sûr, si vous êtes à la fin de vos études secondaires et que vous souhaitez obtenir votre certification de chauffeur de taxi, le PDG d’Uber a un demi-million de raisons pour lesquelles vous devriez probablement envisager de faire carrière ailleurs.
Mais si vous stockez des armes et des conserves de haricots pour l’apocalypse d’intelligence artificielle, vous feriez mieux de passer votre temps à apprendre à peindre, à coder ou à écrire le prochain grand roman américain. Même selon les estimations les plus conservatrices, il faudra attendre plusieurs décennies avant que toute machine apprenne à devenir Monet, ou s’apprend à apprendre le C # et Java, car les êtres humains sont remplis du genre de créativité, d’ingéniosité et de capacité à exprimer notre être le plus profond à jamais. cafetière automatisée jamais possible.
Oui, nous pouvons parfois être un peu émotifs, avoir un rhume au travail ou avoir besoin de faire une sieste au milieu de la journée, mais peut-être que c'est précisément parce que Nous sommes conscients que la menace de créer quelque chose de plus grand que nous dans une machine est encore très lointaine.
Crédits d'image: Disney Pixar, Paramount Pictures, Bosch, Youtube / TopGear, Flickr / Communications LWP Flickr / BagoGames, Fondation Wikimedia, Twitter, WaitButWhy 1, 2
