“Les croyances marginales selon lesquelles les machines pourraient soudainement dépasser l’intelligence humaine et décider de détruire l’humanité gagnent du terrain”, a-t-il ajouté. reconnaît le Washington Post. “Et certains des scientifiques les plus respectés dans le domaine accélèrent leur propre chronologie lorsqu’ils pensent que les ordinateurs pourraient apprendre à surpasser les humains et devenir manipulateurs.
“Mais de nombreux chercheurs et ingénieurs disent que les inquiétudes concernant les IA tueuses qui évoquent Skynet dans les films Terminator ne sont pas enracinées dans la bonne science. Au lieu de cela, cela détourne l’attention des problèmes très réels que la technologie cause déjà…”
Il crée le chaos du droit d’auteur, alimente les préoccupations concernant la confidentialité et la surveillance numériques, pourrait être utilisé pour augmenter la capacité des pirates à briser les cyberdéfense et permet aux gouvernements de déployer des armes mortelles qui peuvent tuer sans contrôle humain… [I]Au sein des entreprises Big Tech, de nombreux ingénieurs travaillant en étroite collaboration avec la technologie ne pensent pas qu’une prise de contrôle de l’IA soit quelque chose dont les gens doivent se préoccuper en ce moment, selon des conversations avec des travailleurs de Big Tech qui ont parlé sous couvert d’anonymat pour partager en interne. discussions d’entreprise. “Parmi les chercheurs actifs dans cette discipline, beaucoup plus sont centrés sur le risque actuel que sur le risque existentiel”, a déclaré Sara Hooker, directrice de Cohere for AI, le laboratoire de recherche de la start-up d’IA Cohere et ancienne chercheuse de Google. ..
Les effets d’entraînement de la technologie ne sont toujours pas clairs et des industries entières se préparent à des perturbations, comme le remplacement même d’emplois bien rémunérés comme les avocats ou les médecins. Les risques existentiels semblent plus graves, mais beaucoup diraient qu’ils sont plus difficiles à quantifier et moins concrets : un avenir où l’IA pourrait activement nuire aux humains, voire même prendre le contrôle de nos institutions et de nos sociétés. “Il y a un ensemble de personnes qui voient cela comme, ‘Écoutez, ce ne sont que des algorithmes. Ils ne font que répéter ce qu’ils ont vu en ligne.’ Ensuite, il y a la vue où ces algorithmes montrent des propriétés émergentes, être créatif, raisonner, planifier”, a déclaré le PDG de Google, Sundar Pichai, lors d’une interview avec “60 Minutes” en avril. “Nous devons aborder cela avec humilité…”
Il ne fait aucun doute que les IA modernes sont puissantes, mais cela ne signifie pas qu’elles constituent une menace existentielle imminente, a déclaré Hooker, directeur de Cohere for AI. Une grande partie de la conversation autour de l’IA se libérant du contrôle humain est centrée sur le fait qu’elle surmonte rapidement ses contraintes, comme le fait l’antagoniste de l’IA Skynet dans les films Terminator. “La plupart des technologies et des risques liés à la technologie sont un changement progressif”, a déclaré Hooker. “La plupart des composés à risque proviennent des limitations actuellement présentes.”
Le Post souligne également que certaines des plus vives critiques du débat sur le “robot tueur” “émanent de chercheurs qui étudient les inconvénients de la technologie depuis des années”.
“Il est dangereux de se distraire avec une utopie ou une apocalypse fantasmée par l’IA”, a déclaré une équipe de quatre chercheurs. a donné son avis récemment. “Au lieu de cela, nous devrions nous concentrer sur les pratiques d’exploitation très réelles et très présentes des entreprises qui prétendent les construire, qui centralisent rapidement le pouvoir et augmentent les inégalités sociales.”