Titre : Google renonce à sa promesse de ne pas utiliser l’IA dans la défense et la surveillance
Dans une décision controversée, Google a éliminé de ses principes d’intelligence artificielle (IA) une disposition clé qui s’engageait à ne pas employer cette technologie dans le développement d’armements ou de systèmes de surveillance. Cette annonce survient quelques semaines après le début du second mandat de Donald Trump. De nombreux employés expriment leur inquiétude quant à cette évolution, arguant que l’entreprise ne devrait pas participer au secteur militaire.
Cet engagement, qui faisait écho à la devise précédente de Google, « Don’t be evil » (ne pas être malveillant), avait été demandé par les salariés il y a sept ans. En 2018, à la suite de protestations massives, Google s’était engagé à mettre fin à sa collaboration avec le Pentagone concernant des projets de drones. Cependant, lors d’un récent billet de blog, les dirigeants de Google ont annoncé qu’ils ne pouvaient plus garantir l’absence d’applications militaires pour l’IA.
James Manyika, un haut cadre de l’entreprise, accompagné de Demis Hassabis, le directeur général de DeepMind, a déclaré que les démocraties doivent posséder l’initiative de l’IA, guidées par des principes tels que la liberté et le respect des droits humains. Ils ont évoqué la nécessité d’un partenariat entre entreprises et gouvernements pour élaborer des applications d’IA bénéfiques.
Auparavant, Google affirmait clairement qu’elle n’engagerait pas ses efforts dans le développement d’armes, de technologies de surveillance, ou d’initiatives pouvant causer des préjudices globaux. Ce retrait de l’engagement a suscité des interrogations, notamment de la part de journalistes qui se demandent si cette démarche annonce une véritable dérive pour l’entreprise.
Margaret Mitchell, une spécialiste de l’éthique en IA, a exprimé ses préoccupations, déclarant que cette décision risque d’effacer le travail acharné d’individus soucieux de l’éthique au sein de Google. Elle craint que cela ouvre la porte à des projets meurtriers utilisant l’IA.
L’entreprise a révisé ses engagements, promettant une « surveillance humaine appropriée » et un suivi des effets de ses technologies pour réduire les risques de résultats nuisibles. Toutefois, la réputation de Google comme alliée des droits humains a été mise en question. Sarah Leah Whitson, défenseure des droits, a désigné Google comme une « machine de guerre », suite à ses récentes décisions.
Google, qui avait précédemment apporté un soutien financier important à la campagne de Trump, se voit également en décalage avec ses anciens engagements envers la diversité et l’inclusion, des sujets pourtant extrêmement sensibles sous l’administration actuelle.
Les voix des travailleurs, comme celle de Parul Koul, représentant du syndicat des employés d’Alphabet, ont fait écho à l’inquiétude grandissante des employés. Le sentiment général est que Google doit se distancer des activités militaires et réfléchir à une utilisation éthique de sa technologie.
