Contenu
Rien de comparable au 20e anniversaire de Matrix, qui vient de nous rappeler à tous la menace de l’IA. Google est apparemment conscient de ces préoccupations, après avoir formé un comité d'éthique sur l'IA la semaine dernière pour le conseiller sur ses développements en cours en matière d'IA.
Cependant, tel que repris parVox, le département a déjà eu des ennuis.
Alessandro Acquist, l’un des huit membres de l’équipe, le premier à figurer sur la liste des annonces de Google accueillant l’équipe, a déjà démissionné. Acquisti n’a quitté le projet que quatre jours après l’annonce faite par Google, déclarant: «Je ne crois pas que ce soit le bon forum pour me permettre de participer à cet important travail."
Deux autres membres, Kay James Cole et Dyan Gibbens, auraient fait l’objet de pétitions appelant à leur destitution.
Cole est à la tête de la Heritage Foundation, tandis que Gibbens travaille pour Trumbull Unmanned, une entreprise de technologie de drones qui a déjà travaillé avec l’armée américaine. Les responsables de l'une des pétitions, un groupe appelé Googlers Against Transphobia, ont déclaré que la Heritage Foundation est «anti-trans, anti-LGBTQ et anti-immigrée».
Google prend de nombreuses initiatives dans le sens de l'intelligence artificielle, notamment l'assistant numérique présent sur les téléphones Android.
Vox n’a pas fourni de source pour les appels au retrait de Gibbens, mais Google a déjà été critiqué pour avoir collaboré avec le gouvernement sur les drones, au cours desquels nombre de ses travailleurs ont menacé de quitter les lieux. Google a ensuite abandonné le projet.
Vox Joanna Bryson, membre du conseil, a également repéré un commentaire sur Kay James Cole et la position de la Fondation du patrimoine sur Twitter. "Croyez-le ou non, je connais pire chose sur l'une des autres personnes", a déclaré Bryson, indiquant qu'il pourrait y avoir un autre membre du conseil consultatif doté d'un dossier d'éthique douteux.
Tout compte fait, il s’agit d’un groupe controversé.
Qu'est-ce que le conseil consultatif d'Amnesty International?
Ce conseil externe a été créé par Google pour «guider le développement et l'utilisation responsables de l'IA dans nos recherches et nos produits». Le conseil devait se réunir à quatre reprises en 2019, à compter d'avril, pour discuter de la recherche et du développement sur l'IA chez Google.
"Ce groupe examinera certains des problèmes les plus complexes de Google qui se posent dans le cadre de nos principes d'intelligence artificielle, tels que la reconnaissance faciale et l'équité dans l'apprentissage automatique, offrant diverses perspectives pour éclairer notre travail", a écrit Google sur son blog. La société Mountain View avait l’intention de publier ultérieurement des rapports résumant ces discussions.
Depuis l’annonce du comité, la principale préoccupation semble être de savoir si Google a sélectionné les bonnes personnes pour les discussions sur l’éthique. Cependant, l'efficacité des discussions elles-mêmes suscite également des inquiétudes. se réunir quatre fois par an pour donner des conseils sur l’éthique de l’intelligence artificielle dans le cadre des différents projets de Google semblait une mesure peu substantielle.
Quoi qu’il en soit, le fait d’annoncer que l’équipe n’a plus qu’une personne à démissionner et que d’autres personnes demandent à être renvoyées est un mauvais début pour l’initiative. À ce rythme, Google pourrait envisager de remplacer près de la moitié de l'équipe initialement annoncée avant leur première réunion.
Nous avons contacté Google pour obtenir de plus amples informations à ce sujet et mettrons à jour cette page si nous recevons une réponse.
