Le «parrain» canadien de l’apprentissage profond, Yoshua Bengio, croit que les gouvernements et divers acteurs de son domaine doivent répondre aux préoccupations soulevées par la construction de «robots tueurs» et par le développement de systèmes de reconnaissance faciale qui pourraient tomber entre les mains de régimes autoritaires.

Appel à la vigilance contre l’utilisation non éthique d’intelligence artificielle

MONTRÉAL — Deux pionniers en matière d’intelligence artificielle signalent qu’une utilisation peu scrupuleuse ou sans souci éthique de cette technologie risque d’entacher l’image de ce secteur de recherche en transformation rapide.

Le «parrain» canadien de l’apprentissage profond, Yoshua Bengio, croit que les gouvernements et divers acteurs de son domaine doivent répondre aux préoccupations soulevées par la construction de «robots tueurs» et par le développement de systèmes de reconnaissance faciale qui pourraient tomber entre les mains de régimes autoritaires.

Le directeur du laboratoire d’intelligence artificielle de Facebook, Yann LeCun, avance que les grandes entreprises impliquées dans la recherche en la matière devraient s’associer pour discuter d’enjeux tels que l’utilisation potentielle de cette technologie afin de tirer les ficelles de la démocratie. Il estime que ce partenariat d’entreprises devrait également formuler des directives sur la manière adéquate de parvenir à des découvertes, de les mettre à l’épreuve, puis de les déployer.

«Un danger est que l’image de l’intelligence artificielle aux yeux du public sera détériorée par les mauvaises utilisations de l’IA (intelligence artificielle)», a prévenu M. LeCun à l’occasion du sommet ReWork Deep Learning à Montréal, la semaine dernière.

Le plus grand souci de Yoshua Bengio, qui se trouve à la tête de l’Institut des algorithmes d’apprentissage de Montréal de l’Université de Montréal, est un mauvais usage des armes létales autonomes.

Il estime que les gouvernements à travers le monde devraient signer des traités pour bannir toute arme qui peut enlever des vies sans intervention humaine.

«J’espère que le Canada sera parmi les pays qui feront avancer ça», a-t-il lancé en entrevue avec La Presse canadienne.

Certains pays s’opposent à une telle démarche et plusieurs chercheurs refusent de travailler sur des projets militaires, a-t-il indiqué.

M. Bengio a également déjà prévenu les politiciens quant au risque que l’intelligence artificielle fasse disparaître des emplois.

«Je crois que les gouvernements devraient commencer dès maintenant à réfléchir sur comment s’adapter à ça dans la prochaine décennie, sur comment modifier notre filet de sécurité sociale pour gérer ça», a-t-il exposé.

Une autre source de préoccupation est la concentration de pouvoir et d’accès aux données entre les mains de grandes entreprises.

Yann LeCun croit que la malice n’est pas la seule chose à craindre: il faut également dépouiller les données de tout biais.

S’il revient par exemple à l’intelligence artificielle de déterminer qui peut être libéré sous caution, l’utilisation de données biaisées conduira à des résultats biaisés.

Des centaines d’experts dans le domaine convergeront à Montréal les 2 et 3 novembre à l’occasion d’un forum sur le développement socialement responsable de l’intelligence artificielle.

«Il y a une impression que d’importantes questions sociales, politiques et éthiques sont soulevées par les récents développements en intelligence artificielle, donc ça amène les gens à se rassembler pour discuter de ces enjeux», explique Christine Tappolet, professeure de philosophie à l’Université de Montréal.

«L’intelligence artificielle va complètement changer la donne, donc ce qu’on peut faire actuellement et ce qui sera sans doute possible dans deux, cinq ans est énorme», a poursuivi Mme Tappolet, également directrice du Centre de recherche en éthique (CRÉ).

La rencontre de deux jours aura pour but d’élaborer une déclaration montréalaise pour le développement éthique de l’intelligence artificielle qui s’articulera autour de valeurs, de principes et de directives à l’intention des champs de recherche prometteurs.

Mme Tappolet précise que l’événement prendra place à Montréal parce que la ville se trouve au premier plan en matière de recherche en intelligence artificielle et qu’elle porte traditionnellement intérêt aux implications sociales des avancées technologiques.