Advanced B2-C2 - Comprendre l’éthique de l’IA | Learn French

Speaker 1:

Bonjour, prenons une pause café croissant et apprenons ensemble le français. Aujourd'hui, je vais vous parler d'un sujet actuel et assez important, l'éthique dans l'intelligence artificielle. Alors déjà, qu'est-ce que ça veut dire l'éthique ? L'éthique, c'est la réflexion sur ce qui est bien ou mal. C'est un peu comme les règles qu'on se donne pour vivre ensemble. d'une manière juste et respectueuse. Et l'IA ou l'intelligence artificielle, qu'est-ce que c'est ? Alors je pense qu'à l'heure actuelle, tout le monde sait ce que c'est, mais petit rappel quand même, c'est tout simplement quand des machines, des ordinateurs, des programmes, etc. apprennent à faire des choses intelligentes, on va dire. Par exemple, traduire un texte, reconnaître une image, ou l'inverse. générer un texte, générer une image, etc. Et ça va aussi être dans tous les algorithmes de recommandations qu'on peut trouver sur Netflix, sur YouTube et plein d'autres plateformes. Donc moi, il faut savoir que je suis actuellement en études dans un master qui porte sur l'IA. Et donc j'ai eu un cours cette semaine sur l'éthique dans l'IA, ce qui m'a donné envie de vous en parler. Donc l'IA actuellement peut poser des questions assez importantes. Par exemple, est-ce que cette IA respecte la vie privée des gens ? Est-ce qu'elle prend des décisions justes ? Qui est responsable si une IA fait une erreur ? Etc. Et c'est là alors qu'on parle d'éthique. On veut toujours que l'IA soit utilisée de façon responsable. Par exemple, si une IA aide à choisir qui peut avoir un prêt bancaire, il faut qu'elle soit... équitable et qu'elle ne discrimine pas certaines personnes à cause de leur origine, de leur âge, de leur genre et surtout qu'elle ne soit pas le décisionnaire final. C'est vraiment ce qu'on a vu cette semaine, c'est qu'en fait, il y a plusieurs principes. Ces principes-là vont par exemple être donnés par différents organismes comme l'UNESCO et les principes éthiques donnés par l'UNESCO sur l'IA sont : La proportionnalité, c'est-à-dire il faut adapter l'usage de l'IA à ses objectifs, sans excès, c'est-à-dire sans ajouter d'autres domaines qui ne sont pas utiles. Il faut aussi la sécurité et la robustesse, c'est-à-dire qu'il faut un système qui protège ses utilisateurs. Il faut une gouvernance des données, donc il faut pouvoir superviser la qualité, l'origine. et la traçabilité des données utilisées. Alors qu'est-ce que ça veut dire ? Tout simplement, c'est ce qu'on voit actuellement dans ChatGPT quand vous écrivez quelque chose, il va vous donner les différentes sources. Ou alors des fois, il faut préciser, donne-moi les sources, et là, il va bien toutes les préciser. Et il va vous donner donc les sources, les liens, et ce qui va prouver que telle information est vraie ou non. Un autre grand principe, c'est la responsabilité, ce dont on a parlé juste avant. il faut toujours maintenir une supervision humaine. C'est-à-dire que le décisionnaire final doit, pour la plupart des cas, être un humain. Par exemple, un outil IA qui va trier des CV quand vous allez postuler à un emploi, c'est bien, c'est pratique, ça peut aider les recruteurs d'une entreprise, mais il ne faut pas que ça soit l'IA qui décide. que tel CV et donc telle personne est la personne que vous devez recruter. Il faudrait plus, par exemple, un système où l'IA va vous présenter les 5 meilleurs CV qu'elle a pu trouver, selon certains critères, en vous donnant ces critères-là, et à vous de choisir si vous respectez ou pas ces critères, et si donc vous utilisez ces 5 meilleurs CV, afin d'en recruter l'un des 5. Mais c'est vous qui décidez à la fin. Et le dernier grand principe, c'est la transparence, c'est-à-dire documenter et expliquer les systèmes. Il ne faut pas d'algorithme inconnu à l'utilisateur et il faut que l'utilisateur puisse se renseigner sur les algorithmes. Par exemple, on doit être conscient que telle chose est générée par IA, que telle recommandation a été générée par IA et il faudrait une documentation technique pour expliquer les principes qui ont été utilisés pour générer cette recommandation-là. Voilà donc les grands principes de l'UNESCO. Après, il y a différents organismes qui présentent d'autres principes. Mais dans la majorité, on reprend ces grandes idées-là, formulées un peu différemment des fois. Mais voilà, vous avez au moins l'idée générale. Et donc là se posent plein de questions. Par exemple, une IA a besoin de beaucoup de données, mais ces données viennent forcément de quelque part, d'un site, de données personnelles, par exemple des photos, des recherches, des messages, comme on peut voir là actuellement avec... méta qui a rajouté une IA dans WhatsApp. Et donc, il faut bien faire attention à pouvoir quand même protéger la vie privée des utilisateurs. Donc, quelles vont être les limites fixées à l'IA ? Est-ce qu'on lui donne le droit d'utiliser nos messages ? Si oui, en local ou de façon à améliorer son système et donc de façon à ce que ça soit global ou pas, par exemple. Il y a aussi le problème des deepfakes. Certaines IA peuvent générer des images ou des textes qui vont être très réalistes. Et alors, comment savoir si ce qu'on voit est vrai ou faux ? Et aussi, quelles vont être les limites des générations d'IA ? On peut voir que certaines IA vont refuser de générer certaines actions. Par exemple, tout ce qui va être criminel, ou tout ce qui va être soumis à des droits d'auteur. Mais donc là aussi, se posent des questions des limites. Qui pose les limites ? Comment les poser ? Donc voilà, c'est pour toutes ces raisons qu'il y a de plus en plus de personnes qui réfléchissent à l'éthique de l'IA, des chercheurs, des gouvernements, des entreprises, et tout ça dans le but de créer une IA utile, juste et respectueuse. Mais c'est très compliqué, parce que tous les pays ont des points de vue différents, même les États dans les pays. Je prends bien sûr l'exemple des États-Unis, qui ont différents actes sur l'IA selon les États. Et tous ces procédés rendent la chose de plus en plus complexe. Donc il faut réussir à créer quelque chose de global et d'assez simple quand même pour ne pas trop empêcher l'innovation, mais toujours en gardant les grands principes pour protéger l'utilisateur. Ce podcast a vraiment pour but de vous faire réfléchir sur ce domaine. Je ne donne pas forcément de bonnes réponses ou de mauvaises réponses. Vraiment l'idée, c'est que vous puissiez vous poser vous-même ces questions-là. Et n'hésitez pas à me dire en commentaire si vous avez différentes réflexions sur ce sujet, je me ferai un plaisir de vous répondre. C'était la pause Café Croissant, on se dit à demain !