Ethik und künstliche Intelligenz
Claude Pottier über die Risiken und Chancen von Künstlicher Intelligenz in der Bildung.Die Blogbeiträge werden nur in der Sprache der Autorin/des Autors veröffentlicht.
L’intelligence artificielle peut probablement changer notre approche et notre compréhension du monde et de la réalité, mais elle ne changera ni le monde ni la réalité.
Le monde, et en particulier celui de l’éducation et de la formation, s’est très rapidement ému et agité lors de la mise à disposition par OpenAI de ChatGPT en s’inquiétant de son impact probable sur l’activité humaine. Les institutions, depuis les premiers niveaux de la scolarité obligatoire jusqu’aux formations tertiaires, ont dû se positionner dans l’urgence sur l’utilisation et l’exploitation par les élèves, les apprenties et apprentis et les étudiantes et étudiants de ce nouvel outil révolutionnaire. Dans une agitation et des craintes à peine contrôlées, on a tenté de proscrire, de réglementer, voire d’anticiper a posteriori les répercussions de l’intelligence artificielle (IA) dans l’éducation et la formation.
Comme pour tout développement disruptif et accéléré, on pare au plus pressant, on tente parfois maladroitement d’interdire ou de limiter son utilisation et d’imaginer tous les usages abusifs possibles. Pourtant, depuis très longtemps, les différents travaux ou les dissertations à domicile n’avaient-ils pas déjà bénéficié, et cela bien avant la mise à disposition de l’IA, de l’appui d’amis, de membres de la famille ou de camarades de classe?
Il me semble toutefois important de différencier au niveau de l’apport qualitatif actuel de l’intelligence artificielle et des machines apprenantes ce qu’elles peuvent offrir et livrer en matière d’informations, étant capables en quelques fractions de secondes d’extraire, de synthétiser et de résumer des millions de données, de leur capacité à prodiguer des conseils individualisés et spécifiques, en particulier dans les domaines de la formation professionnelle et de l’orientation ou du conseil de carrière.
Les implications éthiques de l’IA dans la société et l’éducation
Si les machines apprenantes apprennent et se développent à une vitesse infinitésimalement plus grande que l’être humain, il ne faut cependant pas oublier qu’elles sont un produit de celles et ceux qu’elles sont censées remplacer et que derrière chacune d’entre elles se trouvent, et parfois même se dissimulent, des sociétés, de très grands groupes financiers ou de richissimes mécènes qui investissent des montants considérables, probablement pas uniquement à des fins philanthropiques ou désintéressées.
Dès lors se pose la question des intentions et des buts visés par celles et ceux qui, entités physiques ou morales, développent ces outils en y engageant des sommes faramineuses. Le point de vue éthique est très peu analysé et pris en compte et devrait toutefois être à la base de toute appropriation technologique.
Pourquoi développer et généraliser de tels outils? Dans quels buts? Par qui? Quels liens entre l’utilisation massive et étendue d’algorithmes dans la société et dans l’éducation et le transhumanisme? Quels rôles veut-on que les machines apprenantes et l’IA jouent dans notre société future? Au profit de qui et de quoi? Quelle maîtrise l’être humain, qui les a conçues, va-t-il pouvoir conserver sur elles? Vont-elles servir, et si oui comment, la cause commune et réellement améliorer la vie et le sort de l’humanité? L’intelligence artificielle pourra-t-elle rester au service de l’humanité, ou l’humanité se retrouvera-t-elle au service de l’intelligence artificielle?
Enfin, si l’intelligence artificielle devait se substituer à nombre d’activités humaines, à quoi passerions-nous une grande part de notre temps et comment cette nouvelle création et production de richesses pourrait-elle être valorisée et redistribuée?
L’avenir de l’humanité face à l’IA: servitude ou progrès
Autant de questionnements et d’aspects qu’il est nécessaire de prendre sérieusement en considération avant de se lancer sans retenue dans l’utilisation de ces nouveaux outils ou moyens technologiques en se rappelant qu’avant d’être virtuelle et artificielle, la réalité et l’intelligence sont avant tout concrète et réelle et que de très nombreux défis humains sont à relever pour améliorer sensiblement la qualité de vie de millions d’individus sur la planète Terre dans un environnement sain, équilibré et durable.
*Les opinions exprimées par les auteurs invités ne reflètent pas nécessairement la position de la CDIP.