« Les algorithmes sont aussi biaisées que les humains qui ont conçu, ou les commissionnés avec une certaine intention. Nous devrions donc susciter un débat ouvert sur les objectifs des systèmes logiciels ayant un impact social « -. Ralph Müller-Eiselt
algorithmes biaisés sont partout, donc à un moment critique dans l'évolution de l'apprentissage machine et AI, pourquoi ne nous parlons des problèmes de société que cela pose?
Dans son livre, Armes de Destruction Math - Comment augmente l'inégalité Big Data et menace la démocratie, Cathy O'Neil souligne que « les grands processus de données codifient le passé » mais ils ne « inventent l'avenir. » Comment pouvons-nous nous sentons au sujet des machines influencer nos institutions humaines? Qui protège la qualité de vie lorsque les algorithmes sont en charge? O'Neil soutient que le contact humain est essentiel pour « intégrer de meilleures valeurs dans nos algorithmes. »
Ralph Müller-Eiselt est un expert en matière de politique de l'éducation et de la gouvernance et dirige le groupe de travail de la Fondation Bertelsmann sur les défis politiques et les opportunités dans un monde digitalisé. Dans son dernier projet « Éthique des algorithmes » (il est co-auteur de La révolution numérique Education; Titre anglais – Révolution numérique de l'éducation), il se penche sur les conséquences de la prise de décision algorithmique et l'intelligence artificielle dans la société et l'éducation. il rejoint La recherche globale pour l'éducation parler AI, algorithmes et ce que nous devrions tous penser à.
“Il nous appartient de déterminer si AI dans l'éducation sera un catalyseur pour le renforcement de l'équité sociale - ou pour l'affaiblir.” — Ralph Müller-Eiselt
Ralph, comment pouvons-nous faire en sorte que les algorithmes sont toujours conçus pour avoir un impact positif pour les sociétés et l'éducation, plutôt qu'un danger ou un risque?
Les algorithmes sont aussi biaisées que les humains qui ont conçu, ou les commissionnés avec une certaine intention. Nous devons donc susciter un débat ouvert sur les objectifs des systèmes logiciels avec l'impact social. Il nous appartient en tant que société de décider où ces systèmes doivent être utilisés et pour vous assurer qu'ils sont conçus avec les bons objectifs à l'esprit. Deuxièmement, nous devons nous rappeler que même des algorithmes conçus avec de bonnes intentions peuvent produire de mauvais résultats. Plus leurs effets potentiels sur la participation individuelle dans la société sont, plus important est une évaluation des risques et de prévention - une fois la prise de décision automatisée est en cours d'utilisation - une évaluation complète pour vérifier les résultats escomptés. La participation des tiers neutres dans ce processus peut considérablement aider à renforcer la confiance dans la prise de décision basée sur les logiciels.
Comment évaluer si oui ou non ils accomplissent ce qui est prévu?
la responsabilité transparente est essentielle en matière d'évaluation des applications à base d'algorithmes et d'outils. Cela ne signifie pas que nous devons rendre le code des algorithmes accessibles au public. En fait, ce ne serait pas du tout être utile pour les personnes les plus touchées afin de mieux comprendre la façon dont des décisions éclairées algorithme-sont faits. Plutôt, nous avons besoin de mécanismes tels que des déclarations explicites de but pour les algorithmes qui peuvent être vérifiés par une évaluation par des experts neutres qui ont accès aux informations et aux données pertinentes. Ces évaluations devraient être conçues de manière globale que possible afin de vérifier si les algorithmes servent effectivement aux fins prévues et de révéler leurs risques de la vie réelle et opportunités.
« Bien qu'il existe de vastes possibilités pour des conseils éclairés sur l'algorithme des choix scolaires axée sur les compétences et les possibilités d'emploi, nous ne pouvons pas fermer les yeux devant les dangers de ciblage des clients faibles, discrimination standardisée et le travail à grande échelle l'exclusion du marché. » - Ralph Müller-Eiselt
Comment voyez-vous des algorithmes et AI adaptation aux systèmes éducatifs en constante évolution?
L'ère numérique offre un certain nombre de valeurs ajoutées possibles pour l'éducation. Beaucoup d'entre eux dépendent intrinsèquement sur l'utilisation de données connectée - que ce soit l'apprentissage PERSONNALISATION, surmonter les obstacles de motivation par gamification, fournir une orientation dans la jungle des opportunités, ou pas moins, correspondant à des compétences individuelles avec les exigences du marché du travail. L'utilisation d'algorithmes et AI dans le secteur de l'éducation est encore dans sa phase initiale, avec beaucoup d'essais et d'erreurs à observer. Mais la technologie peut et contribuera très certainement évoluer toutes ces questions dans un avenir très proche. Étant donné que cela pourrait avoir un impact à l'éducation un certain échelle, les décideurs politiques devraient mieux ne pas attendre ces choses se produire et de réagir par la suite, mais la forme active réglementation maintenant vers le maintien du bien public. Il nous appartient de déterminer si AI dans l'éducation sera un catalyseur pour le renforcement de l'équité sociale - ou pour l'affaiblir.
Comment pouvons-nous personnaliser AI pour adapter à toutes les classes et les besoins de l'enfant?
Personnalisant apprendre à mieux développer les capacités individuelles est l'une des principales possibilités d'apprentissage numérique. applications à base d'algorithmes et AI peuvent démocratiser l'accès à l'éducation personnalisée que pour des raisons liées aux coûts était auparavant disponible que pour un nombre limité de personnes. Mais il y a une ligne fine entre promesses et les dangers de la grippe aviaire dans l'éducation. Bien qu'il existe de vastes possibilités pour des conseils éclairés sur l'algorithme des choix scolaires axée sur les compétences et les possibilités d'emploi, nous ne pouvons pas fermer les yeux devant les dangers de ciblage des clients faibles, discrimination standardisée et le travail à grande échelle l'exclusion du marché.
Depuis AI est faite par les humains, est le risque là que les algorithmes et AI ne fonctionneront pas avec précision dans un cadre éducatif en raison d'une erreur humaine? Comment puis-erreurs dans l'impact AI l'expérience d'apprentissage?
Les algorithmes sont aussi bons que les humains qui les ont conçus. L'erreur humaine peut se traduire par un algorithme à plusieurs étapes: de collecte et de sélection des données sur la programmation de l'algorithme pour interpréter sa sortie. Par exemple, si un algorithme utilise des données historiques, qui est sollicité dans une certaine direction en raison de motifs discriminatoires du passé, l'algorithme apprendra de ces modèles et les plus susceptibles de renforcer encore cette discrimination lorsqu'elle est utilisée à l'échelle. De telles erreurs non intentionnelles doivent être strictement évitée et constamment vérifiée, car elles élargiraient les inégalités sociales dans le secteur de l'éducation.
"Pour décideurs, il est maintenant grand temps de façonner de manière proactive ce domaine vers une plus grande équité sociale. Et ceux qui sont impliqués dans la conception réelle et le développement d'algorithmes devraient prendre le temps de réfléchir sur leur responsabilité sociale et de créer des normes communes pour l'éthique professionnelle dans ce domaine. » - Ralph Müller-Eiselt
Comment ces problèmes peuvent être réduits au minimum?
Comme expliqué plus en détail ci-dessus, nous devons faire des évaluations des risques et de prévention assurer une évaluation constante et complète d'applications à base d'algorithmes par des tierces parties neutres. Nous devons aussi susciter un débat public plus large et sensibiliser le public à l'utilisation, les chances et les risques d'algorithmes dans l'éducation. Pour les décideurs, il est maintenant grand temps de façonner de manière proactive ce domaine vers une plus grande équité sociale. Et ceux qui sont impliqués dans la conception réelle et le développement d'algorithmes devraient prendre le temps de réfléchir sur leur responsabilité sociale et de créer des normes communes pour l'éthique professionnelle dans ce domaine.
Est-ce que AI et les algorithmes doivent être réajusté pour différents systèmes éducatifs au niveau mondial? Quelle est l'importance que ce sera d'intégrer les différences culturelles dans la formulation de la grippe aviaire?
Ce que la plupart des systèmes éducatifs dans le monde ont en commun est qu'ils visent à renforcer et aider les gens à développer leurs capacités et talents, en bref: pour créer l'égalité des chances. Cependant, les façons d'aborder et d'atteindre cet objectif sont multiples. Ils ont tous leurs forces et faiblesses. Ce qui fonctionne dans un seul endroit ne fonctionne pas nécessairement dans un autre contexte social. De la même façon, algorithme- et les applications basées sur AI doivent être adaptées au contexte socioculturel particulier, ils sont employés dans.
(Toutes les photos sont une gracieuseté de CMRubinWorld)
C. M. Rubin et Ralph Müller-Eiselt
Rejoignez-moi et leaders d'opinion de renommée mondiale dont Sir Michael Barber (Royaume-Uni), Dr. Michael Bloquer (États-Unis), Dr. Leon Botstein (États-Unis), Professeur Clay Christensen (États-Unis), Dr. Linda Darling-Hammond (États-Unis), Dr. MadhavChavan (Inde), Charles Fadel (États-Unis), Le professeur Michael Fullan (Canada), Professeur Howard Gardner (États-Unis), Professeur Andy Hargreaves (États-Unis), Professeur Yvonne Hellman (Pays-Bas), Professeur Kristin Helstad (Norvège), Jean Hendrickson (États-Unis), Professeur Rose Hipkins (Nouvelle-Zélande), Professeur Cornelia Hoogland (Canada), Honorable Jeff Johnson (Canada), Mme. Chantal Kaufmann (Belgique), Dr. EijaKauppinen (Finlande), Le secrétaire d'Etat TapioKosunen (Finlande), Professor Dominique Lafontaine (Belgique), Professeur Hugh Lauder (Royaume-Uni), Seigneur Ken Macdonald (Royaume-Uni), Professeur Geoff Masters (Australie), Professeur Barry McGaw (Australie), Shiv Nadar (Inde), Professeur R. Natarajan (Inde), Dr. PAK NG (Singapour), Dr. Denise Pape (États-Unis), Sridhar Rajagopalan (Inde), Dr. Diane Ravitch (États-Unis), Richard Wilson Riley (États-Unis), Sir Ken Robinson (Royaume-Uni), Professeur Pasi Sahlberg (Finlande), Professeur Manabu Sato (Japon), Andreas Schleicher (PISA, OCDE), Dr. Anthony Seldon (Royaume-Uni), Dr. David Shaffer (États-Unis), Dr. Kirsten immersive, (Norvège), Chancelier Stephen Spahn (États-Unis), Yves Thézé (LyceeFrancais États-Unis), Professeur Charles Ungerleider (Canada), Professeur Tony Wagner (États-Unis), Sir David Watson (Royaume-Uni), Professeur Dylan Wiliam (Royaume-Uni), Dr. Mark Wormald (Royaume-Uni), Professeur Theo Wubbels (Pays-Bas), Professeur Michael Young (Royaume-Uni), et le professeur Zhang Minxuan (Chine) alors qu'ils explorent les grandes questions d'éducation de l'image que toutes les nations doivent faire face aujourd'hui.
La recherche globale pour l'éducation communautaire page
C. M. Rubin est l'auteur de deux séries en ligne largement lecture pour lequel elle a reçu une 2011 Upton Sinclair prix, "Le Global Search pour l'éducation» et «Comment allons-nous savoir?"Elle est également l'auteur de trois livres à succès, Y compris The Real Alice au pays des merveilles, est l'éditeur de CMRubinWorld et est une fondation perturbateurs Fellow.
Suivez C. M. Rubin sur Twitter: www.twitter.com/@cmrubinworld
Commentaires récents