「アルゴリズムは、特定の意図を持って、それらを設計したり委託人間のようにバイアスされています. 我々はすべき 従って 社会的影響がソフトウェアシステムの目標についての公開討論をスパーク「 - 。ラルフ・ミュラー・Eiselt
バイアスされたアルゴリズムがあふれています, 機械学習とAIの進化における重要な瞬間でそう, なぜ我々は、このポーズ社会問題について話をされていません?
彼女の本で, ビッグデータは不平等を高め、民主主義を脅かす方法 - 数学破壊兵器, キャシー・オニールは、「ビッグデータ処理は、過去の体系化」が、彼らはしていないことを指摘し、「未来を発明する。」我々はマシンが私たち人間の機関に影響を与えることについてどのように感じています? アルゴリズムが担当しているとき、誰が生活の質を保護します? オニールは、人間のタッチがすることが不可欠であると主張している「私たちのアルゴリズムに優れた値を埋め込むことができます。」
ラルフ・ミュラー・Eiseltは、教育政策とガバナンスの専門家であるとデジタル世界における政策課題と機会にベルテルスマン財団のタスクフォースを率い. 彼の最新の「倫理アルゴリズムの」プロジェクトで (彼はの共著者であります デジタル教育革命; 英語タイトル – 教育のデジタル革命), 彼は、社会や教育におけるアルゴリズムの意思決定や人工知能の結果をよく見てとります. 彼が加入します 教育のためのグローバル検索 AIについて話をします, アルゴリズムと私たちはすべてを考えるべきです.
“またはそれを弱めるために - それは教育にAIが社会資本を強化するための触媒になるかどうかを判断するために私たち次第です。” — ラルフ・ミュラー・Eiselt
ラルフ, 私たちは、アルゴリズムは常に社会や教育のためのプラスの影響を達成するために考案されていることを確認しますか, むしろ危険やリスクより?
アルゴリズムは、特定の意図を持って、それらを設計したり委託人間のようにバイアスされています. したがって、我々は、社会的影響がソフトウェアシステムの目標についてオープンな議論を喚起すべきです. 社会はこのようなシステムが使用されるべき場所を決定するために、彼らが念頭に置いて、右の目的で設計されていることを確認するように、それは私たち次第です. 第二に, 我々は善意で設計してもアルゴリズムが悪い結果を生成することができますことを覚えておく必要があります. 社会の中で、個々の参加に関する大きな彼らの潜在的な影響があります, もっと重要なのは予防的リスク評価であると - 一度自動化された意思決定が使用されている - 意図した結果を検証するための総合的な評価. このプロセスでは、中立の第三者が関与することは非常にソフトウェアベースの意思決定への信頼を構築することができます.
我々は、彼らが意図しているものを達成しているかどうかを評価するにはどうすればよいです?
それは、アルゴリズムベースのアプリケーションやツールを評価することになると透明な説明責任が重要です. これは、我々が公にアクセス可能なアルゴリズムのコードを作成する必要があることを意味するものではありません. 実際には, 最も影響を受けた個人は、アルゴリズム、情報に基づいた意思決定が行われているかの理解を得るためにするために、それはまったく役に立ちません. 代わりに, 我々は、関連する情報やデータへのアクセスを許可され、中立の専門家による評価によって検証することができるアルゴリズムの目的の自己説明文のような仕組みが必要. これらの評価は、アルゴリズムは、実際に意図された目的を提供しているかどうかをチェックし、その現実のリスクと機会を明らかにするために、など総合的に可能な限り設計する必要があります.
「能力重視のカリキュラムの選択肢とジョブオプションのアルゴリズム-知らさ助言のための広大な機会がありますが、, 私たちは弱い顧客をターゲットの危険の前に私たちの目を閉じていないこと, 標準化された差別や大規模な労働市場の除外「 - 。ラルフ・ミュラー・Eiselt
どのように進化する教育システムにアルゴリズムとAIの適応を見ています?
デジタル時代は、教育のための潜在的な付加価値の数を提供しています. 彼らの多くは、接続されたデータの使用に本質的に依存している - それは学習をパーソナライズします, ゲーミフィケーションによって動機付けの障壁を克服します, 機会のジャングルの中で方向性を提供, またはなく、少なくとも, 労働市場の需要に個々の能力をマッチング. 教育分野におけるアルゴリズムとAIの使用は、その初期段階にまだあります, 試行錯誤の多くで観察されます. しかし、この技術は、非常に確かに非常に近い将来にすべてのこれらの問題を進化させるのに役立ちますすることができます. これはかなりの規模での教育に影響を与える可能性があるので、, 政策立案者は、より良い起こり、その後反応するようにこれらの事を待つべきではありません, しかし、積極的に公共財の維持に向けて、今の規制を形作ります. これは、教育のAIが社会資本を強化するための触媒になるかどうかを判断するために、私たち次第です - またはそれを弱めます.
我々は、すべての教室や子どものニーズに適応するためにAIをパーソナライズすることができますどのように?
より良い個々の能力を開発するための学習パーソナライズすることは、デジタル学習の主な機会の一つであります. アルゴリズムベースのアプリケーションとAIは、コスト関連の理由のために人々の限られた数の以前にのみ利用可能だったとパーソナライズされた教育へのアクセスを民主化することができます. しかし、教育におけるAIの約束と危険間の微妙な境界線があります. 能力志向のカリキュラムの選択肢とジョブオプションのアルゴリズム-知らさ助言のための広大な機会がありますが、, 私たちは弱い顧客をターゲットの危険の前に私たちの目を閉じていないこと, 標準化された差別や大規模な労働市場の除外.
AIは人間によって作られているので, アルゴリズムとAIが正確に人為的エラーへの教育環境では動作しません危険性があります? AIの影響学習経験でどのようにミス?
アルゴリズムは、それらを設計し、人間と同じくらい良いです. ヒューマンエラーは、多くの段階でアルゴリズムに変換することができます: アルゴリズムをプログラミングする上でデータを収集し、選択から、その出力を解釈します. 例えば, このアルゴリズムは、過去のデータを使用している場合, 延滞の差別パターンに一定の方向に付勢されています, このアルゴリズムは、これらのパターンから学び、それがスケールで使用される場合に最も可能性が高いとしても、この差別を強化していきます. このような意図しないエラーは厳密に避け、常にのためにチェックする必要があります, 彼らは、教育分野での社会的不平等を拡大するからです.
"ために 政策立案者, 積極的に、より社会的公正の方に、この場を形作るために今高い時間です. そして、アルゴリズムの実際の設計・開発に関与しているものが反映させるために時間を取る必要があります 約 彼らの社会的責任と、この分野での職業倫理のための共通の基準を作成する「 - 。ラルフ・ミュラー・Eiselt
どのようにこれらの問題を最小限に抑えることができます?
上記でより詳細に説明するように, 私たちは、予防的リスク評価を行い、中立の第三者によるアルゴリズムベースのアプリケーションの定数及び総合評価を確認する必要があります. 我々はまた、より広範な公開討論を刺激し、使用のための意識を高める必要があります, 教育におけるアルゴリズムのチャンスとリスク. 政策立案者のための, 積極的に、より社会的公正の方に、この場を形作るために今高い時間です. そして、アルゴリズムの実際の設計・開発に関与しているものは、その社会的責任については反映しており、この分野での職業倫理のための共通の基準を作成するために時間を取る必要があります.
AIとアルゴリズムは、世界的に異なる教育システムのために再調整する必要があります? どのように重要なことは、AIの製剤に文化の違いを組み込むことになります?
どのような世界で最も教育システムに共通しているのは、彼らが彼らの個々の能力や才能を開発する人々に力を与えると、サポートすることを目指していることです, 要するに: 機会の平等を作成します. しかしながら, この目的にアプローチし、達成するための方法は多様です. それらのすべては、彼らの長所と短所を持っています. どのような一つの場所で働くことは、必ずしも別の社会的文脈では動作しません。. 同様に, アルゴリズム- そして、AIベースのアプリケーションは、それらが採用されている特定の社会文化的な設定に調整する必要があります.
(すべての写真CMRubinWorldの礼儀です)
C言語. M. ルービンとラルフ・ミュラー・Eiselt
サー·マイケル·バーバー含む私を参加して、世界的に有名なオピニオンリーダー (英国), DR. マイケル·ブロック (米国の), DR. レオンBotstein (米国の), 教授クレイ·クリステンセン (米国の), DR. リンダダーリング·ハモンド (米国の), DR. MadhavChavan (インド), チャールズ·ファデル (米国の), 教授マイケルFullan (カナダ), 教授ハワード·ガードナー (米国の), 教授アンディ·ハーグリーブス (米国の), 教授イヴォンヌヘルマン (オランダ), 教授クリスティンHelstad (ノルウェー), ジャンヘンドリクソン (米国の), 教授ローズHipkins (ニュージーランド), 教授コーネリアHoogland (カナダ), 閣下ジェフ·ジョンソン (カナダ), 夫人. シャンタルカウフマン (ベルギー), DR. EijaKauppinen (フィンランド), 国務長官TapioKosunen (フィンランド), 教授ドミニクラフォンテーヌ (ベルギー), 教授ヒューローダー (英国), 主ケンマクドナルド (英国), 教授ジェフ·マスターズ (オーストラリア), 教授バリー·98名 (オーストラリア), シヴナダール (インド), 教授R. Natarajan (インド), DR. PAK NG (シンガポール), DR. デニス教皇 (米国), Sridhar Rajagopalan (インド), DR. ダイアンRavitch (米国の), リチャード·ウィルソン·ライリー (米国の), サー·ケン·ロビンソン (英国), 教授パシSahlberg (フィンランド), 教授佐藤学 (日本), アンドレアス·シュライヒャー (PISA, OECD), DR. アンソニー·セルドン (英国), DR. デビッド·シェーファー (米国の), DR. キルスティン没入Areの (ノルウェー), 首相スティーブン·スパーン (米国の), イヴTheze (LyceeFrancais米国), 教授チャールズUngerleider (カナダ), 教授トニーワーグナー (米国の), デイヴィッド·ワトソン (英国), 教授ディランウィリアム (英国), DR. マークWormald (英国), 教授テオWubbels (オランダ), 教授マイケル·ヤング (英国), 教授Minxuan張 (中国) 彼らは、すべての国が今日直面している大きな絵教育問題を探るように.
C言語. M. ルービンは彼女が受け取った2つの広く読まれているオンラインシリーズの著者である 2011 アプトン·シンクレア賞, 「教育のためのグローバル検索」と「どのように私たちは読みます?"彼女はまた、3つのベストセラーの本の著者である, 含めて 不思議の国のアリスリアル, の出版社です CMRubinWorld そしてかく乱財団研究員である.
Cに従ってください. M. Twitterでルビン: www.twitter.com/@cmrubinworld
最近のコメント