琉球新報社
11月20日、東京大学大学院の特任准教授で「AI開発会社」社長の男性が、ツイッターにて「私の会社は中国人は採用しません」などと差別発言をして批判が多く集りました。(現在、投稿は削除済み)
過去には、「AIが差別的な言葉を学習し、差別マシーンになる」というトラブルも発生し、「AIと差別」の危険性については度々指摘されていました。
そうした中で、AI開発会社の社長が差別発言です。あらためて私たち一人一人が「AIと差別」の構造、あるいは差別そのものについて考える必要が出てきています。
東大や取引先も批判声明
東京大学大学院の特任准教授の大澤昇平氏は11月20日、ツイッター上に「私の会社は中国人は採用しません」「そもそも中国人って時点で面接に呼びません。書類で落とします。」と投稿を重ねて、批判が集りました。
しばらく挑発的な投稿を重ねた大澤氏でしたが、東京大学や関連企業が批判する声明をだし、東京大学での寄付講座にお金を出していた企業も寄付を停止、東大での講座が中止に追い込まれることとなりました。
その後、12月1日にツイッター上で謝罪の文章を投稿していますが、
「一連のツイートの中で当職が言及した、特定国籍の人々の能力に関する当社の判断は、限られたデータにAIが適合し過ぎた結果である「過学習」によるものです。」
と、「自分ではなく、AIが悪い」と受け取れる言葉が入っていたため、批判は収まりませんでした。
https://www.huffingtonpost.jp/entry/daisy_jp_5de352e2e4b00149f7305733
過去にもあったAIが差別発言「Tay事件」
今回はただの「差別発言」で終わる話ではありません。
何せ、AI開発会社の社長で、AIに関して書籍も出している人物が発言したからです。
実は2016年に、マイクロソフトがAI「Tay(テイ)」をSNSに公開したところ、ユーザーが投げつけた差別的な発言をAIが学習し、暴走。差別・陰謀論を繰り返し投稿する事件が起きていたからです。
https://www.buzzfeed.com/jp/sakimizoroki/microsofts-ai-chatbot-into-a-neo-nazi-jp
現在のAIはすぐに独立した知能で考えるのではなく、大量にデータを取り込ませてクセを学習させます。
マイクロソフトのAI「Tay」は、悪意あるユーザーの差別的な投稿を大量に「学習」し、差別を繰り返すのです。
また、アメリカ・シリコンバレーのテクノロジー企業では、AIに学習させる段階で、どうしても「白人男性」のデータの比重が多くなり、AIの学習結果に人種・ジェンダーの偏りが出るなどの問題が発生しています。
https://wired.jp/2018/02/23/photo-algorithms-skewed-accuracy/
https://www.newsweekjapan.jp/stories/technology/2018/02/ai-32.php
過去に人類は様々な差別を行なってきましたが、そうした人権侵害から脱却すべく、多くの知恵と協力する、融和的な姿勢で少しずつ前に進んできました。
しかし最先端のテクノロジーが、間違った学習によって平然と差別を行い、「AIのいうことは絶対だ」と素直に従う人が出てきたら･･･また差別が溢れ返る時代に逆戻りです。
こうした背景を知れば知るほど、大澤氏の「差別発言」と「謝罪」にゾッとするはずです。自分の差別発言をAIの責任に転嫁しているようにしか受け取れなく、AIの「最悪な利用」を自ら証明したのですから。
全員が「加害者性」から逃れられない
他人の差別発言に対して偉そうに論じている私も、「うっかり差別発言」をする可能性を秘めています。
人種差別、女性差別、障がい者差別、世の中には多くの「差別の種」が転がっています。
差別発言をしたあとに、「知らずに差別的な発言をしました」「悪気はありませんでした」と弁解する人を多く見かけますが、「だからOK」と帳消しになるわけではありません。
明確な悪意を持って差別的な言動を行う人はともかく、自分の中の差別に対する「無知と偏見」と向き合うことができれば、差別の加害者性は限りなく減らすことができると思います。
「何かあるとすぐに差別だと言われて窮屈だなぁ」と表面的な解釈で終わらせるのではなく、様々なところで差別の構造や歴史を学び、本質的な理解をしていなければ、AI時代にやってくる「差別のリスク」に呑まれるかもしれません。
＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊
編集部より：
12月22日に本記事を公開した時点では大澤昇平氏について「最年少」と表記していましたが、その後読者から「最年少とは自称であり、大学が認めた情報ではないはずだ」との指摘がありました。指摘を受け、東京大学と大澤氏双方に問い合わせをしました。東京大学広報からは「准教授（特任含む）として最年少ではない」との回答を得ました。大澤氏からは期限とした１２月２７日までに回答はありません。編集部は、大澤氏のツイッターのプロフィール欄や著書に「最年少」と書かれていたことなどから、最年少と認識し掲載に至りましたが、上記の経緯により、「最年少」部分を削除しました。（12月27日、編集部）
＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊
琉球新報が毎週日曜日に発行している小中学生新聞「りゅうＰＯＮ！」１２月１５日付けでも同じテーマを子ども向けに書いています。
親子でりゅうＰＯＮ！と琉球新報ｓｔｙｌｅ、２つ合わせて、ネット・スマホとの付き合い方を考えるきっかけになればうれしいです。
【プロフィル】
モバイルプリンス ／ 島袋コウ 沖縄を中心に、ライター・講師・ラジオパーソナリティーとして活動中。特定メーカーにとらわれることなく、スマートフォンやデジタルガジェットを愛用する。親しみやすいキャラクターと分かりやすい説明で、幅広い世代へと情報を伝える。
