AI(人工知能)の差別発言は誰の責任? モバプリの知っ得![104]

  • 沖縄県全体
このエントリーをはてなブックマークに追加

 

11月20日、東京大学大学院の特任准教授で「AI開発会社」社長の男性が、ツイッターにて「私の会社は中国人は採用しません」などと差別発言をして批判が多く集りました。(現在、投稿は削除済み)

過去には、「AIが差別的な言葉を学習し、差別マシーンになる」というトラブルも発生し、「AIと差別」の危険性については度々指摘されていました。

そうした中で、AI開発会社の社長が差別発言です。あらためて私たち一人一人が「AIと差別」の構造、あるいは差別そのものについて考える必要が出てきています。



東大や取引先も批判声明



東京大学大学院の特任准教授の大澤昇平氏は11月20日、ツイッター上に「私の会社は中国人は採用しません」「そもそも中国人って時点で面接に呼びません。書類で落とします。」と投稿を重ねて、批判が集りました。


イラスト・小谷茶(こたにてぃー)

しばらく挑発的な投稿を重ねた大澤氏でしたが、東京大学や関連企業が批判する声明をだし、東京大学での寄付講座にお金を出していた企業も寄付を停止、東大での講座が中止に追い込まれることとなりました。

その後、12月1日にツイッター上で謝罪の文章を投稿していますが、

「一連のツイートの中で当職が言及した、特定国籍の人々の能力に関する当社の判断は、限られたデータにAIが適合し過ぎた結果である「過学習」によるものです。」

と、「自分ではなく、AIが悪い」と受け取れる言葉が入っていたため、批判は収まりませんでした。

https://www.huffingtonpost.jp/entry/daisy_jp_5de352e2e4b00149f7305733



過去にもあったAIが差別発言「Tay事件」



今回はただの「差別発言」で終わる話ではありません。
何せ、AI開発会社の社長で、AIに関して書籍も出している人物が発言したからです。

実は2016年に、マイクロソフトがAI「Tay(テイ)」をSNSに公開したところ、ユーザーが投げつけた差別的な発言をAIが学習し、暴走。差別・陰謀論を繰り返し投稿する事件が起きていたからです。

https://www.buzzfeed.com/jp/sakimizoroki/microsofts-ai-chatbot-into-a-neo-nazi-jp

現在のAIはすぐに独立した知能で考えるのではなく、大量にデータを取り込ませてクセを学習させます。

マイクロソフトのAI「Tay」は、悪意あるユーザーの差別的な投稿を大量に「学習」し、差別を繰り返すのです。

また、アメリカ・シリコンバレーのテクノロジー企業では、AIに学習させる段階で、どうしても「白人男性」のデータの比重が多くなり、AIの学習結果に人種・ジェンダーの偏りが出るなどの問題が発生しています。

https://wired.jp/2018/02/23/photo-algorithms-skewed-accuracy/

https://www.newsweekjapan.jp/stories/technology/2018/02/ai-32.php

過去に人類は様々な差別を行なってきましたが、そうした人権侵害から脱却すべく、多くの知恵と協力する、融和的な姿勢で少しずつ前に進んできました。

しかし最先端のテクノロジーが、間違った学習によって平然と差別を行い、「AIのいうことは絶対だ」と素直に従う人が出てきたら・・・また差別が溢れ返る時代に逆戻りです。

こうした背景を知れば知るほど、大澤氏の「差別発言」と「謝罪」にゾッとするはずです。自分の差別発言をAIの責任に転嫁しているようにしか受け取れなく、AIの「最悪な利用」を自ら証明したのですから。



全員が「加害者性」から逃れられない



他人の差別発言に対して偉そうに論じている私も、「うっかり差別発言」をする可能性を秘めています。

人種差別、女性差別、障がい者差別、世の中には多くの「差別の種」が転がっています。

差別発言をしたあとに、「知らずに差別的な発言をしました」「悪気はありませんでした」と弁解する人を多く見かけますが、「だからOK」と帳消しになるわけではありません。

明確な悪意を持って差別的な言動を行う人はともかく、自分の中の差別に対する「無知と偏見」と向き合うことができれば、差別の加害者性は限りなく減らすことができると思います。

「何かあるとすぐに差別だと言われて窮屈だなぁ」と表面的な解釈で終わらせるのではなく、様々なところで差別の構造や歴史を学び、本質的な理解をしていなければ、AI時代にやってくる「差別のリスク」に呑まれるかもしれません。

****************************
編集部より:
12月22日に本記事を公開した時点では大澤昇平氏について「最年少」と表記していましたが、その後読者から「最年少とは自称であり、大学が認めた情報ではないはずだ」との指摘がありました。指摘を受け、東京大学と大澤氏双方に問い合わせをしました。東京大学広報からは「准教授(特任含む)として最年少ではない」との回答を得ました。大澤氏からは期限とした12月27日までに回答はありません。編集部は、大澤氏のツイッターのプロフィール欄や著書に「最年少」と書かれていたことなどから、最年少と認識し掲載に至りましたが、上記の経緯により、「最年少」部分を削除しました。(12月27日、編集部)
*****************************




 琉球新報が毎週日曜日に発行している小中学生新聞「りゅうPON!」12月15日付けでも同じテーマを子ども向けに書いています。

 親子でりゅうPON!と琉球新報style、2つ合わせて、ネット・スマホとの付き合い方を考えるきっかけになればうれしいです。



【プロフィル】

 モバイルプリンス / 島袋コウ 沖縄を中心に、ライター・講師・ラジオパーソナリティーとして活動中。特定メーカーにとらわれることなく、スマートフォンやデジタルガジェットを愛用する。親しみやすいキャラクターと分かりやすい説明で、幅広い世代へと情報を伝える。

http://smartphoneokoku.net/

 



「モバイルプリンスの知っとくto得トーク」はこちら

 



前の記事漫画・ハマとんど~「悩んだ末に」
次の記事2020年こそ、自分らしく働くた...