人工知能と差別発言　モバイルプリンスの知っとくto得トーク［138］

モバイルプリンス

11月20日、東京大学大学院の特任准教授で「人工知能（AI）開発会社」社長の男性が、ツイッターに「私の会社では中国人は採用しません」と投稿した。

多くの人から「それは差別ですよ」と指摘、批判を受けた後も「そもそも中国人って時点で面接に呼びません。書類で落とします」などと挑発するように投稿を重ねた。

こうした発言を受け、東京大学やAI開発会社の取引先企業などが男性の発言を批判する文章を発表。差別に「ノー」を突きつけている。

モバイルプリンス

男性は最初の「差別」投稿から10日後の12月1日、ツイッターに謝罪文を投稿した。

しかし、謝罪文では「特定国籍の人々の能力に関する当社の判断は、限られたデータにAIが適合し過ぎた結果である『過学習』によるものです」と、「差別投稿はAIが悪い」とも読み取れる文面だったため、再び批判が集まった。

モバイルプリンス

今回の件は、通常の「差別投稿」よりも深い意味がある。

実は以前から「AIは差別を肯定する可能性がある」と関係者たちは危機感を覚えていた。

2016年、米マイクロソフト社がAIの「Tay（テイ）」をツイッターに登録し、ユーザーとのやりとりで言葉・会話を学習させようとした。

しかし、悪意のあるユーザーが差別的な言葉を大量に投げ掛け、Tayは差別的な言葉を投稿するようになったため、登録から16時間で停止することになった。

モバイルプリンス

人類は過去に民族差別や特定の属性の人たちを差別し続けてきた。しかし、それらは人権侵害であり、みんなが平和で安心して暮らせる社会とは真逆だ。

過去から学び、差別をなくそうという方向で世の中が進んでいる一方、新しいテクノロジーの取り扱いを間違えると「AIがこう答えているから間違いない」と再び差別が広がる世の中になるかもしれない。

日本のAIの先頭を走っている会社の社長が、堂々と差別発言をしたことはとても重い。

これをきっかけに、改めて「差別発言」の重さ、AIの価値観を優先して、その差別を無自覚に受け入れてしまう人が増える未来の怖さを考えたい。