はいどうも、カワウソだよ。
2020年3月14日に開業した高輪ゲートウェイ駅。この記事を書いているときは、開業間もないこともあって、平日でもそこそこ人がいる。
この高輪ゲートウェイ駅ではAIをフルに使ったことがアピールされているが、ここでちょっとした騒ぎがあった。
AIのイメージが、ジェンダー差別という指摘があるんだ。
高輪ゲートウェイ駅の外には2つ、音声案内がある。
その一つは真面目風の男性職員、もう一つは『萌えキャラ』風の女性職員だった。
さらに、恋人の有無や体重など、個人情報にまで答えてくれるという。
これが、未来型セクハラとして問題となっているようだ。
高輪ゲートウェイ駅のAI駅員、女子だけアニメキャラで髪を触ったりしてみせてくれて個人情報等々聞いたら応えてくれる、これが最先端の未来志向セクハラ…………。
— はなびら葵 (@hollyhockpetal) March 16, 2020
高輪ゲートウェイ駅のAI駅員、女子だけアニメキャラで髪を触ったりしてみせてくれて個人情報等々聞いたら応えてくれる、これが最先端の未来志向セクハラ…………。 — はなびら葵 (@hollyhockpetal)
最近話題の高輪ゲートウェイAIさくらさん。「ちょっとあわてんぼうな性格」と紹介され、さくらたんと呼ばれると「なんだか照れちゃいますね」hey siriと揶揄われると「拗ねちゃいますからね！」これは…アウトですねぇ。きもいなぁ。仕事中の人間に対し年齢や恋人の有無を聞のはセクハラって知ってた？ pic.twitter.com/tPtHaxtpSg
— 天使 (@tenshicos) March 17, 2020
最近話題の高輪ゲートウェイAIさくらさん。「ちょっとあわてんぼうな性格」と紹介され、さくらたんと呼ばれると「なんだか照れちゃいますね」hey siriと揶揄われると「拗ねちゃいますからね！」これは…アウトですねぇ。きもいなぁ。仕事中の人間に対し年齢や恋人の有無を聞のはセクハラって知ってた？ pic.twitter.com/tPtHaxtpSg— 天使 (@tenshicos)
今回は、実際に高輪ゲートウェイ駅に行っていくつか質問してきたから、その結果を報告するとともに、そこから展開される性差別について考えていこう。
AIさくらの現状を知る
まず、この高輪ゲートウェイ駅で問題となっている女性AI駅員、AIさくらの現状を見ていこう。
現状を知らずに批評しても届くわけがないし、正直浅い。
まずは、AIさくらさんの過去と現在についてみていこう。
高輪ゲートウェイ駅のためだけに作られたAIではない
まず、このAIさくら。高輪ゲートウェイ駅のためだけに作られたものではない。
何と、羽田空港や東京駅といった大きな駅や空港でも使われているんだ。
また、イオンモール等の商業施設にも利用されている。正直、高輪ゲートウェイ駅の何倍も活躍しているだろう。
高輪ゲートウェイ駅は新しくて話題になっているけど、駅としてはそこまで中心的な役割をはたすものではない。東京駅や羽田空港と比べると、そこまで重要だとは言えない。
この駅に設置されたときだけいうのはどうなのかなと思っているよ。
AIさくらと男性AIは製作者が違う
また、『真面目な男性駅員』がとなりにいるから余計に性差が目立つという意見もある。
実際、カワイイ女性AIの音声案内は駅構内にもあるのだけれど、そちらはあまりやり玉に挙げられていない。「高輪ゲートウェイ AI」で検索すると、トップに上がるのはAIさくらさんであり、下の
やはり、男性職員という比較対象があることが、余計に女性のモノ化を際立たせていると感じさせるのだろう。
ただ、一つ言いたいのは、メーカー側が「男は真面目に、女は可愛く」と位として性差を作り上げたものではない。
JRによれば、この2つは製造元が違うというのだ。
なぜ男女で違うキャラにしたかについて、JR東日本の広報部は3月18日、J-CASTニュースの取材にこう説明した。 「2台は、そもそも製造元が違います。お客さまに試してもらって、利用しやすい装置を選ぶ試行導入で、たまたま置いただけです。男女のキャラをそれぞれ用意する意図はなく、結果として混在したということです」 ジェンダーバイアスになるとの批判については、こう言う。 「そのようなご意見があることは承知しており、ご意見を踏まえて、お客さまのサービス向上に取り組みたいと考えています。お客さまの使用状況を見るため、当面は2台とも設置しますが、本導入のときにどうなるかはまだ分からないです」
これが同じメーカーであれば、さすがに差別意識があったとみていいだろうけど、違うメーカーであれば、少なくともその製造者に責任が向けられるのは不合理だと思う（男性モード・女性モードを選択可能にするのも一つの解決策だが、AIといえど音声案内でそういう機能をつけるのは不必要だろう）。
責任があるとすれば、それを並べて設置を決定したJR東日本だろう。また、高輪ゲートウェイ駅の駅員さんが決定に直接かかわったわけではないだろうから、この人達に文句を言うのもやめてほしいよ。
すでに一定の対策はしている
また、「さくらは名前や住所も公開してる！」という投稿があり、その方は「キャバクラゲートウェイ」とか「セクハラゲートウェイ」とか言っているのだけれど、それもまた違う。
というのも、少なくとも現時点（2020年3月19日）では、体重などの直接的なセクハラ質問どころか、名前さえうかがうかがうことができなくなっている。
実際に行ってみて話しかけてみた結果、「駅に関する質問をしてください」といわれた（ただし英語版はいまだ不十分）。
高輪ゲートウェイのAIさくらさん、セクハラ系の質問にはちゃんと対策していましたね(訴えます等はなかったが)
— カワウソ🦦語学と数学と脳科学と夫婦 (@english_otter) March 19, 2020
ただ、英語版はまだまだ対策がない模様。#高輪ゲートウェイ pic.twitter.com/XkY4KTJkz1
AIは、駅員の努力によって進歩するものだ。おそらく、夏にはこういう問題はなくなるだろう（見た目に対する問題は別として）。
ちなみにだけど、男性駅員のほうも誕生日当プライベートな質問に答えている(高輪ゲートウェイ駅のAI、なぜ「女はアニメ、男はリアル」？ JR東に意図を聞いた より。僕が訪れたときには機械がフリーズしており、こちらの方は検証できなかった)。
開業から1週間足らずして、すでにセクハラ対策はほぼしている。
批判する際は、なるべく新しい情報にアップデートしてからやってほしいよ（もちろん、最初からちゃんとやれよという批判には最もなのだが……）。
AIさくらの問題点を明確にする
問題① AIさくらと男性風AIをどうしたいのか
いくつかこのAIに関するツイートを拝見して思ったことがある。
それは、セクハラといいたいだけのツイートがほとんどだとうことだ。
もちろん、Twitterは議論以外をしていい場だから別にいいんだけれど、どうも結論が決まっていれば過程は崩れていても構わないと思っているケースがあって、しかもそれがバズっているようなんだ。
高輪ゲートウェイ駅AI
— 山中 (@eri82tom) March 17, 2020
←男ver 女 ver→
男はいたって真面目な設定
女はふわふわ動くしニコニコだお「さくらって呼んでね💕」「年齢も住所も答えるよ💕」
これに製作途中ストップかからないのがジャパンクオリティー！！！！
さすがジェンダーギャップ121位の国だね！！！！ pic.twitter.com/rBag3yFYvh
製作会社は違ったのだとワシも思うが、それとこれでGoしちゃうのは別な話なので。
— 山中 (@eri82tom) March 17, 2020
「この駅のAIはジェンダーバランスおかしい、どちらかに揃えるべき」とならなかった経緯が問題。
何が問題かを明確にしない、間違った情報をもとに話を進めるようなことをしていては、正直ジェンダーギャップなど埋まるはずもないというのが僕の思うところだよ。
（ちなみに、ジェンダーギャップ指数はセクハラについて直接的に表す指数ではない。）
批判もいいけれど、これからは『変えていく』ためにもっと具体的に、次に生かせるような話がされなきゃ、第二第三の高輪ゲートウェイが生まれてしまう。
そこでまず初めに考えたいのは、どう変えるかだ。
『男→真面目、女→カワイイ』が並列されているのは確かにジェンダーギャップといわれても仕方ない部分がある。
では、どうするのか。
僕としては、例えば、『AIさくらさん』で男性モードを選べるようにすればいいと考えている。遊びを含む案内が欲しいなら、カワイイ女性キャラとかっこいい男性キャラとを選択できるようにすればいい。あるいは、人間ではなくて動物にすればいいんじゃないだろうか。せっかくJR東日本には、ペンギンのカワイイキャラがいる。これを使えば問題なかったのではないかな（実際、AIさくらはイラストを変えることが可能なようで、例えば徳島県ではさくらさんの代わりに県のゆるキャラ『すだちクン』にしゃべらせている）
さくらさんをどうするか、真面目な女性職員にするのか、それとも動物にするのか、まずは考えていこう。
問題②責任をどうするか
つづいて、このジェンダーギャップの責任についてだ。
僕は、真面目風な男性職員とさくらさんとを並置させたのは、やはりJRの考慮が足りなかったと思っている。
しかし、セクハラ質問についてはJRはむしろ被害者かもしれないとも考えている。
AIであっても、音声案内に対する質問で「彼氏はいるの？」なんて普通想定しない。東京駅を含む多くの場所で使われているのだから、問題ないと思っていたんだろう。
並置に関してはJR東日本も負うべきものがあるだろうけれど、セクハラ質問への対処まで負うことはない、ぼくはそう思っているよ。
問題③AI・アニメへのセクハラについて
また、そもそも論になるのだけれど、AIに体重や彼氏の有無を尋ねるのはセクハラなのだろうか。
さくらさんは、つまるところ、音声とアニメーションでしかない。実際の女性に体重を尋ねるのなら当然セクハラだけど、画面に何かいうのは何か問題なんだろうか。もしこれがセクハラに当たるのであれば、Siriに冗談半分で結婚を迫るのはどうなるのだろう。
「実際の女性をへのセクハラを助長する」という批判も想定されるけれど、それについてデータはあるのだろうか。むしろ、三次元への興味が薄れてセクハラが減る可能性だってあるんじゃないかな。
「AIの女の子かわいそう」という意見をTwitterで拝見したけれど、無生物の権利よりもまずは、実際に感情を持ち来ている生物、とくに女性の権利について考えていきたいよ。
女性にしてはいけないことをAIにしてはいけないか
コメントをいただきましたので、それに対してお答えし、また同時に改めて考えたことも書き連ねていきます。
女性はセクハラなど、されていやなことをいやだと、何十年にわたって男性にいいつづけてきた。しかし、女性に何を言ったら傷つくかに関する常識が改善せず、AIキャラクターまで作り出してしまった。女性の意見を全く反映させない点にあるという旨のコメントです。
これに関して私の意見を述べます。
まず、私自身は、ジェンダーギャップ改善の状況は世界のほかの国と比べてかなり遅々としていると考えており、性犯罪に対してより厳しい措置が求められるべきだと思っています。
また、AIさくらさんの製作社に女性、特に女性幹部が現実より多くいれば、もう少し別のAIが生まれていたのではないかとも考えています。男性中心社会だからこそ生まれたものだという側面もあるでしょう。
ただし同時に、セクハラで女性は傷つくという思いがあるからこそAIが作成された点もあるのではないかと思っています。
「体重を聞いたら女性は傷つく」という考えのもとで、「でも、AIにそういうことを言っても傷つかないよね」という発想に至ったのではないでしょうか。
それにより、今まで女性がかぶってきた負担をAIがかぶってくれるとすれば、むしろプラスの効果があるのではともとらえています。
「AIへのセクハラになれた男が実際の女性にセクハラするかも」という意見もあるかもしれませんが、私はそれに対しては否定的です。
猫カフェで、猫の意思にかかわらず体や毛を触る人はいますが、その人たちが実際の女性の体や髪を触るかというと、そういうデータを私は存じ上げません。
同様に、アニメ風の、女性風とはいえいわば『現実離れ』した機械に何らかの質問をしたとしても、それで質問者が女性への頻度を変えるようなことはないのではないかと考えています。
今回はここまでだよ。
ジェンダーギャップに限らず、問題があるときは何を批判し、どう変えていくか、自分の頭で考えていこうね(^●ω●^)
こちらもオススメ！