梟通信～社会を忖度しないAIとどう向き合うべきか？ @ITmedia

まったりと参りましょう、

表題副題はITmediaのこちら(↓)のヘッドラインから(↓)。

http://www.itmedia.co.jp/business/spv/1709/07/news013.html
(ITmedia、「社会を「忖度」しないAIとどう向き合うべきか」、2017/09/07)

直接の参照は個々人の興味に委ねつつ、記事中での問題提起がこちら(↓)の箇所である。

>> AIが社会に普及してきた場合、多くの人にとって受け入れがたいものの、客観性の高い判断をAIが下すというケースは確実に増えてくるだろう。このとき、社会はこれを受け入れるべきなのか、あるいは、中国のように機能制限を加えて「忖度」させてしまうのか、選択を迫られることになる。

《コメント》
・ 私見としては、発展途上にあるAIは、「忖度」できることを、その到達目標として設定すべきでしょう(笑

・ 忖度は、1） 発話の背景にある「文脈」への理解を抜きにしてはあり得ないし、2）発話の文脈を探る時、複数の文脈を連想し特定してゆくことは、ヒトで言えば「考える」ことなので、かなり難易度が高い。

・ 忖度には悪いイメージが結びついたけれど、忖度することがいい・悪いよりも、忖度はどのようにして成り立つのか？ のほうが興味深く思う。

・ 忖度できると、忖度しないという「選択」ができるが、忖度できないと、忖度するという選択ができない。だから忖度はできたほうがいい。

・・・

アシモフの「我はロボット」(↓)、

https://www.amazon.co.jp/われはロボット-〔決定版〕-アシモフのロボット傑作集-ハヤカワ文庫-SF/dp/4150114854

9つの短編だが全体としては、ロボットが次第に《我》を獲得してゆく一つの物語になっていて、

その第5話「嘘つき」は、人の心を読み取るロボットRB34が登場し、人の心を読み取るというのは、まさに忖度の領域でしょう。

第5話のモチーフは、アシモフのロボット工学三原則(抑制・服従・自己防御)を通じて、重要な心(に相当するモノ)の《葛藤》に焦点を合わせ、そのモチーフは後のHAL9000へ、AIの主題とも言えるものへと引き継がれていくことに。

・・・

冒頭の「社会を忖度しないAIとどう向き合うべきか？」との関連では、1カ月前に話題に上っていたのがこちら(↓)だった。

https://smart-flash.jp/sociopolitics/23351?sp
(Smartflash、「米中で人工知能サービス停止も、日本製は当意即妙の回答」、2017/08/07)

《コメント》
・ 「共産党万歳」に対する女子高生AIりんなの「甘党万歳」には笑えたが、りんなが大きく優っているか？ と言えば、必ずしもそうとは言えない。

・ MicrosoftのTayと日本Microsoftのりんなの違いがどこにあるか？ はこちら(↓)に詳しい。

https://wired.jp/2016/03/28/tay-gets-autopsied/
(Wired、「ヘイト発言のAI「Tay」と女子高生AI「りんな」の差」、2016/03/28)

《コメント》
・ やっていることは同じで、実行基盤/プラットホームも同じだと思うが、りんなの場合は、人手でチューニングされている。(分類してから別のアルゴリズムに飛ばしている)

・ 悪意あるコーパスを与えらることがある、ということが、今時点では、Tayに限らず、AIには全く理解できていない段階。

・ なお、必ずしもTayの作りが字句解析に偏っているとは観ていない。だから、その弱点を突かれたというように観ていない。(私見)

・ 既に一般的に、形態素解析(品詞の付与)、構文解析(文法の生成)、意味解析(語義の曖昧性解消)、照応解析(意味の曖昧性解消)の各段階で「確率モデル」(ベイズ推計)を用い、またそれらを逐次的でなく並行的に走らせるという作りになっているはずだからである。

ーーーーーーーーーーーー