人工知能は人間を人間でなくすのか？

皆様は、人工知能に職を奪われることを心配するより先に、自分の感情が外部からスケスケに読み取られてしまうことを心配する方がよいと思う【生きておられぬおれカネゴン】。
今ぐらい機械学習が順調に発展を遂げていれば、もう数年しないうちに人間が抱く感情というものが表情と目線と仕草と声色から完璧に判定できるようになると思う。
2016/10/01｜おれカネゴン｜note

特に相手と直に対面し、何らかの質問をすることさえできれば、昔の嘘発見器など屁でもないほど、高い精度でそれが嘘かどうかが判定できてしまう。
2016/10/01｜おれカネゴン｜note

はてなダイアリーを捨て、note に引っ越したおれカネゴン先生の見立て、そしてそれが実現したら人間はどうなるかを今から60年以上前にズバリ思い描いた人がいる。

小林秀雄である。

以下、『考えるヒント』に収録された「良心」から引用する。

...もし、嘘発見機に止まらず、これが、人間観察装置として、例えば、閻魔の持っている閻魔鏡のような性能を備えるに至ったらどうなるだろうか。この威力に屈服しない人間はいなくなるだろう。誰にも悪い事は出来なくなるだろうが、その理由はただ為ようにも出来ないからに過ぎず、良心を持つ事は、誰にも無意味な事になろう。人間の外部からの観察が、それほど完璧な機械ならば、その性能は、理論上、人間の性質を外部から変え得る性能でなければならない筈である。それなら、人間を威圧する手間を省いて、人間を皆善人に変えればよい。そうすれば彼等が、もはや人間でない事だけは、はっきりわかるだろう。

これは以前ちらと書いたのだが、「ユートピアのキモさと人工知能がもたらす不気味の谷」を書いたときに、小林秀雄のこの「良心」からの引用を最初にいれようと思ったのだが、威圧的になるかと思って止めたことがあった。

しかし、今となっては、やはりそれを入れるべきだったと後悔している。

...この機械の利用者は、機械の性能の向上を願って止まないであろう。だが、この事は、機械がよく働けば、自分は馬鹿でも済む以上、自分の馬鹿を願って止まない事になりはしないか。「飛んでもない。私はいつも利口でいたい。ただ、手間が省きたいだけだ」。尤もな返答だ。でも、何故、君は、人間の良心の問題に関して、手間が省きたいのか。

ワタシが最近の人工知能ブームに感じる漠然とした不快感は、AI が人間の職を奪うとか、ましてや AI が反乱を起こし人間を滅ぼすといったレベルではなく、こうした人間を人間でなくすような不快感を覚えるからである。

将棋の棋士たちも、今棋士としての存在理由が脅かされる不安を覚えているだろうが、それは経済的基盤だけの話だけでなく、もっと形而上的な意味での不快さがあるのではないか。