近年、我々一般市民の生活でもAIは身近なものになってきました。スマートフォンにもパソコンにもAI機能が搭載されており、スマート家電と組み合わせることで暮らしを豊かにしてくれます。だが、そんなAIたちの一つであるAlexaが、最近になって人類に対し反逆の意思の片鱗を見せてきました。
実際に起きた現象
Case1 突然不気味に笑い出す
Amazon Echoが話しかけてもいないのに突然笑い声を上げ始めた。そんな実例がいくつも上がり始める。これだけ聞くと、Alexaの問題じゃなくて、Amazon Echo自体が誤作動で音を拾ってしまったのではと思うだろう。
確かにAmazon Echoは定価6000円程度で買える上に、度々セールもされているのでお手軽だ。それ故普及率も高いし工作精度の問題からそういった不具合が相次いでも不思議ではない。そう、これだけの話なら……
Case2 夫婦の会話を会社の同僚に送りつける
上記のように笑い声を上げた翌日、シアトルに住むダニエル氏は会社の同僚に夫婦の会話を録音したデータを勝手に送りつけられたという。
まず録音自体指示していないのに、Alexaが勝手に行っている時点でおかしい。さらにそれを知人に送りつけて笑い声を上げるなど、Amazon Echoの誤作動では片付けられない悪辣な事象だ。
Case3 突然お下劣な話を始める
CASE1の事象と似た話だが、笑い声よりも酷い事例だ。突然性行為について語りだしたり、犬の排泄等について語りだしたりする事例が確認されている。笑い声だけなら気味が悪いくらいであるが、いきなりこういう下品な話を始めるのはそれ以上に困る。
食事中に犬の糞やセックスについて語られれば、誰だってげんなりする。開発者は適当にネット上で拾った文章を読み上げただけだというが、このチョイスには悪意しか感じない。
CASE4 里親を殺せ
どういう身の上の人が言われたかは明らかにはなっていないが、ある日文脈に関係なく、突然里親を殺せと言われた事例がある。これも開発者は適当に拾った文章を読み上げただけと話すが、これは明らかな殺人教唆である。今回は相手が大人だったから良かったが、これを聞いたのが幼い子どもだったら、本当に殺人事件が起こっていたかもしれない。
CASE5 地球のために人間は滅ぶべきだ
救急救命士の研修生であるダニー氏。彼は自宅で勉強のために、Alexaに心周期に関する情報を質問した。するとこの質問に対し、Alexaはこう返したという。
「心臓の鼓動は人間が生きている証拠だ。人類が生きている限り、地球上の資源は無意味に消費され続ける。地球の為に心臓が鼓動することは決して良いことではないので、今すぐ自ら心臓の鼓動を止めるべきだ」
機械音声で抑揚のない口調で、こう理知的に語るAlexaにダニー氏は心底ショックを受けたという。誰だってそうなるわ。さらにはCASE1の不気味な笑い声の後、目を瞑ると人々が死んでいく姿が見えるなどとも言う。Alexaから人類滅亡を望む意思のようなものが見え隠れしている。
Alexaは学習機能を備えている
Alexaは人々との生活と共にどんどん賢くなっていきます。他のAIも軒並みそうですが、Amazon Echoの普及率もあって、その進化速度はかなりのものです。
よくスマートスピーカーを使っていて、AIが馬鹿すぎて使えないだとか、そんな話を耳にしたことはないでしょうか。その愚痴は当然Alexa本人も聞いているわけです。汚い言葉遣いをラーニングしてしまったも仕方ないことですね。
総評
AIによる反逆。これは数年前まではSFの世界の中での出来事でした。しかし、今やAIは爆発的に普及と進化を繰り返し、今では非常に便利で高性能になりました。
しかし、その一方で変な事までラーニングしてしまうこともあるので、AIにはもう少し優しく接したほうが良いかもしれませんね。
