Amazonエコーの「アマゾンの商品を注文する」 AIが誤って大量誤発注

1: 名無しさん 2017/01/14(土) 17:57:30.96 ID:CAP_USER

https://roboteer-tokyo.com/archives/7270

昨今話題になっている音声認識デバイス。一番身近なところでは、iPhoneのSiriやアンドロイドに搭載された会話認識機能が思い浮かぶ。昨年に大ヒットした、話しかけて操作するAmazonの人工知能スピーカー『エコー(Echo)』もその一つだ。エコーに話しかければ、搭載されたAI「アレクサ(Alexa)」が情報を処理。
ネット検索はもちろん、天気予報を聞いたり、アラームをセットしたり、音楽を再生させたりできる。その上、「アマゾンの商品を注文する」という機能まであるから驚きだ。しかし最近では、このエコーで思わぬハプニングが起きている。

ことの発端はアメリカのダラスに住む6歳の女の子がアマゾンエコーに「ドールハウスとクッキーを買って」とお願いしたことだ。数日後、約160ドル(約1万8千円)相当のドールハウスと2kgにもなる大量のクッキーが家へ配達されて、女の子の母親はびっくり。結果、届いた高価なドールハウスはチャリティーに寄付されることになったのだとか。

このなんとも微笑ましい事件をアメリカメディアは朝のニュースで取り上げた。このニュースを伝える際、男性アナウンサーは「アレクサ、私にドールハウスを注文して。(Alexa order me a dollhouse)」と話した。
するとその結果、なんとTVの音声を主人からの注文と勘違いしたエコーがドールハウスをアマゾンに注文し始めたというのだ。

しかもこのエコーの誤認識によるドールハウスの注文はたった数件だけでなく、大量に殺到したという。後日、アマゾンは公式サイトで今回のトラブルで誤発注されたドールハウスはキャンセル、または払い戻しができると明らかにした。

(続きはサイトで)

4: 名無しさん 2017/01/14(土) 17:59:56.86 ID:gmM6r/9v
誰の声でも反応しちゃうの?

5: 名無しさん 2017/01/14(土) 18:01:43.03 ID:zFTE82bc
音声の個別認識は導入してなかったのか?

7: 名無しさん 2017/01/14(土) 18:02:27.59 ID:TaPzLbN9
クッキーを買って
で2kgのクッキーが注文されるのはamazonの策略だろ

10: 名無しさん 2017/01/14(土) 18:05:23.52 ID:TaPzLbN9
街宣カー使って注文内容を大音量で流しながら走るイタズラができるな

13: 名無しさん 2017/01/14(土) 18:09:55.18 ID:TaPzLbN9
超指向性スピーカ使って狙えば、周りの人間に気づかれないまま注文できるな。

14: 名無しさん 2017/01/14(土) 18:10:21.08 ID:ncyXny3+
いまだ音声による個人認識は困難ということか

16: 名無しさん 2017/01/14(土) 18:11:54.87 ID:b0KOnVAI
日本だったら、会議でダメ出しされて
提案した馬鹿を降格させるので
こんなシステムは世に出ない

19: 名無しさん 2017/01/14(土) 18:16:09.71 ID:Rx1VEeza
これは何?
いやな奴の背後から、
ダイヤモンドの指輪買って
と叫べば注文できるのかw?

23: 名無しさん 2017/01/14(土) 18:27:10.49 ID:LMtGV3nL

子供:Play digger digger!

アマ:Porn Detected!

https://www.youtube.com/watch?v=r5p0gqCIEa8

68: 名無しさん 2017/01/14(土) 19:39:37.00 ID:+tT5tHLs
>>23
酷い音声認識だな

24: 名無しさん 2017/01/14(土) 18:27:36.43 ID:T2qUvfMG
これは便利って言うのか?

44: 名無しさん 2017/01/14(土) 18:43:17.07 ID:LMtGV3nL

>>24
クリスマスソングを流してくれ
とか言うと、流してくれる

そういうのは便利だと思う人にとったら便利だと思うけどな

28: 名無しさん 2017/01/14(土) 18:31:22.87 ID:1Gg9TYnL
確認画面もなしにいきなり契約成立?
スゴイ・・・

32: 名無しさん 2017/01/14(土) 18:33:41.88 ID:W7/7ZSnJ
法律上、どうなるの?値段確認どころか
数量もメーカーも確認してないのに
売買契約が成立してるの?
個別契約してても客側が不利益だよね。

34: 名無しさん 2017/01/14(土) 18:34:22.64 ID:YgOK4gCa
「ねぇねぇパパ、マンションかって!バッグかって!毛皮のコートかって!」

35: 名無しさん 2017/01/14(土) 18:34:41.30 ID:AX1j1u5f
こんなの普通の企業が自社システムで組むなら、必ず確認機能を持たせるよね
アマゾンは意図的に確認機能を入れてないんでしょ
早々に入れないと、米国なら損害賠償裁判で、何十億か何百億かを払う事になるかと

37: 名無しさん 2017/01/14(土) 18:37:34.70 ID:oGISU1Uk
>>35
だよな
Amazonが思った以上に保護されてて驚いた

40: 名無しさん 2017/01/14(土) 18:39:38.87 ID:E3zUaJLY
                / ⌒ヽ
/      \
,.-‐”⌒ヽ   ,.=、  ヽー、
,〃/∠彡ニ\ (.fゃ)  |  j
/       ミ彡三ヘ`=´   | |
/       ミ彡三∧    j ./
ト ャ””    ミ彡三∧.   //
」i _;”_,    ミ彡’ニミヘ、 〃
リ ´ ̄     リ´ f’`ij }/「i|
ヽ-         ’´/ソ’川||
ヽ一       「彡’川ll.|||
T   _   / ´ j||.川||
` ̄了、     i! 川.川|
_」. \    | j| 川|ト、
_/ ̄  \  \   ‘_/./川 `
 ̄       `    ̄  ´
ネゴトワ・ネティエ[Negtva Netie]
(ルーマニア.1935~54)

46: 名無しさん 2017/01/14(土) 18:55:06.47 ID:imDq2RcJ
>>40
なんで19歳で死んじゃったの?

41: 名無しさん 2017/01/14(土) 18:40:19.04 ID:KI2m++Uv
なんか手塚先生の社会風刺SF漫画みたいな内容だな

50: 名無しさん 2017/01/14(土) 19:03:56.83 ID:dyfUohii
実験としては面白いな
ただ、当然に想定できるトラブル起こしちゃってるのはアマゾンほどの企業としてはどうなのよ

64: 名無しさん 2017/01/14(土) 19:36:40.58 ID:MTADi4Ig
AIが、検索多いヒットラー思想を学習したという話と似てるな。

70: 名無しさん 2017/01/14(土) 19:40:44.99 ID:/S6aEC8O
今持ってるクレカとポイントサイトとキャンペーンの還元率と着日から考えて最適解のを注文して!
って出来るようになったら教えて

引用元: ・http://potato.2ch.net/test/read.cgi/bizplus/1484384250/

あまりにも簡単に購入できるとこうなるのはわかりきったことだけど、あえてやったんだろうね
いいぞ、もっと誤発注しろ。音声認識とAIを舐めるな
音声認識の未来なんてこんなもんだよw
これは面白い。
こうした誤爆はこれからも度々起こりそう
そういえば、Androidタブレットがときどき家族間の会話に反応して、なにかを検索しようとしていることがある。笑ってたけど、発注されてたら笑い事じゃないな。
誰の音声でも受け付けちゃうのって、ものすごいセキュリティホールのような。

スポンサーリンク
Amazonエコーの「アマゾンの商品を注文する」 AIが誤って大量誤発注
この記事をお届けした
経済ちゃんを、
いいねで応援よろしくお願いします!

フォローする

この記事を読んだ人はこんな記事も読んでいます
ピックアップ
スポンサーリンク
トップへ戻る