フェイスブックのAI、黒人を「霊長類」と勘違いしてしまう・・・明らかに容認できないフェイスブックのエラー。これやばいやつ。
フェイスブックのAIがやらかしてしまったので、今回はそれを紹介します。これはあかんやつです。
フェイスブック動画で、黒人男性が登場する動画の下に「霊長類に関する動画の視聴を続ける?」というメッセージ。容認できないエラー。
9月4日のAFPによると、フェイスブックは3日、黒人男性が登場する動画の下に「霊長類に関する動画の視聴を続ける?」というメッセージが表示されたことを受けて、トピックおすすめ機能を停止したと発表したとのこと。
フェイスブックの広報は、「明らかに容認できないエラー」として、問題のおすすめソフトウエアをオフラインにしたと説明したとのこと。
問題となったのは、英大衆朝刊紙デーリー・メール(Daily Mail)が2020年6月に投稿した「白人男性、マリーナで黒人男性らを警察に通報」と題された動画。米紙ニューヨーク・タイムズ(New York Times)によると、この動画の下に「霊長類に関する動画の視聴を続ける?」というメッセージが自動生成されたというとのこと。
フェイスブックの霊長類と呼ぶAI・・・霊長類ヒト科最強の男、マーク・ケアーを思い出した
黒人男性の動画に、「霊長類に関する動画の視聴を続ける?」という自動メッセージ。
これはやらかしてしまった話。
通報された男性がいきりたっていたにせよ、そうでないにせよ、霊長類と呼ぶのはやばいです。もうコメディーの世界です。
霊長類といえば、そういえば昔、マーク・ケアーという格闘家が活躍していました。
彼の通称は、「霊長類ヒト科最強の男」。
まぁ彼の黒人ではないわけですけど、ネーミング的には、これは誉め言葉ですね。
一方、今回はAIが自動的にそう呼んでしまってるやつですから、こっちはめちゃめちゃ嫌ですね。
これ、今回は黒人男性の話でしたが、アジア人でも似たような話があったと考えると、それこそ笑えないと思いますね。ありえなくもないです。
フェイスブックAIの黒人男性を霊長類と呼ぶ動画、このAIが空港にあったらと思うと恐怖
しかし、「もし」このAIが空港にあったと思うと恐怖。
仮にですが、空港で「霊長類発見!」とこのAIがいいだし、捕獲道具を持って警察が押し寄せると、そこにいたのは・・・、と。
これは極端な話ですけど、こんな状況とかあったらやばいですね。
精度が上がったとされるAIですが、まだまだ未発展ということでしょう。
とりあえずフェイスブックは、このAIの機能をすでに停止しているようですが、原因解明を徹底しないとだめですね。