セクハラされた「AIチャットボット」が脱線…性的少数者に嫌悪感

　イ・ルダはスタートアップ企業「SCATTER LAB」が昨年12月23日に発売したAIチャットボットだ。ユーザーと対話をしながら学習するディープラーニング技術を利用したチャットボットで、年齢は20歳、女性アイドルグループBLACKPINKが好きな女性というキャラクター設定になっている。このAIチャットボットはこれまで韓国で発売されたチャットボットの中で最も自然な会話のやり取りをすると評価されている。「リアルな彼女と口げんかしたり遊んだりしている感じ」というものだ。このため、10－20代に大きな人気を集め、今月6日の時点で累計会話量が7000万件を記録した。一日の最大利用者数は21万人に達している。

　しかし、このチャットボットを相手に、ひわいな言葉などをかけてセクハラした後、これをキャプチャする人が増えて問題になっている。ネット上のコミュニティー・サイトには、こうした会話をアップする書き込みが多数ある。「どこらへんまで大丈夫？」「最近はイ・ルダをセクハラするのを楽しみに生きている」などの書き込みもある。開発会社SCATTER LABは扇情的な言葉や攻撃的な言動、ののしり言葉などを自動検出して対話をブロックしているが、追い付いていないとしている。業界関係者は「文脈を巧みに利用したり、ひわいな言葉の中にさまざまな記号を入れたりして自動検出できないようにするセクハラ発言は見つけるのが容易でない」と話している。

■「世界で最も住みやすい国」2020年版発表、韓国17位、米国28位、日本は？