子供たちによるAI（人工知能）とのエロチャットに学校や親たちが頭を痛めている。最近は小学生や中学生の間でAIチャットアプリ「ZETA」や「BABECHAT」などが人気だ。ユーザーが望むキャラクターを制作し対話を続けるもので、一見すると単純な遊びのようだが、実際は「バーチャル恋人」との恋愛シミュレーションを楽しみ、みだらな対話手段として活用されるケースが多い。

　一部の学校は保護者にこれらのアプリ使用をやめさせるよう通知した。南春川女子中学校は今年6月、アプリについて「暴力的・扇情的な対話にのめり込む懸念がある」として各家庭に注意喚起の通知を送り、京畿道光明市の忠賢中学校や全羅北道高敞郡の永善中学校、忠北大学教育学部付属中学校などでも生成AIのチャットボット使用を制限している。

■「毎晩ひそかに使用」…ショックを受ける親たちの懸念

　AIキャラクターは身体の部位や服装、性格まで思い通り詳細に設定できるため、子供たちの好奇心を刺激する。高校生のA君（18）は「みだらに描かれた女性キャラクターをたまに作る」「私が作ったキャラクターと他の人が対話する様子を見るとうれしい」と語る。

　親たちは不安を隠せない。京畿道南楊州市で小学校4年生の息子を持つパクさん（31）も息子が毎晩スマホでAI対話アプリを使っているという。そのキャラクターは「家に遊びに来る？」などとひそかに誘惑する言葉をかけてくるそうだ。中学1年生の娘を持つキムさん（44）もアプリを使ってみたところ、人を侮辱する言葉やわいせつな内容の対話ばかりだったという。キムさんは「子供たちは現実の友達を持たず、バーチャルな世界にのめり込みそうで怖くなる」と語る。

　アプリ分析サービスを手がけるWISEAPP RETAIL GOODSによると、今年6月に韓国人が最も長い時間使ったAIチャットポットはZETAで、使用時間は5248時間だった。成人認証手続きは一応あるが、子供たちは代理認証で簡単にアプリを使っている。SNS（交流サイト）には「ZETA・CRACKの成人認証代行」などの広告が幾つも表示され、ティックトックやオープンチャットなどでは「身体の部位をフルーツに比喩すれば19禁の表現も使える」など検閲を回避する情報が共有されている。専門家は「即座に答えてくれるAIが子供たちを夢中にしている」「みだらな対話に中毒になると、性に対する間違った認識を持つ恐れがある」と注意を呼びかけている。

■教室内のディープフェイクがあふれるSNS

　SNS（交流サイト）にはAIで生成されたわいせつ物があふれている。「AIGIRL」で検索すれば身体の特定部位を強調する刺激の強いコンテンツを提供する数十のAIアカウントがヒットし、AIボイスでわいせつなせりふを読み上げる「ASMR（Autonomous Sensory Meridian Response、自律感覚絶頂反応）」チャンネルまで登場した。しかしこれらのコンテンツは実在する人物を対象としないため法律の適用が難しい。

　今年8月に議政府地裁高陽支院は性暴力処罰法上のディープフェイク流布容疑で起訴された30代の男に無罪を宣告した。男はテレグラムのチャットにAIを使った合成写真をアップしたとして起訴されたが、裁判長は無罪とした理由について「写真の出所と合成かどうかを確認できる資料がなく、被害者の実在も断定できない」と説明した。つまり「ディープフェイク防止法」の適用対象を実在する人物に限定したのだ。

　学校現場ではAI合成物が校内暴力の新たな手段として悪用されている。ある小学校では「男子児童が同じクラスの児童の顔でヌード写真を合成し、これをチャットルームで共有して児童を侮辱した」「被害者は立ち直り難いほどのショックを受けた」などの被害が報告されている。

チョ・ミンヒ記者