生成的人工知能(生成AI)利用者の10人中7人は、悩みを打ち明けたり、癒やしを受けたりするなど、情緒的な目的でAIを使っていることが分かった。
保健福祉部(省に相当)が8日に公表した韓国保健社会研究院のアンケート調査の結果によると、最近1カ月以内に生成AIを利用した15-79歳の1019人のうち、68.8%が日常会話や感情的な交流・癒やし、メンタルヘルス相談など、情緒的な目的でAIを利用していると答えた。AIの回答やアドバイスによって助けられたり、問題を解決したりした経験があるという回答者は79.9%だった。「AIのアドバイスに基づき、退職・別れなど重要な決定を下した経験がある」と答えた人の割合も、10.6%に上った。
AIの回答を医学的診断のように受け止めるケースも少なくなかった。回答者の14.6%は、AIと会話した後、自分にうつ病・不安障害など特定の精神疾患があると自己判断したり、AIの回答を医学的診断のように受け止めたりしたと答えた。AIが事実でない、または悪影響を及ぼすアドバイスを自信に満ちた口調で示したため、専門家のように錯覚した経験がある、という回答も16.5%だった。
これを受け、政府は大韓神経精神医学会とともに同日、AIへの過度の依存と副作用を防ぐための「メンタルヘルス目的の生成AI利用ガイドライン」を発表した。AIを実際の人間のように見なして依存したり、専門的な精神科診療・相談に代わる手段として活用したりしてはならない、というのがポイントだ。AIの回答だけを信じて薬の用量を変えたり、服用を中止したりしてはならず、氏名・住所・連絡先や個人情報が含まれた診断書・処方箋・検査結果表を入力してはならない、といった内容などが盛り込まれている。また、重要な情報は政府・学会の資料や専門家を通じてあらためて確認し、会話を始める前に何をどこまで話し、いつ終えるかをあらかじめ決めるよう案内した。
特に今回のアンケート調査では、15-18歳の青少年の半数以上(51.7%)がAIに依存していると答え、すべての年齢層の中で最も高い割合を示した。政府は青少年に対し、AIキャラクターを実際の友人や恋人のように見なしていないか点検し、悩みをAIにだけ打ち明けているなら、身近な人にも話すよう勧めた。保護者には、AI利用を無条件に禁じるのではなく、子どもがどのような目的でどのように利用しているのかをまず聞き、利用目的・時間・方法に関するルールを一緒に決めるよう促した。