AI基本法（人工知能発展と信頼基盤造成などに関する基本法）が22日から施行される。欧州連合（EU）は2024年に初めてAI法を制定したが、リスクの高いAI規制は2027年12月に先送りしている。この状況で韓国が世界で初めて包括的なAI法を施行する国となった。AI基本法は国がAI管理の仕組みを定め、AI産業の育成と支援、AI活用時の安全と信頼確保などを定めている。

【表】「AI基本法」の主な内容と問題点

　同法の施行でAI関連製品やサービスを直接提供するAI事業者はAIが生成した音声、イメージ、動画に「ウオーターマーク（透かし）」の表示が義務づけられる。また国民の生命、安全、基本権に重大な影響を及ぼす領域に使用され、かつリスクの高いAIを「高影響AI」として定め、事業者にAI活用の事前告知、またリスク管理対策の取りまとめなどを義務づけた。

　これらに違反した場合、最大で3000万ウォン（約320万円）の過料となる。AIを活用したゲームには「本ゲームには一部で生成AIを活用しています」などの案内、あるいはAIで作成したキャラクターには「AIで作成」などと表示しなければならない。ただし単純に業務効率向上のためにAIをツールとして活用する場合はこれらに該当しない。映画に動画生成AIを活用した場合には「AI生成イメージ」などと表示するには及ばないということだ。

■混乱するAI業界

　AI関連企業はAI基本法施行にとまどっている。まず「何をどこまで守るべきか、基準自体があいまい」などの指摘が相次いでいる。「高影響AI」の範囲を巡る議論はその最たるものだ。同法はエネルギー、保健医療、犯罪捜査、逮捕、交通などに「重大な影響を及ぼす恐れのあるAI」を「高影響AI」と定めている。しかし「重大」の範囲はあくまで主観的だ。また高影響AIに該当するかは事業者自らによる検討と判断が求められている。法律に詳しい専門家の間からも「十分な議論が尽くせていない状態で法律が施行された」「言葉の意味を具体的にしかつ明確化し、規制の範囲を狭くしなければならない」などの指摘が相次いでいる。

　法的な判断の基準となるガイドラインを政府はすでに公表しているが、それでも業界の懸念は解消されていない。スタートアップ（新興企業）・アライアンスが昨年末に韓国のAIスタートアップ101社にアンケート調査を行ったところ、98％が「AI基本法施行対策の仕組みはまだ整っていない」と回答した。あるAIスタートアップの代表は「規制を守り、かつ行政手続きに時間と人材を割かねばならないが、大企業なら社内に法務担当部署があって外部の法律事務所を使いながら検討できても、最初から人材不足のスタートアップは無防備状態のままリスクにさらされるしかない」と懸念を示した。

　産業の保護と育成を目的に施行された法律が逆に技術開発の足かせとなり、企業経営まで萎縮させるとの懸念も高まっている。スタートアップ・アライアンスのイム・ジョンウク共同代表は「スタートアップは技術開発だけでも時間と資金が足りない。これからは今の仕事が法律に違反しないか、問題にならないか細かいチェックが求められ、影響で開発が遅れる恐れも出てくる」と警告した。政府はまず事実関係の確認、過料の賦課といった規制の適用は1年以上猶予する考えだという。

■韓国企業への逆差別の懸念も

　業界では「韓国企業だけに足かせがはめられ、外国企業はやりたい放題になる」として逆差別を懸念する声も高まっている。韓国企業は違法行為が摘発されればAI基本法により処罰を受けるが、外国企業に対しては国内法の適用が簡単ではないからだ。AI基本法は海外の巨大IT企業に対しては一定の基準に基づき国内の代理人指定を義務づけている。しかし代理人が実質的な責任者ではなく本社との連絡しか担当しない場合、責任追及は難しい。クーパンで起こった不正アクセスによる情報流出問題と同じく、外国企業に対する実効性のある制裁は不可能ということだ。嘉泉大学法学部のチェ・ギョンジン教授（韓国人工知能法学会会長）は「海外事業者が法律に違反した場合、政府は韓国企業と同様の調査と処罰に向けた強い意志を示し、韓国企業逆差別への懸念を解消すべきだ」と指摘した。

金康漢（キム・ガンハン）記者