【ソウル聯合ニュース】韓国で22日、「人工知能（AI）の発展と信頼基盤の造成などに関する基本法」（AI基本法）が施行された。AIに関する部分的な規制ではなく、包括的な法令としては世界で初めての施行となる。

　政府はディープフェイクや虚偽情報の流布、人権侵害など拡大するAIの弊害から社会を守る規範が必要だとした上で、業界の懸念を踏まえて政府による事実調査や過料の賦課を1年以上猶予するなどして円滑な施行を目指す立場だ。

　ただ、規制法が制定されたという事実そのものに加え、産業的にまだ成熟していないAIを対象としているため規定の随所に不十分な点があるとして、AI業界から懸念の声が上がっている。

◇AI産業の振興と規制　両立狙う法令

　AI基本法は、AIの健全な活用のために国がAI業界を支援する一方、弊害が予想される危険なAIの使用を防ぐことに重点を置いた。

　科学技術情報通信部の長官は、3年ごとにAIと関連産業の振興、国家競争力強化のためにAI基本計画を立てて施行する。 国家人工知能戦略委員会は法定委員会に昇格する。

　また、国と地方自治体はAI事業者の創造性を尊重し、関連製品やサービスの研究開発を支援する。

　一方、政府はAIが国民生活に及ぼす潜在的なリスクを最小限にとどめ、安全に利用できるよう制度を整える。さらに、AIの安全性と信頼性を確保するための技術開発、教育、広報を支援する。

　AI基本法は、AI技術・産業などに関して他の法律に特別な規定がある場合を除いては同法で定めるところに従うとし、AIに関する包括的かつ上位的な地位を持つと明示している。　

　同法は、デジタルサービスに適用される代表的な法規である電気通信事業法と情報通信網法がAIの発展に追いつけず、規制に不十分な点があるという問題意識から生まれた。

　電気通信事業法の利用者利益侵害禁止条項ではAIやアルゴリズムが引き起こす差別など新たな形の被害への対応が難しいという指摘や、情報の「流通」と「公開」を前提に設計された情報通信網法では情報の生成方法が明らかにされていないAIを十分に管理できないという認識が背景にある。

◇「高影響AI」と「ウオーターマーク規定」　業界への影響懸念　

　AI業界がAI基本法の施行により最も影響を受ける分野として挙げたのは、医療、エネルギー、企業の採用活動、融資審査など国民の生命や権利に大きな影響を与える「高影響AI」や、AIで生成したコンテンツに埋め込まれる「ウオーターマーク（電子透かし）」、説明可能義務などだ。

　AI事業者はこれらの分野のAI使用にあたり、人間が管理するシステムを構築する一方、安全性を確保する措置を取らなければならない。

　現在、高影響AIに該当するのは完全自動運転段階である「レベル4」以上の自動車のみだというのが政府の説明だ。ただ、業界はAI技術の高度化に伴い医療、エネルギー、採用などの分野で高影響AIとして規制を受けるサービスが登場する未来はそう遠くないとしている。

　AI基本法に基づき、高影響AIや生成AIを利用した製品・サービスの提供にあたっては利用者に対し事前にAI使用を通知するとともに、AIで生成されたものであると表示しなければならない。コンテンツ業界は、AIによる創作物と表示することでコンテンツの価値が低下する可能性があることを憂慮している。

　施行令では当初、AIを活用した映像コンテンツなどの表示は機械のみが認識できるメタデータとすることが認められていたが、ディープフェイクなどと区別できるようにするため、生成AI技術を利用していることを案内文や音声で1回以上通知するよう強化する内容に修正された。

　科学技術情報通信部は「AI生成物に対するウオーターマークの適用はディープフェイクの誤用など技術の副作用を防ぐための最低限の安全装置であり、世界の主要企業が導入している世界的傾向」として、少なくとも1年以上の十分な周知期間を設ける方針を示した。

◇政府は事実調査・過料賦課猶予も　業界に根強い不安

　科学技術情報通信部の長官は、AI基本法が定めるAI生成事実の表示、AIリスク管理システムの構築、高影響AI事業者としての責務などに違反したり、違反の通報や苦情が寄せられたりした場合、該当する事業者の帳簿・書類・資料などを調査できる事実調査権を持つ。

　また、AI使用の有無を告知しなかった場合や、海外のAI企業が国内代理人を指定しなかった場合は最大3000万ウォン（約320万円）の過料を科すことができる。

　ただ、法施行によって韓国AI産業の発展可能性が損なわれる恐れがあるとの懸念が高まっていることを受け、政府は事実調査権の発動や過料の賦課を1年以上猶予する方針を示した。

　それにもかかわらず、規制法の制定という事実に加え、産業的に未成熟なAIを対象としていることで規定の随所に不十分な点があるとして、中小企業やスタートアップ企業を中心に懸念の声が広がっている。

　業界団体「韓国インターネット企業協会」の関係者は「AI生成物の表示義務の具体的な方法、主体、範囲が施行令と告示に委ねられており、事業者としては事前にリスクを計算しづらい状況」と訴えた。例えば、映画製作会社がAIサービスを利用する場合、AIサービスの開発者ではなく利用主体であるため表示義務を負わず、AI使用表示を任意で削除することができる。

　このほか、AI基本法が施行令だけで421ページに上るなど、規定が膨大で複雑な点も問題とされる。

　AIという新技術に対する新たな法律を制定するにあたり、当局は大手法律事務所の弁護士らを中心に作業を進めたが、中小企業やスタートアップ企業からは法律事務所に諮問を依頼するコスト余力がないとの声も上がっている。これを受けて、科学技術情報通信部は下位法令の制定に参加した専門家らによるサポートデスクの運営を決めた。