国内初「AI新法」が閣議決定　日本のAI産業発展には「規制の実効性をどのように確保するのか」が重要【弁護士解説】

政府は28日、「AI関連技術の研究開発・活用推進法案」（AI新法）を閣議決定した。AIの開発促進と安全確保の両立を目指す法案で、国内初となる。社会に急速に浸透するAIを国力増強に最大限活用するうえで重要になるのは推進と規制のバランスだ。AI関連の法律に詳しい、モノリス法律事務所の河瀬季弁護士に新法制定へ向けた設計のポイントを聞いた。

規制の実効性をどう確保するか

政府はAI新法を閣議決定しました。大枠としては「AIの研究開発・実装が最もしやすい国を目指す」ことから逆算し、開発推進とリスクのバランスをとった法案となりそうです。どのあたりに注力することが、政府の目指す“”AI推進国家”に近づくうえで適正だと思われますか。

河瀬弁護士： これまで日本では、AIに関する規制は、ガイドラインなどの法的拘束力のない、いわゆるソフトローを中心に運用されてきました。昨年策定・公表された「AI事業者ガイドライン」も、事業者による自主的な取組を前提としたものであり、法的拘束力がないため、事業者によって対応にばらつきが生じており、また、リスクが顕在化した際の強制力にも欠けるという課題が指摘されてきました。

今回、新法の整備に踏み切るということは、こうしたソフトローの限界を踏まえ、規制の実効性をどのように確保するのか、という点がとても重要なポイントになると考えています。

規制の実効性という観点からは、まずは分野横断的な執行主体の創設とその権限・執行プロセスの明確化が必要だと思います。

革新を阻害しない仕組みであること不可欠

AIを規制するといっても、いまやあらゆる分野に浸透しています。規制に実効性を持たせるために分野横断的にある程度のまとまった指標を策定するには、どのような点に着目すべきでしょうか。

河瀬弁護士： 具体的には、AIに関するインシデントの発生に際して、どのような場合に、どの行政機関が調査権限を持つのか、また事業者に対してどのような義務や罰則を課すのかといった、国家としての統一的なガバナンス体制を構築することが重要だと考えています。

その上で、イノベーションを阻害しない仕組みであることも不可欠です。規制の内容が厳格であれば、企業がAI開発や実装を過度に控える事態にもなりかねません。そのため、例えば、欧州AI規則の「リスクベースアプローチ」のように、事業者が適切にリスクを評価するための指針や制度を政府主導で策定していくことが必要だと考えています。

どこまでがリスクなのかの判断はさまざまな要因も絡むため、難しい部分もありそうです。

河瀬弁護士： 過度に厳格な規制は、企業がAI開発や実装を控える要因となり得ます。結果として技術革新を停滞させるおそれもあり、ある程度の配慮も必要です。特に、中小企業やスタートアップにとっては、過度なコンプライアンス負担が競争力低下につながりかねないため、リスクベースアプローチのように、低リスクのAIには過度な制約を設けないなどの段階的な規制を取り入れるべきだと思います。

また、規制の適用範囲や執行プロセスの不明確さも、事業者のAI利用を萎縮させる要因になります。そのため規制の枠組みを明確にするとともに、事業者が自主的に判断できるような仕組み・環境を整えることが重要だと思います。

さらに、国際的な整合性の欠如も、日本のAI産業にとってリスクとなります。国際標準と乖離した独自規制を設けると、日本企業が海外市場で不利になる可能性があるため、国際基準との整合性を保ちつつ、国内の競争力を維持できるルール設計が不可欠でしょう。

犯罪や不正利用に対し、どのように罰則を設けるのか

AIにおいては偽サイトや合成音声が詐欺等に使用されることも懸念されています。これらに罰則などを設けると仮定した場合、どういった点がポイントになりそうでしょうか。

河瀬弁護士： AIが犯罪行為に利用された場合、「AIを使った」という点が過度に強調されがちであるように思われます。重要なのはAIを使って「何をしたのか」であり、当該行為が現行の法制度で対処可能である限りは、安易に新たな犯罪類型を作ったり、罰則を設けたりするべきではないと考えています。

もちろん、AIを利用したがゆえに既存の法制度では対応できないリスクが生じた場合には、新たな犯罪類型を設けるといった立法的解決も考えられますが、現実的にはそのようなケースはあまり多くないのではないかと考えています。

ただし、新たに罰則を設ける場合には、適用対象が過度に広くならないよう慎重な判断が必要です。適法な活用方法との線引きを誤ると、技術の発展を阻害するリスクがあるため、あくまで 「社会的に重大な被害をもたらす行為」に限定し、定義を明確にすることが不可欠でしょう。

また、罰則のような立法的解決のみに依存するのではなく、技術的な対策を取り入れるという考え方があると思います。たとえば、合成コンテンツに識別用のメタデータや透かし（ウォーターマーク）を義務付け、プラットフォーム側での検知・警告システムを整備することで、違法利用を抑止するという方法も考えられます。

AIと著作権のルール整備の要諦

日本新聞協会は中間とりまとめ案に対し、生成AI時代に則した実効性のある法整備が急務としています。背景には情報源として報道コンテンツが無断利用されていることがあるようです。AIと著作権も踏まえた、バランスの取れたルール整備を円滑に進めるためにはどのようなことが重要になりそうでしょうか。

河瀬弁護士： 前提として、日本の著作権法では、諸外国と比べて、著作物をAIの学習データとして利用することが広く認められています。そのため、日本国内ではAIの開発・学習が進めやすく、国外事業者がAI開発のために日本に進出するケースも増えています。

しかし、著作権者側からすれば、自らの著作物が無断でAIの学習データに利用されてしまう状況であり、これに対して不満の声が上がるのは当然のことだと思います。この点については、日本新聞協会の意見にもあるように、対価還元の仕組みなど、データ提供者の権利保護がもっと意識されてもいいのではないかと考えています。

AIの学習に必要なデータは、報道機関やクリエイターが生み出した著作物に依存する部分も大きいため、適切な対価の還元がなければ、コンテンツの創出そのものの持続可能が困難になるリスクもあります。

しかし、個々のデータ提供者がAI事業者と直接交渉し、自らの権利を主張することは現実的には困難であるため、国が主導して著作権者の権利を守るための制度を構築することが重要だと思います。たとえば、著作物を学習データとして使用する場合のライセンス制度の導入や、AI事業者に対する学習データ開示義務の強化など、諸外国ではすでに制度として導入されている例もあるため、これらを参考にすることが考えられます。

欧米との調和は？

先行する欧米との調和において注意すべきはどのようなことでしょうか。

河瀬弁護士： 欧米と足並みを揃えることも重要ですが、日本の産業構造や技術開発の実態に即した制度を構築する視点も欠かせません。特に、日本のAI産業は欧米に比べてスタートアップや中小企業の比率が高く、開発や運用にかけられるコストの規模も異なります。そのため、規制の導入にあたっては、こうした企業に過度な負担とならないよう、事業者の規模や業種に応じた柔軟な仕組みを検討することが重要だと思います。

その上で、日本の立場を国際ルールに反映させるための努力も必要でしょう。国際的なルール形成が進む中で、日本が受け身の立場にとどまれば、国内の事業者が国際市場で不利益を被る可能性があります。そうした事態を防ぐためにも、単に既存の枠組みに適応するのではなく、国際的な議論に主体的に関与し、日本の技術や市場環境に適した制度が国際基準に組み込まれるよう積極的に働きかける姿勢も重要だと思います。