第3回 AI事業者ガイドライン検討会においてパブコメの結果が公表されました。プロトタイプ政策研究所が提出したパブコメにつきましても、資料1で掲載されております。（2024年3月14日）

「AI事業者ガイドライン案」はその基本的な「考え方」として、①事業者の自主的な取組の支援、②国際的な議論との協調、③読み手にとってのわかりやすさが示されており、また、プロセスとして、④「マルチステークホルダー」と⑤「Living Document」が示されている（P.4）。これらが非常に重要であることに賛同する。他方で、今回の案が、これらの考え方を十分に実践できているかについては疑問がある。

　また、本ガイドライン（案）は、「最先端の基盤モデル及び生成AIを含む、高度なAIシステム」の開発にあたって遵守すべき事項を規定しているが（P.22）、その内容には更なる検討の余地がある。

1.         事業者の自主的な取組の支援

　事業者の自主的な取組の支援については、本ガイドライン（案）があくまでも参照ドキュメントであるにもかかわらず、P.4の図2の直後に「AI開発・提供・利用にあたって必要な取組について」という形で義務的なニュアンスが含められており、それ以外の場所でも「必要」や「責務」という表現が散見される。（下記6等で述べる、一定範囲でAI規制が必要な可能性の点はさておき、）自主的取組とその支援を内容とする枠組みとする以上は、そのような表現は避け、本ガイドライン（案）があくまでも事業者の自主的な取組の指針にすぎないこと、したがってあくまでも考え方の参考となるにとどまり、チェックボックス的に利用するものではないことを一層明確に明記すべきではないか（AIの論点に限らず、行政側において若干の注記を行って例示であることや参考であることを示していたとしても、その読み手の側において、部分的にしか内容を確認しない等の実際の状況もあるため、どうしても例示等であることがわからず、字義通りの対応をしようとすることが生じやすい。特にAI等の比較的新しい分野においては、注意をしてもし足りることはなく、現に誤解する読者に接することが頻繁にあるためのコメントである）。

　なお、図２1⃣の下に「リスクベースアプローチ」を採用、とあるが、リスクベースアプローチ自体は、規制においても使われる用語であり（例えば、EUのAI法もリスクベースアプローチを謳っている）、自主的な取組を支援する1⃣の趣旨説明としては不適切であると思われる。この箇所は、「ソフトローアプローチ」であることを説明すべきではないか。また、本ガイドライン（案）は、我が国におけるAIガバナンスの統一的な指針を示すものであり国際的にも注目される以上、英語逐次翻訳版の公表も視野に入っていると思われるが、その際には例えば「責務」という用語は避けるのが望ましいだろう。

2.         国際的な議論との協調

国際的な議論との協調については、広島AIプロセスが異なる国家間の制度の相互運用性の必要性を強調している通り、本ガイドライン（案）も、すでに公表されている米国NISTのAIリスクマネジメントガイドラインや、関連する国際標準（ISO 42001 AIマネジメントシステムなど）との整合性を確保したものとすべきである。この点、本ガイドライン（案）は、これらの国際的なフレームワークとの関連性が示されておらず、相互運用性が確保されていない。少なくとも上記２つのドキュメントとの対応関係を整理すべきではないか（別添9でこの点を扱う予定と思われるが、別添9が見当たらない）。

3.         読み手にとってのわかりやすさ

　読み手にとってのわかりやすさ、とあるが、本ガイドライン（案）自体が別添も含め非常に分量が多い上、本文と別添の関係も重複が多くうまく整理されているとは言い難く、率直に申し上げて分かりにくい。

　また、全体を通じて、定義が曖昧で、事業者にとって何が指針となるのかがわからない。例えば、「AI提供者」の定義の「AIサービスの提供に伴い・・・」という箇所や、「AI利用者」の「また、AIの・・・」以下の文は、それぞれ他のAI事業者にも妥当する内容であり、なぜ特記されているのかがわからない。また、AIとは「AIシステム」自体という定義も、意味が不明確である。上記の国際的なフレームワークも踏まえつつ、より整理された定義を置くべきではないか。

4.         マルチステークホルダー性

　マルチステークホルダー性について、P.3で、「本ガイドラインは、政府が単独で主導するのではなく、教育・研究機関、一般消費者を含む市民社会、民間企業等で構成されるマルチステークホルダーで検討を重ねることで、実効性・正当性を重視したものとして策定されている」と記載されているが、そのような策定の具体的な経緯を開示すべきではないか。

5.         Living Document性

　Living Document性について、「アジャイル・ガバナンスの思想を参考にしながら、マルチステークホルダーの関与の下で、Living Documentとして適宜、更新を行うことを予定している。」とあるが、その具体的な見直しプロセスについても政府としてコミットすべきではないか（結局作りっぱなしにならないことを確保する必要があると思われる）。

　すなわち、本ガイドライン（案）は、AIをめぐる動向の目まぐるしい変化を意識して、「事前にルールや手続が固定されたAIガバナンスではなく、企業・法規制・インフラ・市場・社会規範といった様々なガバナンスシステムにおいて、『環境・リスク分析』『ゴール設定』『システムデザイン』『運用』『評価』といったサイクルを、マルチステークホルダーで継続的かつ高速に回転させていく、『アジャイル・ガバナンス』の実践が重要」という（P.25）。しかし、本ガイドライン（案）は、「開発・提供・利用予定のAIのもたらすリスクの程度及び蓋然性や、各主体の資源制約に配慮した検討が重要」と指摘こそすれど（P.25）、内容としては昨年の経産省「AI原則実践のためのガバナンス・ガイドラインver.1.1」と重なるものを繰り返すに留まり、マルチステークホルダーの関与の仕組みについて具体的な道筋を示していない。アジャイル・ガバナンスの実践には、マルチステークホルダー間でゴール設定やシステムデザイン、評価等に関する連携が必要であり、政府と企業によるガバナンスにそれぞれ関連するステークホルダーが関与できるようにするための仕組みが肝要である。

　それにもかかわらず、本ガイドライン（案）には、マルチステークホルダーからどのように意見を拾い上げていくのか、本ガイドライン（案）改訂の際拾い上げた意見をどのように反映させていくのかといった具体案が含まれていないのである。本ガイドライン（案）によると、具体的な体制整備については今後の課題とのことであるが（P.3）、これが不足したままで継続的かつ高速の回転は望めない。「様々な事業活動においてAIを活用する者が、国際的な動向及びステークホルダーの懸念を踏まえたAIのリスクを正しく認識し、必要となる対策をライフサイクル全体で自主的に実行できるように後押しし、互いに関係者と連携しながら『共通の指針』と各主体に重要となる事項及びAIガバナンスを実践することを通して、イノベーションの促進とライフサイクルにわたるリスクの緩和を両立する枠組みを積極的に共創していくことを目指す」ため、「AIの安全安心な活用が促進されるよう、我が国におけるAIガバナンスの統一的な指針」を示すというのであれば（P.2）、もう一歩踏み込んで、マルチステークホルダーの関与の仕組みについて具体案を示すべきである。

6.         基盤モデル、生成AIの取扱い方

(1) 規制を必要とする立法事実が存在する可能性について

　我が国では、包括的なAI規制立法は制定されていないし、政府はAI規制立法に慎重な姿勢をとっているようにみえる。もっとも、我が国でも一定の分野において法律によるAIの開発及び利用の規制が行われてきた面はある。例えば、AIを活用した自動運転については、令和元年に道路交通法が改正され、自動運行装置を使用する運転者の義務や作動状態記録装置による記録に関する規定の整備等が行われ、レベル3の自動運転車を道路で安全に走行することが可能になった。同年には道路運送車両法も改正され、自動運転を担うシステムである自動運行装置が保安基準の対象装置に追加された。令和4年にも道路交通法が改正され、レベル4の自動運転に相当する特定自動運行の許可制度等が創設された。AIやそれを利用した製品が医療機器に該当する場合には、医薬品医療機器法に基づき安全性や有効性の確保が求められてきた。また、AIによるコンテンツ生成の発展を見据え、平成30年に著作権法が改正され、情報解析の用に供する場合などには、著作権者の利益を不当に害しない限り、必要と認められる限度において、著作権者の許諾なしに著作物を利用することが認められている。これらの立法は基本的にAIの活用を促すための立法ではあるが、同時にAIの活用に伴うリスクに対応するための規制も盛り込まれているということができよう。また、このようなAIに特化した法整備がされていない場合でも、既存の法制においてハイリスクの事業分野などは、一定の対応を求められている状況であると認識している。

　今後、例えば、生成AIや汎用目的AI(基盤モデル)など一定のAIについて、個人の権利利益や国家の安全に対して深刻なリスクをもたらすおそれが認められるなど、一定の生成AI等によりリスクが増大・顕在化することや、多数のAIやデジタルサービス等の挙動に影響を与える状況が生じるなど、規制を必要とする立法事実が認められる可能性もあると考えられる。このような場合には、一定のAIの開発や利用について規制するための立法を行い、社会的基盤を形成することも検討に値する場合もあるだろう。

(2) EUのAI法案との比較

　本ガイドライン（案）の第2部C.「高度なAIシステムの開発にあたって遵守すべき事項」では、最先端の基盤モデル及び生成AIシステムを含む、高度なAIシステムを開発するAI開発者については、「『高度なAIシステムを開発する組織向けの広島プロセス国際行動規範』を遵守すべきである」とするのみである。逆にいうと、このような国際行動規範遵守以外に特に高度なAIシステムに関する遵守事項は見られない。

　また、生成AIについては、別添P.95頁、P.130頁では「生成AIによって、内容が真実・公平であるかのように装った情報を誰でも作ることができるようになり、AIが生成した偽情報・誤情報・偏向情報が社会を不安定化・混乱させるリスクが高まっていることを認識した上で、必要な対策を講じる」という偽情報対策の必要性が論じられ、別添１・第１部関連Bでも、悪用、機密情報の流出、ハルシネーション、偽情報、誤情報を鵜呑みにすること、著作権との関係、資格等との関係、バイアスの再生成等は挙げられている。すなわち、生成AIのリスクの認識は正確になされているが、当該リスクに対する対応が法的拘束力なきソフトローレベル（自主的取組とその支援を内容とする枠組み）にとどまっている。

　この点、我が国と同じ問題意識を有しているEUのAI法案では、本ガイドライン（案）と違って、ハードローアプローチが採用されている。例えば、汎用目的AIについては、汎用目的AIの定義に該当するAIの提供者が、委員会に通知する義務等が課せられ（AI法52b条）、その他、モデルの技術文書の策定と更新（AI法52c条1項(a)号)、汎用目的AIモデルをAIシステムに統合したAIシステム提供者に対する情報提供等（AI法52c条1項(b)号)、著作権法を尊重するポリシーの実施（AI法52c条1項(c)号)、AIオフィスの提供するテンプレートに基づき汎用目的AIモデルの訓練に用いたコンテンツに関する十分に詳細なサマリーを策定し、公表する義務（AI法52c条1項(d)号)、代理人を置く義務(AI法52ca条)等を負い、監督に服する（AI法68f条以下）。また、生成AIについても、AI法前文において、生成AIが汎用目的AIの典型例である（AI法前文60c）とか、汎用目的AI、とりわけ生成AIがユニークなイノベーションの機会と共に、芸術家、作家及び他のクリエイター等への挑戦を投げかけていること（AI法前文60i）等が説明された上で、AI法52条1a項において、生成AIシステムの提供者が、当該AIの出力物が、AIによって生成され又は加工されたことが機械可読性のあるフォーマットでマークされ、かつ、そうであると検出可能であるようにしなければならない、同条3a項第1段落において、ディープフェイクを生成するAIシステムのデプロイ者に対し、当該コンテンツがAIによって生成され又は加工されたことを公表しなければならない、同項第2段落で、公衆に対し公共の利害に関する事項について伝達する意図を持って発行される文章を生成し又は加工するAIシステムのデプロイ者は、当該文章がAIによって生成され又は加工されたことを公表しなければならない等と規定している。

　我が国でも、透明性に関する義務やフェイクニュースに関する義務等、一定の義務をソフトローレベルより上へと高める必要性を検討することは有用であろう。この際には、透明性の要求については、従来の規制領域においては、重要な場面での利用にあたっては、結果的に対応が求められることがあること、フェイクニュースは、AIのみに特有の問題ではなく、アテンション・エコノミーの拡大の中で、リスクが顕在化しAIがそれを増幅する関係にあることも踏まえる必要がある。もちろん、最初はソフトローで規制を開始した上で、後にハードローに移行する等の方法も１つの可能性として検討に値する。またフェイクニュース対応については、AIのみに着目せず、フェイク画像が生成されるようなAIが特に関与する場合に限らず、プラットフォームのコンテンツモデレーション、メディア政策などを通じて規制法を整備する可能性もあるとも考えられる。

　ただ、いずれにせよ、EUは、我が国と同様の問題意識を持ちつつ、ハードローでのアプローチを試みているのであって、それと我が国が異なるアプローチ（ソフトローアプローチ）を採用するのであれば、当該アプローチを採用するべき理由を明確にすべきである（EUのアプローチ、その内容を全て日本で取り入れるべきとは考えるものではないことはもちろんである）。

（2024年2月19日）