この記事はチェ・アンリ法律事務所のムン・ジェシク弁護士の投稿です。スタートアップのための質の高いコンテンツを投稿フォームで共有したい人がいる場合は、ベンチャースクエアエディタチームeditor@venturesquare.netまでご連絡ください。
チャットGPTが登場した時は、ただ、退屈でAIをからかって冗談をやり取りしながら、AI技術というのがしばらく流れる流行のように考えました。チャットGPTが発売されたのが2022年11月だというのにわずか3年も経っていない今、今はどこでもAIではないことがないようです。文書、写真、音声、映像はもちろん、さらには弁護士が作成する法律文書もAIがすぐに作り出しています。業務や日常の生活をより効率的にした側面がありますが、新技術が出ればそうするように、それによる副作用に対する懸念も大きいです。ボイスフィッシングなど犯罪に活用される危険はもちろん、AIを盲信して法律文書作成を任せたが、誤った判例を引用した書面が提出され、被害が懸念されるという報道もあります。
このようにAIの急速な発展と拡散によるリスクに対応するため、米国、日本、EUなど主要国ではAI関連の法令や制度を設けています。我が国もこのようなAI規範の必要性を認識し、2024. 12. AI基本法（正式名称は「人工知能発展と信頼基盤の造成等に関する基本法」）を制定し、2026. 1.に施行を控えています。そして最近、科学技術情報通信部は上記AI基本法の下位法令制定方向と草案を設けて発表し、意見収束手続きを進行中です。当事務所の顧客会社はもちろん、最近AI技術を基盤とした多様なAIスタートアップが現れている状況でAI基本法についての熟知は必須と考えられ、今回のコラムではAI基本法の基本的な骨子として核心条項及び内容を、後続の方では最近発表されたサブ法令の制定方向及び主要内容を紹介します。
1. AI基本法の目的及び制定方向
AI基本法第1条は「この法律は、人工知能の健全な発展と信頼基盤の造成に必要な基本的な事項を規定することにより、国民の権益と尊厳性を保護し、国民の生活の質向上と国家競争力を強化するのに資することを目的とする」と規定し、その正式名称からも分かるように、構築に焦点を当てています。
これにより、AI技術または産業の発展を国家が支えるためのAI政策ガバナンスおよび産業育成支援に関する部分がAI基本法の相当部分を占め、残りはAIに対して安全で信頼できる基盤づくりのための事業者の義務や責任に関する内容です。どうやらAIスタートアップを営んでいる事業者の立場では最後の部分が重要でしょう。
2. AI基本法の主な規定
まず、AI技術と関連産業の発展に関する国家AI政策ガバナンスの確立に関する部分である。 AI基本法は大統領所属の国家人工支援会を設置し、当該委員会の業務を専門分野別、特定の懸案別に遂行するために分科委員会、特別委員会を置くことができるようにし(第7条から第10条)、人工知能政策センター、人工知能安全研究所を指定または運営できるようにして(第11条および第11条および支援のための根拠を設けました。
さらにAI基本法を通じてAI産業の発展のためにAI開発、導入、活用全領域で政府が多様な支援を行うことができるように、人工知能技術の開発及び安全な利用のための支援（第13条）、人工知能技術の標準化のための事業推進（第14条）、人工知能技術の導入及び活用のための支援（第16条）第18条）、人工知能データセンター関連施策の推進（第25条）など各種政府支援の根拠が設けられました。
最後に、AIの安全で信頼できる基盤づくりのための規定として、人工知能倫理原則を樹立し(第27条)、民間自律人工知能倫理委員会(第28条)を設置できるようにし、各種施策や安全性及び信頼性確保のための剣、認証等に関する事業を支援する規定が設けられました。
次に、AIに対する安全で信頼できる基盤づくりのための事業者の義務や責任に関する部分です。 AI基本法は、「高影響人工知能」および「生成型人工知能」事業者の人工知能の利用可否に対する透明性確保義務（第31条）、および安全性確保義務（第32条）を課しており、特に「高影響人工知能事業者」については、提供する人工知能に対する事前検討義務（第33条）、リスク管理方案の樹立及び運営、利用者保護方案の樹立及び運営、高影響人工知能に対する人の管理及び監督等の責任を課しています。なお、国内に住所または営業所がない人工知能事業者のうち一定の基準に該当する者の場合、国内代理人を指定する義務も規定しています（第36条）。
続いて、上記のように事業者に賦課された義務に違反する場合の措置ないしペナルティとして、科学技術情報通信部長官に事実調査及び中止、是正命令権限を付与し（第40条）、これを不履行した人工知能事業者に対しては3,000万ウォン以下の過怠料が賦課されることがあります。
3. AI事業者が負担する義務の具体的な内容
上記条項のうち、AIスタートアップなどAI事業者がAI基本法で特に注目すべき部分は、第31条から第34条までの人工知能事業者に対する義務に関する内容であり、上から見たように、大きく人工知能透明性確保義務（第31条）、人工知能安全性確保義務（第32条）、第34条）3つに分けられます。
まず、人工知能透明性確保義務（第31条）は、消費者に提供される製品またはサービスが人工知能によって運用されたり、いかなる結果物が人工知能によって生成されたり、実際と区別しにくい場合、そのような事実を告知または表示しなければならないという内容です。
具体的には、AI事業者が高影響人工知能や生成型人工知能を利用した製品またはサービスを提供しようとする場合、製品またはサービスが当該人工知能に基づいて運用されるという事実を利用者に「事前告知」しなければならず（第1項）、生成型人工知能またはこれを利用した製品またはサービスを提供する場合、その結果物が該当人工知能（第2項）、人工知能システムを利用して実際と区別しにくい仮想の音響、画像または映像などの結果物を提供する場合には、当該結果物が人工知能システムによって生成されたという事実を「利用者が明確に認識できる方法で告知または表示」しなければなりません（第3項）。
次に、人工知能安全性確保義務（第32条）は、学習に使用された累積演算量が一定の基準以上の人工知能システムの場合、その機能エラー、データ偏向、悪用等の危険発生を懸念し、安全性確保のための人工知能ライフサイクル全般にわたるリスクの識別、評価及び緩和、人工知能関連安全事項あります。
最後に、高影響人工知能の場合、その定義により、実際の国民の生命、身体、基本権に重大な影響を及ぼしたり、招く恐れがあることだけに、AI事業者が利用する人工知能が高影響人工知能に該当するかについて事前に検討するようにしています（第33条）。このような事前検討により、もし高影響人工知能に該当する場合には、当該人工知能の安全性、信頼性を確保するために、1)リスク管理方案の樹立及び運営、2)技術的に可能な範囲内での人工知能が導出した最終結果、人工知能の最終結果導出に活用された主要基準、人工知能の開発及び活用に用いられた3) 利用者保護方案の樹立及び運営、4) 高影響人工知能に対する人の管理及び監督、5) 安全性及び信頼性確保のための措置の内容を確認できる文書の作成及び保管、6) その他高影響人工知能の安全性及び信頼性確保のために委員会において審議、議決された事項等に関する措置(4)
以上、AI基本法の骨子及び主な内容を見てきましたが、これらの法律だけでは高影響人工知能とは何か、透明性及び安全性確保義務の具体的な履行方法～方式と累積学習量が一定水準以上の高性能AIの基準はどのようなかなどは不明です。これについては、先ほど冒頭に説明したAI基本法サブ法令で具体的に規定される予定であり、政府がその制定方向及び草案を最近発表したので、後続編でその内容を引き続き紹介します。
- 関連列をさらに表示
You must be logged in to post a comment.