EU-AI法における個人的注目点
ＥＵ－ＡＩ法（European Artificial Intelligence Act）について、外観を理解するためにわかりやすい記事を見つけました。
EU AI法の概要と日本企業に必要な対応を解説・よくある質問をまとめたQ&Aも紹介
https://www.businesslawyers.jp/articles/1431
ここで、個人的に注目したのは、顧客企業の求めに応じて、ＧＰＡＩモデル（汎用目的ＡＩモデル）を用いて、顧客情報に基づく分析及び情報提供するディプロイヤーについてです。
例えばバックグランドで生成ＡＩを用いてユーザ特有の情報を提供する企業や、コンサルティング会社、法律事務所、特許事務所も該当すると思います。
ディプロイヤーは当然、顧客企業に対して、秘密保持契約（ＮＤＡ）や業務委託契約によって、ＧＰＡＩモデルの利用について事前合意が必須となります。
- ＡＩシステムを利用すること
- そのＡＩシステムに、オプトアウト（訓練禁止）を設定していること
しかし、実は最も重要なことは、
- その分析及び情報提供に利用したプロンプトを開示させる
ことではないか？と、個人的に思いました。
一般的な生成ＡＩを用いて高度な分析結果を得るためには、プロンプトの工夫は必須となります。
一方で、プロンプトの工夫のみでは回答精度にも制限があり、ディプロイヤー内でＲＡＧ（検索拡張生成）を構築し、知識データを蓄積している場合が多いと思います。
ここで注目すべきは、ディプロイヤーが、顧客企業毎にＲＡＧを構築しているかどうか？、過去に収集された他社情報が混在していないか？にあります。
即ち、ディプロイヤーが使用するＡＩシステムのオプトアウトのみに注意するのではなく、ディプロイヤー内の知識データの蓄積にこそ注意すべきです。
一方で、ディプロイヤーにとって、プロンプトの開示にはかなり抵抗があると思います。
大変難しい問題ですが、顧客企業がディプロイヤーと取引する場合に、注目すべき点でもあります。
（あくまで個人的な雑感に過ぎず、法的根拠などありません）