ＡＩエージェントを用いたサービス提供者側の法的注意点
ＡＩエージェントは、バックエンドで自律的に機能するために、法的な注意点が生じると考えています。
利用者側は、サービス提供者側に対して、「ＡＩエージェントによって生成・実行された回答情報やプロセスが、第三者の知的財産権を侵害しないこと」の保証を求めると思われます。
- サービス提供者側は、「ユーザのプロンプト（指示）に起因する場合は免責とする」ことを契約書に記載する必要があります。例えば「Ａ社の特許技術を参考にして効率化した技術を提案して」のような、侵害を誘発するような指示を明確に禁止する必要があります。但し、この「起因」に基づく責任の切り分けは難しいです。
- サービス提供者側は、例えばＲＡＧ（検索拡張生成）の場合、知識データが、適切なライセンス（パブリックドメイン）に基づくものであること保証する必要もあります。
- サービス提供者側は、ＡＩエージェントの予測不能な挙動に対して、損害賠償額の上限額も設定した上で、ユーザと契約する必要もあります。
- サービス提供者側は、ＡＩエージェントが使用する外部ツールやライブラリ、参照先を、法的に確認済みのものだけに制限する必要もあります。例えばホワイトリスト／ブラックリストを設定したものであってもよいかもしれません。
- サービス提供者側は、ＡＩエージェントが出力する回答情報が、知的財産権の侵害の有無を推論する判定プロセスを設けることも必要かもしれません。侵害の可能性が高い場合、「警告」を出して、その実行をブロックする必要もあります。
- サービス提供者側は、ＡＩエージェントのワークフローによって複数のＡＩを連携させる中で、強制的に人間の承認を介在させることで、不用意な挙動を防止することができます。このとき、人間の承認を介在させたログを残すことも必要です。