自動検出: 自動システムは、ヘイトスピーチ、ハラスメント、露骨な性表現、危険なコンテンツなど、禁止されている使用に関するポリシーの違反について API の使用状況をスキャンします。 手動検出: プロジェクトで不審なアクティビティが継続的に発生している場合、承認された Google の担当者による手動審査の対象となることがあります。
潜在的な問題の調査方法 上記の安全性フィルタと不正使用検出システムによってプロンプトまたはモデル出力がフラグ設定された場合、権限のある Google 社員がフラグ設定されたコンテンツを評価し、事前定義されたガイドラインとポリシーに基づいて分類または判定を確認または修正することがあります。データへのアクセスは、内部ガバナンス評価およびレビュー管理プラットフォームを介して、承認された Google 社員のみが人間のレビューのために行うことができます。不正行為のモニタリングのためにデータがロギングされる場合、そのデータはポリシーの適用のみを目的として使用され、AI/ML モデルのトレーニングやファインチューニングには使用されません。
https://ai.google.dev/gemini-api/docs/usage-policies?hl=ja
不正使用のモニタリング方法
Google の Trust and Safety チームは、自動プロセスと手動プロセスを組み合わせて、Gemini API の不正使用の可能性を検出し、ポリシーを適用しています。
自動検出: 自動システムは、ヘイトスピーチ、ハラスメント、露骨な性表現、危険なコンテンツなど、禁止されている使用に関するポリシーの違反について API の使用状況をスキャンします。
手動検出: プロジェクトで不審なアクティビティが継続的に発生している場合、承認された Google の担当者による手動審査の対象となることがあります。
潜在的な問題の調査方法
上記の安全性フィルタと不正使用検出システムによってプロンプトまたはモデル出力がフラグ設定された場合、権限のある Google 社員がフラグ設定されたコンテンツを評価し、事前定義されたガイドラインとポリシーに基づいて分類または判定を確認または修正することがあります。データへのアクセスは、内部ガバナンス評価およびレビュー管理プラットフォームを介して、承認された Google 社員のみが人間のレビューのために行うことができます。不正行為のモニタリングのためにデータがロギングされる場合、そのデータはポリシーの適用のみを目的として使用され、AI/ML モデルのトレーニングやファインチューニングには使用されません。