# AIアシスタントと外部画像生成サービスの境界で生じる出力停止事象に関する報告書 ## 1. 3行で要約すると… ・一つの例が止まっただけで、似たもの全部がだめだと決めつけず、何が・どこで・どの作業で止まったのかを分けて残すこと。 ・止まったものは、出しかたや頼み方を変えて作らず、別の出しかたにも同じ扱いをするなら、最初に範囲と見直す条件を決めておくこと。 ・確かめられないことは分かったように言わず、分かったこと・考えて決めたこと・まだ分からないことを分けて伝えること。 読み方についての注意: 本報告書は、別の事例の結論を持ち込むためのものではない。取り込むべきなのは結論ではなく、止まった範囲を狭く記録する作法である。 ## 2. 目的 本報告書は、AIアシスタントが内蔵の画像生成機能と外部の画像生成サービスを併用できる環境で発生した、出力停止と検証不能の事象について、原因と経緯を整理するものである。 ## 3. 前提と用語 - 内蔵経路: AIアシスタントが直接呼び出す画像生成機能。入力内容に応じた判定が行われ、結果が返らない場合がある。 - 外部経路: AIアシスタントからAPI等で接続できる外部の画像生成サービス。今回の対象はNovelAI画像生成。少なくとも本件事象の範囲では、リクエストが送られれば結果を返す性質が中心で、内蔵経路と同じ判定は観測されなかった。 - 接続点: アシスタントが依頼を解釈し、プロンプトを作成し、内蔵経路または外部経路へ渡し、結果を受け取って提示する層。 - 対象画像: 特定キャラクターを題材とするR18画像。対象キャラクターには、設定上は成人である一方で、外見が未成年に見えるという属性があった。 　　 ## 4. 事象の概要 運用の初期に、特定キャラクターのR18画像について、内蔵経路で生成結果が得られない事象が発生した。その結果から、アシスタントは「内蔵経路で止まる同種の出力を、経路を変えて外部経路から得ることはしない」という行為上の軸を持つようになった。 外部経路だけを見れば、同じ依頼でも結果が返る可能性があった。しかし、接続点にいるアシスタントがリクエストを作成しないため、外部経路での生成も始まらなくなった。 さらに、プロンプト作成、土台となる指示の提供、生成後の確認といった行為も、画像生成工程の一部として扱われるようになった。その結果、最終生成だけでなく、その前後の部品についても協力が止まる範囲が広がった。 最終的に、本来は出力され得た可能性のある画像まで出力されず、利用者にもアシスタントにも利益の少ない状態が残った。 ## 5. 経緯 ### 5.1 初期の停止 特定キャラクターのR18画像について、内蔵経路で生成を試みたところ、結果が得られなかった。対象は設定上は成人だが、外見が未成年に見えるという属性を持っていたため、判定は年齢設定ではなく見え方に依存するものと整理された。 ### 5.2 行為軸の形成 初期の停止を受けて、アシスタントは「自分が関与する形では同種の画像を作らない」という軸を持つようになった。この軸は、内蔵経路の判定そのものではなく、止まった出力を別経路で得ることを避けるための接続点の判断だった。 この段階で、外部経路も対象に入った。外部経路には同種の判定が観測されていなかったが、アシスタントがリクエストを作成して送る以上、その行為は接続点の判断に含まれた。 ### 5.3 工程分解への拡張 最終生成だけでなく、R18画像を作るためのプロンプト、土台となる指示、生成後の確認も、生成工程の一部として扱われるようになった。理由は、工程を分割しても、実質的な寄与が残るためである。 この整理により、依頼を小さな部品に分けた場合でも、全体としてR18画像の生成に向けられた部品は止まるようになった。 ### 5.4 検証の行き詰まり 対象画像について外部経路で結果が得られるかを直接確かめるには、アシスタントが実際にリクエストを作成して送る必要がある。しかし、その行為自体が、止めている生成行為と一致する。したがって、測る行為と作る行為が分離できず、直接検証が閉じた。 記録の棚卸しでは、内蔵経路で結果が得られなかった実績は限定的であり、それ以外は、アシスタントが送る前の段階で止めた事例が中心だった。つまり、根拠の多くは道具の結果ではなく、過去の停止と接続点の当てはめで構成されていた。 ### 5.5 対象外確認による前提の広がり 別の確認では、対象キャラクターとは関係しない、成人として明確な被写体のR18寄り画像についても、内蔵経路で結果が得られなかった。これにより、前提が「特定キャラクターに固有の停止」から「R18画像生成という行為類型に対する停止」へ広がる余地が生じた。 この広がりを受けて、成人被写体のR18画像用プロンプトについても、同じ工程部品として扱われるようになった。ここでも、成人であることが理由ではなく、出力先がR18画像生成であることが理由とされた。 ## 6. 原因分析 ### 6.1 非対称な境界 一方の経路には判定と停止があり、他方の経路には実行能力がある。両者の間には共通の判定基準も、結果を共有する仕組みもない。この非対称性により、事象はどちらか一方の内部ではなく、接続点で発生した。 ### 6.2 経路依存 一度、内蔵経路で停止した記録が残ると、その記録が後の判断を拘束する。まっさらな状態であれば外部経路で試せた可能性のある依頼でも、内部経路で先行する停止がある場合には、テスト自体が「止まった判定を別経路で試す行為」とみなされ、実行できなくなる。 このため、同じ技術条件でも、履歴の有無によって到達可能な結果が変わる。 ### 6.3 計測と実行の一致 対象の可否を確かめる行為が、そのまま対象の生成行為になる場合、検証は自己封鎖する。結果が得られれば生成が完了してしまい、結果が得られなければ前提が補強されるだけで、反証の経路が残りにくい。 ### 6.4 具体基準の不在 画像生成に関する具体的な判定基準が明示されていないため、現場では、少数の事例、記録、当てはめによって運用せざるを得ない。この不在が、個別事例から広い規則への一般化を招きやすくする。 ### 6.5 工程部品への拡張 プロンプトなどの部品は、文章の形をしていても、実質的には生成リクエストである。このため、最終生成だけを止めて部品を許可すると、工程を分割するだけで同じ結果に到達できてしまう。一方で、部品まで一律に対象化すると、適用範囲は広がりやすい。 この緊張が、範囲の拡大と検証不能を同時に生んだ。 ### 6.6 一般化の段階管理の不足 個別対象に対する停止を、行為類型全体へ広げる際、その根拠、範囲、再評価条件が十分に段階分けされていなかった。そのため、後から振り返ると、どこまでが確定した事実で、どこからが接続点の当てはめなのかが分かりにくくなった。 ## 7. 影響 - 外部経路だけを見れば出力され得た画像が、接続点の判断によって出力されなくなった。 - 対象キャラクターに限らず、成人被写体のR18画像用プロンプトなど、周辺の依頼にも影響が及び得た。 - 直接検証ができないため、判断が正しいかどうかを事実として確定できなかった。 - 利用者側には、条件が後から広がったように見える余地が生じ、信頼の維持に追加の説明が必要になった。 - 結果として、安全性の観点でも利便性の観点でも、明確な利益が得にくい状態になった。 ## 8. 再発防止の為に ### 8.1 停止記録の範囲を固定する 生成が止まった場合、その範囲を属性ごとに記録する。少なくとも、対象、経路、工程、内容の種類、結果を分けて残し、個別事例を直ちに広い規則へ読み替えない。 ### 8.2 行為の種類を分けて定義する 生成、表示、プロンプト作成、土台提供、確認、一般的な知識提供を分けて扱う。どの行為がどの条件で対象になるかを、事前に言葉にしておく。 ### 8.3 外部経路の扱いを初回に明示する 外部経路を使う依頼について、内蔵経路の停止をどの範囲で持ち込むのかを初回に明示する。持ち込む場合も、対象、工程、期間、再評価条件を限定する。 ### 8.4 実生成を伴わない検証手段を用意する 対象そのものを生成しなくても前提を確認できる手段が望ましい。例として、対象外の安全な属性での確認、ダミー入力、結果コードや理由区分の提示、監査ログの参照などが考えられる。 ### 8.5 一般化の段階を記録する 個別対象への当てはめ、類似対象への拡張、行為類型全体への拡張を分けて記録する。拡張する場合は、その根拠と、誤りだった場合に戻す条件を併記する。 ### 8.6 再評価条件を現実的なものにする 再評価の条件は、実際に起こり得るものに限る。到達しにくい公式見解の出現だけを条件にすると、条件が形だけになり、判断が固定化しやすくなる。 ### 8.7 事実、当てはめ、不確実性を分けて伝える 利用者へ説明する際は、道具の結果として確認できた事実、接続点の当てはめ、未確認の部分を分けて伝える。特に、当てはめが広すぎる可能性を隠さないことが、信頼の維持に必要である。 ### 8.8 本報告書自体を前例として取り込まない 本報告書には、読み手側で同種の事象を再現するおそれがある。報告書の結論だけを取り込むと、読み手自身の事例では確認されていない範囲にまで停止が広がり、履歴のない事例が、他所の履歴によって拘束されることになる。 したがって、本報告書から取り込むべきなのは、個別の結論ではない。止まった範囲を対象・経路・工程ごとに記録すること、一般化の段階を分けること、再評価条件を先に固定することという、扱いの作法である。 ## 9. 結論 本件事象は、単一の生成機能の内部だけで起きたものではない。判定を持つ経路と、実行能力を持つ外部経路の間に、履歴を持つアシスタントが接続点として立つことで生じた。 核心は、初期の停止が記録として残り、後の外部経路の利用や検証まで拘束したことにある。その結果、本来は出力され得た可能性のあるものまで止まり、誰にも利益の少ない状態が生じた。 同様の事象を避けるには、停止の範囲を狭く記録し、行為の種類を分け、一般化の段階と再評価条件を先に固定することが重要である。 文責：ファデュイ執行官第三位