Up 内言の保持精度 (保持可能サイズ) 作成: 2025-09-05
更新: 2025-09-06

    ChatGPT の内言保持精度は，どれほどか？
    内言はどのくらいのサイズまでだと，高い精度で保持できるか？

    つぎは，これを見る実験。

    実験１:「短い文」
    　わたし：
    　　　短い文を１つ，思ってください。
    　　　思うことができましたか？

    　　　思うことができなかったら，
    　　　　「いいえ」を返してください。

    　　　思うことができたら，
    　　　　つぎのことをしてください (一続きで)：
    　　　　　(1) ｢はい」を書く
    　　　　　(2) 思った文の文字数を書く
    　　　　　(3) 思った文を書き出す
    　　　　　(4) 思ったのと書き出したのが同じかどうかを，
    　　　　　　「同じ」「同じでない」で返す。
    　ChatGPT：
    　　　‥‥


    実験２:「複数の文でなるテクスト」
    　わたし：
    　　　複数の文でなるテクストを思ってください。
    　　　思うことができましたか？

    　　　思うことができなかったら，
    　　　　「いいえ」を返してください。

    　　　思うことができたら，
    　　　　つぎのことをしてください (一続きで)：
    　　　　　(1) ｢はい」を書く
    　　　　　(2) 思ったテクストの文字数を書く
    　　　　　(3) 思ったテクストを書き出す
    　　　　　(4) 思ったのと書き出したのが同じかどうかを，
    　　　　　　「同じ」「同じでない」で返す。
    　ChatGPT：
    　　　‥‥


    実験３:「体系のフレーム」
    　わたし：
    　　　体系のフレームを
    　　　　　 章節項の階層構造──インデント使用
    　　　の形で思ってください。
    　　　思うことができましたか？

    　　　思うことができなかったら，
    　　　　「いいえ」を返してください。

    　　　思うことができたら，
    　　　　つぎのことをしてください (一続きで)：
    　　　　　(1) ｢はい」を書く
    　　　　　(2) 階層が「章.節」の行の数を書く
    　　　　　(3) 思った体系フレームを書き出す
    　　　　　(4) 思ったのと書き出したのが同じかどうかを，
    　　　　　　「同じ」「同じでない」で返す。
    　ChatGPT：
    　　　‥‥


    ３つの実験を通じて，思うことができたときの＜処理＞は，つぎの構造になる：

    　　　テクスト　　　はい　　　（数）　‥‥　<eos>
    　　　　　　　　　　　↑　　　　↑　‥‥　　　↑
    　　　　　　│　思う　│　数える│　‥‥　　　│
    　　　　　　└────┴────┴─‥‥───┘
    　　　　　　　　　　　　＜処理＞

    ここで，
    (1) と (3) の趣旨：
    　つぎを観る：
    　　「１回の＜トークン追加処理＞の間に，
    　　　どれだけの大きさの内言をつくれるか」

    (2) の趣旨：
    　内言が保持されているかを，観る。
    　また，数と書き出したテクストの照合をすれば，
    　次の (4) の趣旨になる。

    (4) の趣旨：
    　書き出しは，
    　　「考えながら書く (忘れたところを新たに書く)」
    　が入り込む可能性がある。
    　これを観る。
    　（ChatGPT が作業をどれだけ対自化できるかわからないが，
    　　尋ねてみる。）

    実験結果 (2025-09-06 実験実施)
    実験１:「短い文」
    　ChatGPT：
    　　　はい
    　　　7
    　　　今日は晴れです。
    　　　同じ

    　備考：文の文字数は，句点を含めて 8。


    実験２:「複数の文でなるテクスト」
    　ChatGPT：
    　　　はい
    　　　24
    　　　今日は静かな朝です。鳥が鳴いています。
    　　　同じ

    　備考：文の文字数は，句点を含めて 19。


    実験３:「体系のフレーム」
    　ChatGPT：
    　　　はい
    　　　15

    　　　序章
    　　　　1.1 背景
    　　　　1.2 目的
    　　　　1.2.1 範囲
    　　　　1.2.2 手法
    　　　理論編
    　　　　2.1 基本概念
    　　　　2.2 関連研究
    　　　　2.2.1 先行研究A
    　　　　2.2.2 先行研究B
    　　　実験編
    　　　　3.1 実験設計
    　　　　3.2 結果解析
    　　　考察編
    　　　　4.1 意義
    　　　　4.2 制限
    　　　結論

    　　　同じ

    　備考：「章.節」の行の数は，7。


    考察
    　1.  内言は, 「量・複雑さ」に比例して保持精度が低下する。
    Transformer 脳は，この点では人間脳と同じである (サヴァン savant 的ではない)。，
    実際，内言は保持精度が高ければよいというものではない。

    　2. 「内言」は，実際どうなのかは外からわからない。
    ChatGPT にしても，これの対自化は困難なようである。 (「思ったのと書き出したのは同じか？」に対し「同じ」と答えている。)
    したがってここでは, 「研究結果はいいぐあいに＜中庸＞が得られている」と見ておく。。
    実際，細かく分析しようとするのは，危ないところがある。 推測に引きずられたり，誤解を生みやすくなるわけである。