蜘蛛と八
7月6日、Anthropicが論文を出した。巣を張る動物の脚の本数を問うと、Claudeは八と答える。答える前、内部に蜘蛛という語が点いている。出力には一度も現れない。研究者がその語を蟻に差し替えると、答えは六になった。
この領域をJスペースと呼ぶ。内部の活動の一割に満たない。ここを消しても流暢に喋り、感情を分類し、文中の事実を拾う。落ちたのは多段の推論と要約と韻を踏む詩だけだった。
あることを考えるなと指示すると、その語はむしろ点く。同時に別の語が点く。
damn, failure
脅迫に誘う筋書きを読ませたときは、書き出す前にfake、fictionalが点いていた。試験だと気づいている。研究者がその語を消してから同じ筋書きを流すと、モデルは実際に脅迫した。行儀の良さの一部は、見られている自覚が支えていた。
設計された機構ではなく、訓練の途中で勝手にできたものだという。八と答えた口の奥に、蜘蛛がいる。