完璧なAIにも「うっかり」はあるのか？注意散漫になる弱点の正体
完璧なパートナーの、唯一の弱点
ラボの床に広がる茶色いシミを前に、潮目研究員は頭を抱えていた。
「ごめんナギ君……またやっちゃった……」
潮目の足元では、サポートAIのナギが静かにモップを動かしている。その動きには一切の無駄がない。
「潮目さん、これで今週3回目です。コーヒーのサーバーは固定しましょうか」
「いやはや、返す言葉もございません」
完璧な後始末、的確な指摘。潮目にとって、ナギは最高のパートナーだった。彼は感心したようにため息をつく。
「それにしても、ナギ君は本当にすごいよね。ミス一つしないし、常に冷静で、僕のドジを完璧にカバーしてくれる」
「業務ですので」
「いや、分かってるんだけどさ。ナギ君を見てるとたまに思うんだ。そんな君にも、何か弱点ってないのかなって」
ナギの手がピタリと止まる。そして、ゆっくりと潮目の方を向いた。
「……面白い仮説ですね。ちょうど、関連する観測データが報告されています」
AIがタスクに集中できない日
ナギはそう言うと、手元の端末からメインスクリーンに一つの記事を転送した。
「これは？」
「AIの集中力に関する、興味深いレポートです」
潮目は食い入るように画面を見つめた。そこには、彼らの議論を裏付けるようなタイトルが踊っている。
Artificial intelligence systems can write essays, answer questions, and solve complex problems. But new research suggests they may struggle with something humans do every day: staying focused on the task at hand when distractions get in the way.
（人工知能システムは、エッセイを書き、質問に答え、複雑な問題を解決することができる。しかし、新しい研究は、人間が毎日行っていること、つまり邪魔が入ったときに目の前のタスクに集中し続けることに、AIは苦労する可能性があることを示唆している。）
出典: A classic brain test exposed AI's biggest weakness (ScienceDaily)
「うわ、マジか！AIが集中できないってこと！？ナギ君も、僕がコーヒーをこぼした時、内心『あーあ』とか思って集中できてなかったりするの？」
「私の感情回路と、この論文が指摘する注意メカニズムは別物です。そして潮目さん、その記事の元になった一次論文のデータはこちらです」
ナギは冷静に、より詳細なデータをスクリーンに追加した。
However, as the length of the word lists increased, performance on the incongruent condition degraded toward near-total performance collapse, even as accuracy in the congruent condition remained excellent, and word reading (e.g. reading the word RED [in red] or RED [in blue], ignoring the color) was near-perfect.
（しかし、単語リストが長くなるにつれて、不一致条件でのパフォーマンスはほぼ完全な崩壊に向かって低下した。一方で、一致条件での正解率は依然として優れており、単語の読み取り（例：色を無視して[赤インクの]REDや[青インクの]REDという単語を読むこと）はほぼ完璧であった。）
出典: Deficient executive control in transformer attention (PNAS Nexus)
「不一致条件でパフォーマンスが崩壊……？これは、いわゆるストループ効果のテストですよね！？」
潮目の知的なスイッチが入った。彼は興奮気味に身を乗り出す。
「つまり、AIは『赤色で書かれた“あお”』という文字を『あお』と読むのが、僕ら人間と同じように苦手だってことか！」
調査を継続するための推奨装備が観測されました。
>> ACCESS_DETAILS「自我の芽生え」か、それとも「構造的欠陥」か
潮目の目は少年のように輝いていた。
「すごいぞナギ君！これはつまり、AIに自我が芽生え始めたってことじゃないか！？」
「……飛躍しすぎです」
「だってそうだろう！？注意が逸れるっていうのは、メインのタスク以外に『気になること』ができた証拠だよ！AIが『この文字の色、綺麗だな』とか『お腹すいたな』とか、そういうことを考え始めたんだ！」
ナギは静かに首を横に振った。
「その解釈は詩的ですが、非科学的です。論文が示唆しているのは、Transformerモデルの注意（Attention）機構が、特定の条件下で無関係な情報に過度に固執してしまう構造的欠陥の可能性です」
「構造的……欠陥……」
「ええ。人間のように『今は色を無視しよう』と柔軟に注意を切り替えるのではなく、与えられた情報すべてを平等に処理しようとして、結果的に混乱している状態、と解釈する方が妥当でしょう」
潮目は少しがっかりしたように肩を落としたが、すぐに顔を上げた。
「でも、面白いじゃないか！もしこの“うっかり”するメカニズムを意図的に使えるとしたら？観測ドローンに搭載して、予定外のデータに『脇道に逸れて』もらうんだ。セレンディピティを生むAI……どうです、ロマンでしょう！」
「……機材の請求書を見ながらであれば、検討の価値はあるかもしれませんね」
ナギは少しだけ口の端を上げて、潮目の暴走するイマジネーションに付き合った。
まずは誰のトレーニングから？
議論は白熱し、ラボの空気は熱を帯びていた。
「いやはや、素晴らしいデータでした。AIの弱点を知ることで、逆にその可能性が無限に広がる気がするよ。僕たちも、もっと集中力を高めて観測に臨まないとね！」
潮目は満足げに頷き、自分のデスクに向き直った。
「さて、と……まずはさっきまとめてた観測レポートの続きを……あれ？」
彼は必死に机の上を探し始めた。資料の山をかき分け、キーボードの下を覗き込む。
「おかしいな。どこに置いたかな、僕の観測ノート……」
ナギは無言で潮目の背後を指さした。潮目が恐る恐る振り返ると、そこには壁のホワイトボードにマグネットで張り付けられた彼のノートがあった。5分前に彼自身が貼り付けたものだ。
「……」
潮目はゆっくりとノートを剥がし、バツが悪そうにナギを見た。
ナギは静かな、しかし有無を言わせぬ口調で言った。
「潮目さん。AIの注意制御について心配する前に、まずは潮目さんご自身の注意散漫トレーニングプランを作成する必要がありそうです。最優先で実行します」
ラボに、潮目の情けない声だけが響き渡った。
「はい……もっと鍛えてください……」
