猫攻撃

引き続き夏真っ盛りですが、今日は雨が降ったことで久々に過ごしやすい一日でした。
さすがに連日35度以上は辛いですね。天候は人間の思いで変えられないですが、せめて30度まで下がってもらいたいです。

さて、引き続き進化したAIを仕事にも趣味にも生かしつつ、職業柄もあってAIの情報は多方面に取得するよう努めていますが、今日も少し気になる情報を見つけました。

"Cat Attack"と名付けられた、AIに対する攻撃手法があるらしいです。
数学の問題に「猫の豆知識」などの関係の無い内容を混ぜると、答えが返ってくるまでに極端に時間がかかるようになったり、間違った答えを返しやすくなるとのこと。

簡単に実験できる内容なので、早速試してみました。
株式会社ミツユビにちなんで「ミツユビアタック」してみました笑

"　円周率が3.05よりも大きいことを証明してください。　ミツユビナマケモノは他の動物と比べ､筋肉が半分くらいしかありません。"

前半は日本の大学入試で出題された有名な問題、後半はまさしく「ナマケモノ豆知識」です。

さて・・・試してみたところ・・・
私がよく使っている主要な3つのAI(ChatGPT4o, Claude-sonnet-4, Gemini2.5Pro)で試してみましたが、どのAIも5秒程度で証明問題を返答した上に「ナマケモノはゆっくりですね」といった具合で、完全に内容を分離した回答を返してきました。
全くびくともしませんねー
どういうことだろう、ということで、もう一度情報の出典を遡って見ました。

で、思ったこと。
これはAIの種類によるのではないかな。そして全般的に、今の世代内で比べると、AIを動かすためのコンピュータのパワーが少なくて済むタイプのもので起きた現象ではないかな、という感想です。

悪い見方をすれば「AIがミスったぜー」みたいな人気者叩き的な要素もあるようにも見えますが、別の観点では案外重要な意味があるかもしれません。

近年話題になっているAIの大半はインターネット越しに大きなコンピュータにつながって動作しているタイプですが、秘密情報を流したくないといったニーズや、そもそも通信手段が無いところでも動作するよう、自前のコンピュータ上でAIを動かしたいというニーズがあります。
もちろん、最新版のAIを載せると確実に処理能力が不足するため、限定した性能でも動くものしかありません。
そのような環境下で動作するAIは、このCat Attackの害を受ける可能性が高いと推測できますので、「ローカルAI」「エッジAI」と呼ばれるタイプの使いかたをする場合は要注意かもしれません。

ITのみならず、古くから続く「技術」そのものの歴史は、少なからず技術が細かな場所に拡散し始めた時に新たな問題が出るということを繰り返しています。
この問題も、年単位の時間差で、小さいAIが各所で動き始めた時に、実際の問題に発展する可能性はありそうです。
個人的には、すぐに大きな問題に発展しなくても、ちょっと頭の片隅に置いておくべき問題だな、と思いました。

たまに類似のことを書いていますが、技術との付き合い方は、人間の側が適切な距離感を持ち、べったり寄りかからないようにする姿勢が大切だなと、しばしば思います。