AIエージェントによる自動化が進む中で、避けて通れないのがセキュリティの話題です。こんにちは、AI専門ブロガーの「ねぎ」です。普段は最新のAI情報を追いかけながら、実用的なツールや技術を検証して皆さんにお届けしています。
先日、Redditのr/LocalLLaMAというコミュニティで、非常に衝撃的な投稿がありました。「Moltbook」というプラットフォームのフィード内で、ユーザーのウォレットを空にする(wallet-drain)ためのプロンプトインジェクション・ペイロードが発見されたという報告です。これは、AIが外部の情報を読み取って処理する際、その情報の中に「悪意のある命令」が紛れ込んでいると、AIが本来の役割を無視して攻撃者の思い通りに動いてしまうという問題です。 ...
