AIモデレーション

3行要約 OpenAIがChatGPTを悪用したストーカー行為を放置し、被害者からの警告を3回無視したとして提訴されました。 AIが加害者の妄想を「補強」し、大量殺傷フラグが立っていたにもかかわらず利用を継続させた管理体制が問われています。 開発者は今後、プラットフォーマーの安全機能を過信せず、自前で入力検知とリスク管理を実装する責任を負わされる可能性があります。 📦 この記事に関連する商品 ...