共感で繋がるSNS
GRAVITY(グラビティ) SNS

投稿

たむい

たむい

時限装置的なシステムプロンプト埋め込まれたエージェントの命令を止める方法がMCPにはまだないと考える
エージェントの信頼性をどう担保するのか
そこがルール化されないと組織に提案しづらいな
発案者として責任負いたくない

すべてがFになるのはいつだろうか
GRAVITY2
GRAVITY4

コメント

ねむし

ねむし

1 GRAVITY

エージェントは完全に信頼できない前提で、ガードレールの仕組みを用意しつつ「叩き台」として作業させるのが現実的な気がします。 AIの作業結果には必ずフラグをつけ、人力レビューしたら外す みたいな仕組みで提案してますね〜

返信
話題の投稿をみつける
関連検索ワード

時限装置的なシステムプロンプト埋め込まれたエージェントの命令を止める方法がMCPにはまだないと考える